Gần đây, khi chạy một mô hình cục bộ với llama.cpp hoặc vLLM, tôi luôn cảm thấy rằng ‘VRAM’ Không phải vậy đủ’;Giá quá cao so với 5090 và khả năng tương thích thường gây thất vọng khi tôi đến Mac Studio, vì vậy tôi đã tìm được một giải pháp thay thế khá tốt.GPU là Intel Arc Pro B70 32GBNếu bạn nhận được lợi ích thanh toán, thiết lập 250K có giá 2,99 triệu won,https://item.gmarket.co.kr/Item?goodscode=4440115723270K chi phí thiết lập là 3,46 triệu won. Bộ nhớ mặc định là 32 GB và SSD 1 TB. Khả năng sử dụng VRAM trong tầm giá này dường như là một lợi thế rõ ràng cho những ai muốn xây dựng môi trường địa phương.Nhìn vào video trình diễn, có vẻ như họ đang bán trình khởi chạy AI của riêng mình, công cụ này hoàn hảo để định lượng và tải lên mô hình lớp 70B hoặc chạy đa tác nhân và thử nghiệm. Đây là một máy trạm AI cá nhân hoàn hảo thay vì để chơi game.https://youtu.be/txPr3k8SVgc