GPT-6 Astra Ultrafast dùng GPU NVIDIA Blackwell tăng tốc 8x

Ngày 1 tháng 10 năm 2026, Nvidia Blog công bố GPT-6 Astra Ultrafast vận hành trên GPU NVIDIA Blackwell, mang lại tốc độ tạo token nhanh hơn tới 8 lần so với chế độ Astra Standard.

Hiệu năng vượt trội của GPT-6 Astra Ultrafast trên nền tảng NVIDIA Blackwell

Vào ngày 1 tháng 10 năm 2026, theo Nvidia Blog, mô hình GPT-6 Astra Ultrafast chính thức vận hành trên GPU NVIDIA Blackwell và được tối ưu hóa liên tục qua các mô hình của OpenAI. Astra Ultrafast mang lại tốc độ tạo token nhanh hơn tới 8 lần so với chế độ Astra Standard.

Sự cải tiến này hiện đã có mặt thông qua OpenAI API cũng như đối với các người dùng đủ điều kiện của ChatGPT Work và Codex. Đối với nhà phát triển, tốc độ sinh mã nhanh hơn giúp rút ngắn chu kỳ chỉnh sửa - kiểm tra - gỡ lỗi của các tác nhân lập trình, giảm thời gian phản hồi giữa các lần gọi công cụ và giúp ứng dụng tương tác phản hồi nhanh nhạy hơn.

Tối ưu hóa phần cứng và phần mềm suy luận từ sự hợp tác giữa OpenAI và NVIDIA

Philippe Tillet, trưởng nhóm suy luận tại OpenAI, chia sẻ rằng khoản đầu tư sâu rộng của NVIDIA vào các công cụ và tài liệu đã giúp các mô hình của họ viết mã lập trình cho GPU Blackwell và Rubin xuất sắc. Astra có thể chuyển đổi kiến thức đó thành các kernel hiệu năng cao trên toàn bộ các tiêu chí độ trễ, thông lượng và chi phí.

Bên cạnh đó, OpenAI đã sử dụng chính các mô hình nội bộ của mình để tinh chỉnh phần mềm suy luận chạy trên GPU NVIDIA. Nền tảng NVIDIA có khả năng lập trình linh hoạt, cho phép tái sử dụng hạ tầng giữa quá trình huấn luyện, suy luận và học tăng cường, giúp cải thiện hiệu suất sử dụng tài nguyên tính toán theo nhu cầu thực tế.

Nguồn: Nvidia Blog