Hôm qua, OpenAI - công ty chủ quản của ChatGPT mà chúng ta hay sử dụng đã công bố 2 mô hình nguồn mở có tên:gpt‑oss‑120b and gpt‑oss‑20b với giấy phép Apache 2.0.
Apache License 2.0 là một giấy phép nguồn mở “permissive” – nghĩa là ai cũng có thể tải về, cài đặt, sửa đổi, và khai thác thương mại phần mềm, miễn là tuân thủ vài điều kiện rất nhẹ nhàng.
Nhưng vấn đề ở đây, không phải là hàng tặng cho vui, nó rất nhẹ và mạnh. Hoàn toàn có thể triển khai trên máy tính PC và Laptop.
Cụ thể:
- Mô hình gpt-oss-120b đạt được sự chênh lệch gần với Openai O4-Mini trên các điểm chuẩn lý luận cốt lõi, trong khi chạy hiệu quả trên một GPU 80 GB duy nhất - Cơ mà đọc trên website thấy chỗ ghi là chạy được trên high-end laptop, hơi khó hiểu.
- Mô hình gpt-oss-20b cung cấp kết quả tương tự như Openai O3-mini trên các điểm chuẩn thông thường và có thể chạy trên các thiết bị chỉ với 16 GB bộ nhớ, khiến nó trở nên lý tưởng cho các trường hợp sử dụng trên thiết bị, suy luận cục bộ hoặc lặp lại nhanh chóng mà không cần hệ thống máy chủ tốn kém.
Đây là một món quà khá bất ngờ từ OpenAI, dường như không một ai nghĩ rằng nó có thể xảy ra, đặc biệt là khi công ty toàn bộ mô hình của OpenAI tung ra trước giờ đều là mô hình kín (private model) dưới hình thức thương mại - nôm na tôi chỉ bán lượt sử dụng cho các ông, chỉ thế thôi.
Vậy thì bạn được hưởng lợi gì? Đọc tiếp nhé!!!
- Tự phát triển chatbot, chat app, các ứng dụng sử dụng trí thông minh AI mà không cần phải trả tiền API. Dĩ nhiên bạn phải có sẵn máy chủ, hoặc máy tính khỏe khỏe tý để cài nó và chạy.
- Một lựa chọn khác, nếu bạn ko tin tưởng vào những mô hình như DeepSeek, QWEN... đồ Trung Quốc mà.
- Không phải tiết lộ thông tin nội bộ, chính trị, nhạy cảm cho bên thứ 3.
- VN chúng ta có thể chủ động tinh chỉnh nó lại để phù hợp hơn với các bài toán của chúng ta, tận dụng chúng để phát triển ra các ứng dụng chuyên biệt cho VN.
- Sinh viên cũng có thể tự cài, tự labs trên máy. Thầy cô cũng chủ động hơn trong việc dạy học (cái này mình đang nhìn dưới góc độ trường ĐH, các cấp học dưới chưa biết áp dụng đc ko?)
.....
Nói chung tính ứng dụng rất cao, cao nhất vẫn là tiết kiệm xèng đặc biệt trong bối cảnh oánh nhau về kinh tế, giá vàng đô la cứ tăng vèo vèo thế này.
Mình nghĩ cái này cực hợp với anh em cần mô hình rẻ, chất lượng ổn cần để build chatbot!!! Anh em nghĩ sao, comment ý kiến nhé!!!
https://www.facebook.com/groups/bdaivn/posts/1042843257657523/