CEO của Meta Mark Zuckerberg đã đăng trên Instagram Reels hôm 18/1 rằng “lộ trình tương lai” dành cho AI của công ty yêu cầu phải xây dựng “hạ tầng điện toán khổng lồ”. Đến cuối năm 2024, hạ tầng này sẽ có sự phục vụ của 350.000 con chip Nvidia H100.
| Mark Zuckerberg nói AI là lĩnh vực ưu tiên đầu tư hàng đầu của Meta trong năm 2024. |
Zuckerberg không tiết lộ đã mua bao nhiêu bộ xử lý đồ họa (GPU) nhưng Nvidia H100 được ra mắt thị trường vào cuối năm 2022 và nguồn cung cực hạn chế. Những nhà phân tích của hãng Raymond James ước tính Nvidia đang bán chip H100 với mức giá từ 25.000 đến 30.000 USD. Trên eBay, con chip có thể có mức giá hơn 40.000 USD. Nếu Meta mua được với giá thấp, chi phí phải bỏ ra cũng gần 9 tỷ USD.
Bên cạnh đó, CEO Meta cũng tiết lộ nếu tính cả những GPU khác, sức mạnh tính toán của hạ tầng tương đương 600.000 H100. Vào tháng 12/2023, Meta, OpenAI và Microsoft đã cho biết họ sẽ sử dụng chip Instinct MI300X AI mới của AMD.
Sở dĩ Meta cần nhiều con chip máy tính “hạng nặng” như vậy là vì công ty đang theo đuổi trí tuệ nhân tạo tổng hợp (AGI) mà Zuckerberg gọi đây là “tầm nhìn dài hạn”. OpenAI và DeepMind của Google cũng đang nghiên cứu AGI – một loại AI của tương lai kỳ vọng sánh ngang với trí tuệ loài người.
Nhà khoa học trưởng Yann LeCun của Meta cũng nhấn mạnh tầm quan trọng của GPU trong một sự kiện tháng trước ở San Francisco, Mỹ. Ông cho rằng nếu muốn có AGI, phải mua thêm nhiều GPU nữa. “Đang có một cuộc chạy đua AI và ông ấy (CEO Nvidia Jensen Huang) đang cung cấp vũ khí”.
Trong báo cáo doanh thu quý III/2023, Meta công bố tổng chi phí năm 2024 sẽ dao động ở mức từ 94 - 99 tỷ USD, một phần để mở rộng năng lực tính toán. Khi họp với những nhà phân tích, người đứng đầu tập đoàn cũng khẳng định “xét về những ưu tiên đầu tư, AI chính là lĩnh vực đầu tư lớn nhất năm 2024, cả về kỹ thuật lẫn nguồn lực máy tính”.
Mark Zuckerberg cho biết Meta có kế hoạch sử dụng “nguồn mở một cách có trách nhiệm” dành cho mô hình “AI tổng hợp” mà họ đang phát triển, một phương pháp mà công ty đã từng áp dụng với dòng sản phẩm ngôn ngữ lớn Llama.
Hiện Meta đang đào tạo Llama 3, đồng thời hỗ trợ nhóm Nghiên cứu AI Cơ bản (FAIR) cùng nhóm nghiên cứu GenAI hợp tác chặt chẽ hơn với nhau.