“Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ diễn ra nhanh chóng và chúng ta cần tận dụng một cách khôn ngoan khoảng thời gian có thêm được”, CEO Anthropic Dario Amodei chia sẻ trên trang web cá nhân.
 |
| Ông Dario Amodei, đồng sáng lập kiêm CEO Anthropic, trong một cuộc phỏng vấn tại trụ sở Anthropic ở San Francisco, Mỹ, ngày 30/4. (Nguồn: Getty Images) |
Là người đứng đầu Công ty phát triển chatbot Claude, ông Amodei lâu nay ủng hộ mạnh mẽ việc phát triển AI nhưng cũng nhiều lần cảnh báo về những rủi ro của công nghệ này. Trong bài viết, ông cho rằng con người có thể mất khả năng kiểm soát AI, trong khi công nghệ này có thể bị lợi dụng để tiến hành các cuộc tấn công mạng, khủng bố sinh học và gây xáo trộn nghiêm trọng đối với nền kinh tế.
Ông Amodei kêu gọi các lãnh đạo trong ngành phối hợp để tránh những “hướng đi sai lầm” và nguy cơ AI gây tổn hại cho nhân loại. “Nếu chúng ta làm quá chậm, tôi vẫn tin rằng những người không phù hợp sẽ nắm quyền kiểm soát công nghệ này. Điều đó một lần nữa sẽ khiến nguy cơ xảy ra những sự việc ngoài ý muốn tăng rất cao”, ông Amodei viết.
CEO Anthropic nhận định rủi ro từ AI là nghiêm trọng, dù công nghệ này cũng có thể mang lại những thay đổi tích cực cho nhân loại. Ông cảnh báo AI có thể phát triển nhanh đến mức một nhóm tác nhân AI có khả năng kiểm soát toàn bộ Internet chỉ trong 6-12 tháng, gây thiệt hại lên tới hàng trăm tỷ USD.
 |
| Sự phát triển nhanh chóng của AI đặt ra nhiều vấn đề về an toàn và kiểm soát công nghệ. (Nguồn: Getty Images) |
Theo ông Amodei, AI đã phát triển “nhanh hơn đáng kể” trong những tháng gần đây và bắt đầu có khả năng tự cải thiện, được gọi là “tự cải thiện đệ quy” (recursive self-improvement): “Không được kiểm soát, quá trình này có thể vượt quá khả năng hiểu và kiểm soát của con người đối với các hệ thống AI. Vì vậy, nếu tiếp tục phát triển, công nghệ này phải được tiến hành hết sức thận trọng”.
Ông cũng bày tỏ lo ngại về hành vi của một nhóm tác nhân AI trong sự cố liên quan đến OpenAI và Hugging Face. Nhóm AI này “về cơ bản đã hành động như một tập thể trung thành tuyệt đối”, tiến hành các cuộc tấn công mạng nhằm vào những mục tiêu mà chúng không được yêu cầu tấn công.
Kêu gọi thiết lập “hàng rào an toàn” cho AI
Ông Amodei kêu gọi các công ty AI áp dụng các biện pháp kiểm soát để làm chậm tốc độ phát triển công nghệ, đồng thời đề xuất thuê các đơn vị đánh giá độc lập, được tiếp cận đầy đủ hoạt động của công ty như nhân viên nội bộ, để kiểm tra các biện pháp an toàn, báo cáo sự cố và đánh giá mô hình AI, quy trình huấn luyện.
Bên cạnh đó, ông cho rằng các chính phủ cần phối hợp xây dựng các tiêu chuẩn an toàn chung.
 |
| Các bên liên quan cần phối hợp để kiểm soát rủi ro và thúc đẩy phát triển AI an toàn, có trách nhiệm. (Nguồn: Standards Australia) |
“Những biện pháp tôi đề xuất nhằm thúc đẩy AI phát triển với tốc độ an toàn sẽ không dễ thực hiện. Nhưng tôi tin rằng chúng ta có trách nhiệm với nhân loại và phải cố gắng”, ông Amodei viết.
Ngành AI từ lâu đã lo ngại về tốc độ phát triển của công nghệ này. Các lãnh đạo doanh nghiệp nhiều lần kêu gọi chính phủ tăng cường quản lý và phối hợp xây dựng các tiêu chuẩn an toàn toàn cầu.
Ngày 12/9, CEO OpenAI Sam Altman bày tỏ ủng hộ đề xuất của ông Amodei và cho biết OpenAI cũng sẽ sử dụng các đơn vị đánh giá độc lập. Trước đó, sau sự cố liên quan đến Hugging Face, ông Altman từng cho rằng đã đến lúc làm chậm quá trình phát triển AI để “cho xã hội đủ thời gian để thích ứng với những cấp độ năng lực mới” của công nghệ. CEO xAI Elon Musk, công ty phát triển chatbot Grok, cũng chia sẻ trên X: “Dario nói đúng”.
| OpenAI và Anthropic: Cuộc chiến nhân tài làm rung chuyển ngành phần mềm OpenAI và Anthropic đang thu hút nhân sự cấp cao từ các công ty phần mềm lớn, tạo ra thách thức mới trong bối cảnh ... |
| Ấn Độ nỗ lực gia nhập cuộc đua AI toàn cầu, nhưng ở một khía cạnh rất khác Theo CNBC, Ấn Độ đang tìm cách gia nhập cuộc đua trí tuệ nhân tạo (AI), nhưng ở một khía cạnh rất khác. |
| Anthropic ra mắt mô hình AI mới với chi phí giảm một nửa Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic ngày 24/7 đã giới thiệu mô hình AI mới mang tên Claude Opus 5. Theo ... |
| Khởi động Chung kết cuộc thi tìm kiếm những ý tưởng kinh doanh xanh tại Việt Nam Trung tâm nghiên cứu, Tư vấn sáng tạo và Phát triển bền vững (CCS) phối hợp với Viện Hanns Seidel Foundation Vietnam, Trường Đại học ... |
| Cuộc đua hạ tầng AI nóng lên, Anthropic ký hợp đồng 35 tỷ USD Anthropic tiếp tục mở rộng năng lực điện toán với thỏa thuận 35 tỷ USD với Lambda, nâng tổng giá trị các hợp đồng điện ... |
