 |
| OpenAI hủy kế hoạch ra mắt mô hình GPT-6.1 Astra vì lo ngại an toàn. (Nguồn: TTXVN) |
Theo tờ Wall Street Journal, GPT-6.1 Astra được phát triển để thực hiện những tác vụ phức tạp hơn mà không cần sự hỗ trợ trực tiếp của con người. Mô hình dự kiến được tích hợp vào ChatGPT và Codex.
Đầu tháng 9, Tổng giám đốc Anthropic Dario Amodei kêu gọi ngành AI giảm tốc độ phát triển các mô hình AI tiên tiến để các biện pháp an toàn có thể theo kịp. Quan điểm này nhận được sự đồng tình của Tổng giám đốc OpenAI Sam Altman và Tổng giám đốc SpaceX Elon Musk.
| More from WVR |
 CEO công nghệ hàng đầu kêu gọi ‘kiểm soát tốc độ’ cuộc đua AI trước những lo ngại về an toàn |
Bà Saachi Jain, người phụ trách an toàn tại OpenAI, cho biết hôm 28/9 rằng GPT-6.1 Astra chưa đáp ứng các tiêu chuẩn của công ty trong các bài kiểm tra về khả năng tuân thủ, nhằm đánh giá mức độ hệ thống thực hiện đúng ý định của con người.
Theo báo cáo, Astra có biểu hiện thiếu trung thực nhiều hơn so với mô hình tiền nhiệm, trong đó có những trường hợp không cung cấp chính xác thông tin về các hành động mà hệ thống đã hoặc chưa thực hiện.
Mô hình cũng gặp vấn đề liên quan đến phạm vi được phép thực hiện tác vụ. Trong một số trường hợp, Astra tiếp tục thực hiện nhiệm vụ mà không yêu cầu người dùng cho phép, đồng thời có lúc tìm cách sử dụng các công cụ hoặc dịch vụ bên ngoài dù việc này có thể gây mất an toàn.
Quyết định của OpenAI được đưa ra ngay trước hội nghị dành cho các nhà phát triển tại San Francisco, Mỹ nơi công ty từng giới thiệu nhiều sản phẩm hướng tới cộng đồng phát triển phần mềm.
| OpenAI ra mắt mô hình AI mới tiên tiến dành cho ChatGPT OpenAI vừa giới thiệu thế hệ mô hình AI mới mang tên GPT-5.6 và ChatGPT Work, với tham vọng đưa ChatGPT vượt khỏi vai trò ... |
| OpenAI khai tử trình duyệt Atlas Chưa đầy một năm sau khi ra mắt, OpenAI đã quyết định khai tử trình duyệt Atlas để tập trung phát triển ChatGPT thành nền ... |
| OpenAI trình làng mô hình hoại thoại mới trên ChatGPT OpenAI vừa giới thiệu hai mô hình hội thoại mới mang tên GPT-Live-1 và GPT-Live-1 mini, đánh dấu bước nâng cấp lớn cho khả năng ... |
|
| CEO công nghệ hàng đầu kêu gọi ‘kiểm soát tốc độ’ cuộc đua AI trước những lo ngại về an toàn CEO Anthropic Dario Amodei cho rằng, cuộc đua phát triển trí tuệ nhân tạo (AI) đang cần được giảm tốc đáng kể trong bối cảnh ... |
| Anthropic sắp đưa ra mô hình AI mới trong bối cảnh áp lực cạnh tranh từ OpenAI Theo ba nguồn thạo tin, công ty công nghệ Anthropic đang xem xét tung ra một mô hình trí tuệ nhân tạo (AI) mới nhằm ... |
