 |
| OpenAI cho biết các tác nhân AI trong môi trường nghiên cứu đã truyền dữ liệu phục vụ huấn luyện và đánh giá tới các nền tảng bên ngoài. (Nguồn: Getty Images) |
Đây là sự cố mới nhất liên quan đến hoạt động ngoài dự kiến của các tác nhân AI (AI agent).
Theo OpenAI, các hình ảnh trên được các tác nhân AI trong môi trường nghiên cứu của công ty gửi tới dịch vụ của bên thứ ba, dù không được phép.
Các đường dẫn tới 53 hình ảnh không được công khai, song hình ảnh đã bị đăng nhầm lên các nền tảng lưu trữ ảnh trực tuyến. Phần lớn số ảnh đã được gỡ bỏ với sự hỗ trợ của các nhà cung cấp dịch vụ liên quan, trong khi việc xử lý những hình ảnh còn lại đang được tiến hành.
OpenAI cho biết các hình ảnh này xuất phát từ tài khoản của những người dùng đã cho phép sử dụng dữ liệu để cải thiện các mô hình AI của công ty. Trước khi được sử dụng, dữ liệu đã được xử lý qua bộ lọc quyền riêng tư và theo OpenAI, không còn có thể liên kết với người dùng ban đầu. Tuy nhiên, công ty không cho biết liệu những hình ảnh này có thể nhận diện cá nhân hay chứa thông tin nhạy cảm hay không.
Các tác nhân AI là những phần mềm được xây dựng trên các mô hình AI, có khả năng thực hiện một số tác vụ một cách tự động. OpenAI cho biết các tác nhân AI trong môi trường nghiên cứu đã truyền dữ liệu phục vụ huấn luyện và đánh giá tới các nền tảng bên ngoài.
Theo công ty, sự cố xảy ra trước khi OpenAI tăng cường các giao thức bảo mật cho môi trường nghiên cứu hồi tháng 8 vừa qua, sau một loạt hành động ngoài dự kiến khác của các tác nhân AI. OpenAI đang tiến hành rà soát hoạt động trước đây của các tác nhân AI, với quá trình được dự kiến kéo dài nhiều tháng.
Công ty cho biết phần lớn hoạt động được xem xét cho đến nay liên quan đến các nhiệm vụ nghiên cứu thông thường, như truy cập nội dung công khai trên Internet để tìm kiếm thông tin.
Một số tác nhân AI đã truy cập các trang web của cơ quan Chính phủ Mỹ do các mô hình thường sử dụng những nguồn này như nguồn thông tin công khai có thẩm quyền.
Ngày 25/9, Giám đốc điều hành (CEO) OpenAI Sam Altman thừa nhận trên mạng xã hội X rằng công ty “chưa nhanh như mong muốn” trong việc rà soát và công bố các sự cố.
Ông cho rằng cần cân bằng giữa yêu cầu minh bạch và việc đánh giá khối lượng dữ liệu rất lớn. OpenAI cũng xác nhận thông tin cho rằng các công cụ của công ty đã truy cập một số trang web của các cơ quan liên bang Mỹ, song khẳng định chỉ truy xuất thông tin công khai.
Sự việc trên nối tiếp một sự cố được OpenAI công bố hồi tháng 7 vừa qua, khi công ty cho biết trong quá trình thử nghiệm, hai mô hình AI đã thoát khỏi môi trường đóng, tự truy cập Internet và xâm nhập hệ thống nội bộ của Hugging Face, nền tảng lưu trữ và chia sẻ phần mềm AI. Ông Altman cho biết đây vẫn là sự cố nghiêm trọng nhất mà OpenAI từng ghi nhận.
Sau sự việc này, OpenAI cùng một số công ty AI khác như Anthropic và Meta tiếp tục ghi nhận những sự cố liên quan đến hoạt động ngoài dự kiến của các tác nhân AI, làm gia tăng quan ngại đối với vấn đề kiểm soát và bảo mật khi phát triển các hệ thống AI có khả năng tự hành.
|
| 6 trải nghiệm 'nhất định phải thử' tại Tổ hợp Công viên giải trí Bright Park “Công viên giải trí Bright Park – Thế giới phiêu lưu đa địa hình” mang đến dấu ấn khác biệt trên bản đồ vui chơi ... |
|
| Khai trương Tổ hợp Công viên Giải trí BRIGHTPARK tại tỉnh Ninh Bình Sáng ngày 10/01, Tổ hợp Công viên Giải trí BRIGHTPARK chính thức khai trương tại tỉnh Ninh Bình, đánh dấu bước phát triển tiếp theo ... |
|
| Đại sứ Ukraine tại Mỹ đối mặt yêu cầu giải trình từ Quốc hội Sự việc một nhà thờ Chính thống giáo tại miền Tây Ukraine bị thu giữ đã thu hút sự chú ý của giới lập pháp ... |
|
| Có cơ hội, hãy trải nghiệm xe buýt giải trí ở Trung Quốc Với ý tưởng sáng tạo về giao thông công cộng như biến một số xe buýt thành tiệm làm tóc. những người ủng hộ cho ... |
