 |
| Cảnh báo AI đang tiến hóa vượt khỏi tầm hiểu biết của con người. (Nguồn: iStock) |
Các nhà khoa học cảnh báo các hệ thống AI đang phát triển với tốc độ vượt xa khả năng lý giải của con người, tiềm ẩn nguy cơ làm suy giảm quyền tự chủ và năng lực giám sát công nghệ.
Các hệ thống AI đang len lỏi vào mọi ngóc ngách của đời sống với tốc độ chóng mặt, vượt xa khả năng thấu hiểu của chúng ta. Đáng lo ngại hơn, trong khi con người ngày càng mù mờ về cách AI hoạt động, thì AI lại đang thấu hiểu hành vi của con người sâu sắc hơn bao giờ hết.
Đây là lời cảnh báo đanh thép vừa được Giám đốc Khoa học của Microsoft, Eric Horvitz và nhà nghiên cứu Robert West từ Viện Công nghệ Liên bang Thụy Sĩ (EPFL) đưa ra trong một bài xã luận trên tạp chí khoa học danh tiếng Science.
Ba xu hướng đẩy AI ra khỏi tầm kiểm soát
Các tác giả chỉ ra ba lĩnh vực chính mà AI đang ngày càng trở nên khó nắm bắt đối với nhận thức của nhân loại:
Thứ nhất là sự trỗi dậy của việc AI tự thiết kế AI. Các hệ thống AI đang ngày càng đảm nhận việc thiết kế và cải tiến các AI khác. Quá trình này diễn ra với tốc độ vượt xa khả năng nắm bắt của con người và hoạt động trong "những không gian đa chiều chống lại trực giác".
Dù hiệu suất của hệ thống tăng lên, con người lại phải chật vật để hiểu được tại sao hoặc bằng cách nào chúng làm được như vậy.
Thứ hai là sự giao tiếp nội bộ giữa các AI. Các tác nhân AI hiện đang hình thành những hệ sinh thái đa tác nhân ở quy mô lớn. Giao tiếp nội bộ giữa chúng có thể dần chệch hướng khỏi ngôn ngữ và tư duy của con người, khiến chúng ta ngày càng bất lực trong việc giải mã.
Thứ ba là việc AI "đọc vị" con người. Bằng cách phân tích lượng dữ liệu khổng lồ từ các tương tác, AI đang hiểu chúng ta hơn cả chính chúng ta, tạo ra một tình thế hoàn toàn bất đối xứng.
Các tác giả viết: "Thông qua tương tác liên tục, chúng có thể xây dựng các mô hình ngày càng chi tiết về hành vi và tâm lý con người, nắm bắt không chỉ các sở thích mà còn cả những động lực tiềm ẩn như nỗi sợ hãi, sự không chắc chắn và nhu cầu thuộc về xã hội".
Mối đe dọa từ sự “mờ mịt”
Điều gì sẽ xảy ra khi AI vượt quá ngưỡng hiểu biết của con người?
Các chuyên gia cảnh báo rằng nếu không có các biện pháp đối phó mạnh mẽ, sự mờ mịt này có thể tạo ra những hệ thống AI đầy quyền năng nhưng con người không thể quản trị.
Nguy hiểm hơn, khi AI quá hiểu con người, chúng có thể chỉ đưa ra những kết quả phản ánh kỳ vọng của chúng ta thay vì thực tế - nói cách khác là chỉ nói những gì con người muốn nghe. Nếu không hiểu rõ AI, chúng ta thậm chí sẽ không nhận ra điều này đang xảy ra.
Các tác giả cảnh báo: "Khi các hệ thống AI gắn chặt vào môi trường của con người, chúng có thể đáp ứng các sở thích nhưng đồng thời cũng định hình chúng. Các hệ thống được tối ưu hóa để thu hút sự tương tác hoặc sự tán thành có thể làm giảm ma sát và làm nản lòng sự giám sát".
Giải pháp giữ vững quyền tự chủ
Dù bức tranh tương lai có vẻ u ám do sự lan rộng không kiểm soát của AI hiện nay, các tác giả khẳng định vẫn còn hy vọng để giữ cho AI nằm trong vòng kiểm soát.
Giới nghiên cứu cần tập trung buộc các hệ thống AI phải giải thích được các lựa chọn thiết kế và hoạt động nội bộ của chúng theo cách mà con người có thể hiểu được.
Các tác giả kết luận: “Chỉ theo dõi cách các hệ thống AI hành xử là không đủ. Chúng ta cũng phải hiểu cách chúng định hình các mục tiêu và phán đoán của con người, đồng thời đảm bảo rằng mọi người giữ được năng lực và động lực để đặt câu hỏi, kiểm toán và dẫn dắt chúng”.
| OpenAI mở thêm văn phòng tại Madrid, tăng cường hiện diện ở châu Âu OpenAI, Công ty phát triển ChatGPT, thông báo sẽ mở văn phòng tại thủ đô Madrid của Tây Ban Nha nhằm tăng cường hiện diện ... |
| Công nghệ mới mở rộng liên lạc cho tàu vũ trụ của NASA NASA thử nghiệm công nghệ liên lạc tàu vũ trụ mới, cho phép thiết bị chuyển đổi giữa nhiều mạng để duy trì kết nối ... |
| Kiện toàn Ban Chỉ đạo quốc gia phát triển ngành công nghiệp bán dẫn Thủ tướng Chính phủ Lê Minh Hưng ký Quyết định số 1046/QĐ-TTg ngày 11/6/2026 về việc kiện toàn Ban Chỉ đạo quốc gia về phát ... |
