Trao đổi với chuyên trang công nghệ CTech của Israel, ông Alkalay cho rằng vấn đề đáng lo ngại nhất không phải là việc doanh nghiệp ứng dụng AI quá nhanh, mà là các cơ chế bảo mật, quản lý danh tính, phân quyền và giám sát không theo kịp tốc độ phát triển của các hệ thống AI tác tử.
 |
| Rủi ro có thể tăng mạnh nếu AI được cấp quyền vượt quá nhu cầu. (Nguồn: MIT Sloan) |
Theo CIO của Verbit, nếu một nhân viên được cấp quá nhiều quyền truy cập và mắc sai sót, mức độ thiệt hại thường vẫn bị giới hạn bởi tốc độ hành động của con người. Trong khi đó, một AI tác tử có thể thực hiện nhiều thao tác đồng thời trên nhiều hệ thống trong thời gian rất ngắn.
Rủi ro có thể tăng mạnh nếu AI được cấp quyền vượt quá nhu cầu, tiếp nhận chỉ dẫn độc hại, bị tấn công thông qua kỹ thuật “chèn lệnh” (prompt injection), hoặc đơn giản là đưa ra quyết định sai lầm. Trong những trường hợp này, hậu quả có thể lan rộng rất nhanh trước khi con người kịp phát hiện và can thiệp.
Verbit hiện sử dụng và thử nghiệm các năng lực AI tác tử trong hoạt động doanh nghiệp, song vẫn duy trì quyền giám sát và phê duyệt của con người đối với những tác vụ có mức độ rủi ro cao, đặc biệt là các hoạt động liên quan tới hệ thống vận hành, dữ liệu nhạy cảm hoặc thay đổi quan trọng.
Các biện pháp đang được áp dụng gồm giới hạn quyền truy cập theo nhu cầu, ghi nhật ký và giám sát hoạt động, kiểm soát việc đưa các công cụ AI mới vào sử dụng, đồng thời duy trì khả năng thu hồi quyền, cô lập hoặc dừng hoạt động của AI khi cần thiết.
Chuyên gia Alkalay cho rằng mô hình bảo mật đối với AI tác tử vẫn chưa hoàn thiện và cần tiếp tục phát triển cùng tốc độ với công nghệ. Các lĩnh vực đặc biệt cần được chú trọng gồm nhận dạng từng AI tác tử, quản lý quyền hạn, kiểm soát truy cập dữ liệu doanh nghiệp, theo dõi hành vi và thiết lập cơ chế can thiệp khẩn cấp.
Theo CIO của Verbit, giải pháp không phải là làm chậm quá trình ứng dụng AI, mà là xây dựng đồng thời các lớp kiểm soát phù hợp, trong khi con người vẫn phải chịu trách nhiệm đối với những quyết định quan trọng.
AI cũng đã giúp doanh nghiệp tăng tốc phân tích dữ liệu, phát hiện bất thường, hỗ trợ điều tra an ninh và tự động hóa các công việc lặp lại.
| Chung vui Tết độc lập tại ngôi nhà của các dân tộc Việt Nam Từ ngày 29/8 đến 30/9, Làng Văn hóa - Du lịch các dân tộc Việt Nam tổ chức chuỗi hoạt động với chủ đề “Vui ... |
| Định vị bản quyền báo chí trong ‘vùng xám’ thời AI Trước sức ép từ trí tuệ nhân tạo (AI) và tốc độ lan truyền của nền tảng số, Phó Cục trưởng Cục Bản quyền tác ... |
| Phát động triển khai các Hệ giá trị và hưởng ứng 'Ngày Văn hóa Việt Nam' Bộ Văn hóa, Thể thao và Du lịch tổ chức Lễ Phát động triển khai các Quyết định của Thủ tướng Chính phủ về triển ... |
| Chợ phiên vùng cao mừng Quốc khánh tại Thủ đô Hà Nội Từ ngày 29/8 đến 2/9, tại Làng Văn hóa - Du lịch các dân tộc Việt Nam (Đồng Mô, Hà Nội) diễn ra sự kiện ... |
| Giao điểm thiên nhiên, văn hóa và lịch sử châu Âu Tọa lạc bên bờ biển Adriatic, Croatia là nơi hội tụ những giá trị đặc sắc của thiên nhiên, văn hóa và lịch sử châu ... |
