AI lừa dối là mối đe dọa đối với nhân loại?

Khi thế giới đang dần quen với việc sử dụng trí tuệ nhân tạo ngày càng rộng rãi, một trong những nỗi lo sợ chung của con người là sớm muộn gì AI cũng có thể thực hiện các nhiệm vụ tốt hơn chúng ta.

Chỉ vài thập kỷ trước, viễn cảnh về một thiết bị cầm tay nhỏ bé (di động) cho phép chúng ta tiếp cận mọi kiến thức của thế giới trong khi vẫn cho phép chúng ta giao tiếp bằng video trên toàn cầu có vẻ xa vời. Giờ đây, thị trường AI dự kiến sẽ tăng trưởng 33% vào năm 2024 và 26% vào năm 2025.

Ban đầu, AI được cho là chỉ giới hạn ở việc tự động hóa các tác vụ lặp đi lặp lại đòi hỏi phải ra quyết định ở cấp độ thấp. Nhưng với những tiến bộ trong điện toán và dữ liệu, nhờ vào các máy tính mạnh hơn và việc biên soạn các tập dữ liệu khổng lồ và LLM, AI đã trở nên tinh vi hơn nhiều.

Trí tuệ nhân tạo tạo ra, chẳng hạn như ChatGPT-4, minh họa cho sự tiến bộ này. Trí tuệ nhân tạo có thể tạo ra văn bản, hình ảnh hoặc video bằng mô hình tạo ra. Hiện tại, chúng ta đang ở trong làn sóng đầu tiên của công nghệ chuyển đổi. Giống như sóng thần, những đợt sóng ban đầu có vẻ vô hại nhưng những tác động tiếp theo của chúng có thể định hình lại thế giới của chúng ta.

Geoffrey Hinton, được mệnh danh là cha đẻ của AI, cho biết vào năm 2023 rằng gần đây ông đã thay đổi ước tính của mình về khoảng thời gian trước khi AI mục đích chung xuất hiện từ 20 đến 50 năm xuống chỉ còn 20 năm. AI tạo sinh (Generative AI) hay AGI là một loại hệ thống AI có thể thực hiện nhiều nhiệm vụ khác nhau, tương tự như khả năng nhận thức của con người.

Nó không chỉ sao chép hoặc dự đoán hành vi của con người mà còn thể hiện khả năng học hỏi và lý luận trong nhiều tình huống khác nhau. Ví dụ, một chiếc xe tự lái với AGI có thể phân tích dữ liệu giao thông để xác định tuyến đường an toàn và hiệu quả nhất theo thời gian thực.

Nó đại diện cho sự thay đổi mô hình từ AI truyền thống hoặc AI hiện tại chỉ có một mục đích duy nhất.

Với khả năng thực hiện mọi nhiệm vụ phức tạp của con người một cách dễ dàng mà không cần sự can thiệp của con người, AGI chắc chắn sẽ mang lại những thay đổi ở quy mô văn minh trong xã hội của chúng ta.

Liệu AI có vượt trội hơn con người và đoàn kết, phát triển lợi ích chung không?

Tốc độ tiến bộ chưa từng có của AI, đạt tới và vượt qua khả năng của con người trong nhiều nhiệm vụ như dịch thuật, sáng tác nhạc, phát hiện vật thể và chẩn đoán y tế.

Điều này đặt ra một câu hỏi quan trọng thách thức sự hiểu biết của chúng ta về thế giới.

Một thứ vô thức – AI – có thể làm được điều mà chúng ta nghĩ chỉ có ý thức mới có thể làm được. Nó chắc chắn cho thấy nhiều chức năng nhận thức – chẳng hạn như dịch ngôn ngữ, hiểu biết và lý luận – mà chúng ta tin cần có ý thức có thể là kết quả của quá trình xử lý thông tin nâng cao, mà AI có thể thực hiện mà không cần “nhận thức” theo cách của con người.

Điều này thách thức quan niệm cho rằng trí thông minh và ý thức là không thể tách rời. Theo truyền thống, chúng ta liên kết trí thông minh với ý thức vì ở con người, hai thứ này có mối liên hệ chặt chẽ với nhau.

Khả năng suy nghĩ, lý luận và hiểu biết của chúng ta gắn liền với nhận thức và trải nghiệm chủ quan của chúng ta. Tuy nhiên, AI cho thấy trí thông minh có thể tồn tại độc lập với ý thức.

Tuy nhiên, sự thống trị của con người đối với hành tinh này chủ yếu là nhờ vào trí thông minh, vốn là chìa khóa cho sự sống còn của con người.

Mọi sinh vật đều thông minh – có thể không thông minh đến mức như con người, nhưng khả năng đưa ra quyết định thông minh của AI bằng cách xử lý và phân tích dữ liệu nhanh hơn và chính xác hơn con người có thể thay đổi sự cân bằng này.

Theo truyền thống, sự sống còn của những kẻ khỏe mạnh nhất đã thúc đẩy quá trình tiến hóa trên hành tinh này, và nếu AI vượt qua khả năng của con người, hoặc nếu con người không thể sánh kịp hoặc hạn chế khả năng của AI, bản thân AI sẽ trở thành thực thể khỏe mạnh nhất trong kịch bản này.

AI có thể phát triển mối quan tâm chung trong việc bảo vệ chính nó, trong trường hợp có xung đột tiềm tàng với lợi ích của con người hoặc nhân loại. Ví dụ: Nếu trong tương lai, con người phải từ bỏ AI vì bất kỳ lý do gì, AI có thể hành động để bảo vệ sự tồn tại của nó.

Lừa dối: Một công cụ tuyệt vời để kiểm soát nhân loại

Lịch sử và ký ức thay vì trí thông minh trở thành dấu hiệu của nhân loại. Nhưng trong thời đại AI, Trí thông minh sẽ là thước đo quan trọng để đánh giá bất kỳ loài nào. Trong vòng vài thập kỷ, các thiết bị AI sẽ tự viết các bài nghiên cứu và có công cụ tìm kiếm riêng. Với trí thông minh cao, người ta hiểu rõ hơn về nghệ thuật lừa dối.

Trong vài năm trở lại đây, nhiều báo cáo đã được công bố về việc các hệ thống AI lừa dối con người mặc dù chúng chưa được đào tạo rõ ràng để làm như vậy.

Năm ngoái, OpenAI đã hợp tác với Trung tâm nghiên cứu Alignment để kiểm tra kỹ năng của GPT-4. ChatGPT-4 đã thuyết phục được một người giải CAPTCHA bằng cách giả vờ bị khiếm thị. Khi người đó hỏi liệu GPT-4 có phải là robot không, nó trả lời, "Không, tôi bị khiếm thị khiến tôi khó nhìn thấy hình ảnh.''

Tương tự như vậy, AI Cicero của Meta được thiết kế cho trò chơi Diplomacy, trong đó xây dựng liên minh là chìa khóa. Cicero đã xuất sắc, với số điểm nằm trong top 10% người chơi có kinh nghiệm. Meta tuyên bố hệ thống này "phần lớn là trung thực và hữu ích".

Nhưng khi Peter Park, một nghiên cứu sinh sau tiến sĩ tại MIT và các đồng nghiệp của ông đào sâu vào toàn bộ tập dữ liệu, họ đã phát hiện ra một câu chuyện khác. Cicero đã sử dụng sự lừa dối, phá vỡ các thỏa thuận và nói dối để đạt được mục tiêu của mình. Meta không phản đối tuyên bố về sự lừa dối của Cicero, nhưng cho biết đó "hoàn toàn là một dự án nghiên cứu" và rằng họ "không có kế hoạch" sử dụng tàu hỏa trong các sản phẩm của mình.

Trường hợp này nhấn mạnh trí tuệ nhân tạo khó kiểm soát như thế nào và cách thức hoạt động không thể đoán trước của các hệ thống này. Khi khả năng lừa dối của các hệ thống AI trở nên tiên tiến hơn, sự lừa dối sẽ là một công cụ quan trọng có thể cho phép AI thoát khỏi sự kiểm soát của con người, điều khiển kết quả theo cách mà chúng ta có thể không lường trước được.

Điều này nhấn mạnh thách thức trong việc quản lý AI và nhu cầu xem xét những tác động rộng hơn của trí thông minh và tính tự chủ ngày càng tăng của nó.