Những rủi ro khi con người quá đặt niềm tin vào AI

AI đang hỗ trợ con người trong nhiều lĩnh vực từ y tế, giáo dục đến pháp luật. Tuy nhiên, cùng với những lợi ích rõ rệt, các chuyên gia cảnh báo một nguy cơ ngày càng gia tăng: con người có xu hướng tin tưởng quá mức vào các đề xuất của AI, từ đó bỏ qua việc kiểm chứng và đánh mất khả năng phản biện. Hiện tượng này được gọi là “thiên kiến tự động hóa” và có thể dẫn tới những hậu quả nghiêm trọng.

Theo Tiến sĩ Trần Nhật Quang, giảng viên Công nghệ thông tin và nghiên cứu viên về đạo đức AI tại Đại học RMIT Việt Nam, một trong những thách thức đáng lo ngại nhất trong thời đại AI hiện nay là hiện tượng “thiên kiến tự động hóa” (automation bias) – xu hướng con người tin tưởng các đề xuất của máy móc hơn cả phán đoán của chính mình.

Những rủi ro khi con người quá đặt niềm tin vào AI

Tiến sĩ Trần Nhật Quang, giảng viên Công nghệ thông tin, Khoa Khoa học, Kỹ thuật và Công nghệ, Đại học RMIT Việt Nam. (Ảnh NVCC)

Khi AI đúng nhiều đến mức con người mất cảnh giác

Chuyên gia dẫn lại một nghiên cứu công bố trên tạp chí npj Digital Medicine năm 2025 cho thấy một số bác sĩ đã phê duyệt các tin nhắn tư vấn do AI soạn thảo mà không kiểm tra kỹ nội dung.

Dù các tin nhắn được viết với giọng điệu thuyết phục và giàu tính đồng cảm, một số thông tin trong đó lại chứa sai sót có thể ảnh hưởng đến người bệnh.

Tình trạng tương tự cũng xuất hiện trong lĩnh vực pháp lý. Năm 2025, một luật sư tại Mỹ bị tòa án xử phạt sau khi nộp văn bản có dẫn chứng các án lệ không tồn tại do AI tạo ra. Sai sót xảy ra khi nội dung do AI hỗ trợ soạn thảo không được kiểm chứng đầy đủ trước khi sử dụng.

Trong giáo dục, một trường đại học tại Australia từng phải dừng sử dụng công cụ phát hiện bài viết do AI tạo ra sau khi nhận được nhiều khiếu nại và phát hiện hệ thống đưa ra các kết quả thiếu chính xác.

Theo Tiến sĩ Trần Nhật Quang, những trường hợp trên cho thấy một nghịch lý của thời đại AI: Hệ thống càng hoạt động hiệu quả thì con người càng dễ mất cảnh giác. Khi AI thường xuyên đưa ra kết quả đúng, người sử dụng có xu hướng giảm mức độ kiểm tra và dần lệ thuộc vào các đề xuất của máy móc.

Nguy cơ trở thành “vùng hấp thụ trách nhiệm”

Chuyên gia cho rằng thiên kiến tự động hóa còn liên quan đến khái niệm “vùng hấp thụ trách nhiệm” (moral crumple zone) do nhà nhân loại học người Mỹ Madeleine Clare Elish đưa ra.

Khái niệm này mô tả tình huống con người trở thành đối tượng gánh chịu trách nhiệm khi hệ thống AI hoặc tự động hóa gặp sự cố. Trong khi đó, bản thân những người được giao nhiệm vụ giám sát lại có thể mất dần khả năng phát hiện lỗi sau thời gian dài tin tưởng vào độ chính xác của hệ thống.

Một ví dụ điển hình là vụ tai nạn xe tự lái của Uber tại bang Arizona (Mỹ) năm 2018 khiến một người đi bộ thiệt mạng. Quá trình điều tra cho thấy cả hệ thống tự lái lẫn người giám sát an toàn đều có sai sót, song trách nhiệm cuối cùng vẫn chủ yếu đặt lên vai con người.

Khi AI ngày càng được ứng dụng trong những lĩnh vực có tác động lớn như y tế, giao thông, tư pháp hay quốc phòng, nguy cơ này sẽ càng trở nên rõ nét nếu con người phụ thuộc quá mức vào máy móc.

AI chỉ nên hỗ trợ, không thay thế phán đoán của con người

Để hạn chế thiên kiến tự động hóa, Tiến sĩ Trần Nhật Quang cho rằng cần triển khai đồng bộ các giải pháp về công nghệ, đào tạo và pháp lý.

Về mặt kỹ thuật, các hệ thống AI nên được thiết kế theo hướng buộc người dùng phải tư duy và đưa ra đánh giá riêng trước khi tham khảo gợi ý từ AI. Cách tiếp cận này giúp AI trở thành công cụ hỗ trợ thay vì nguồn đáp án mặc định.

Về mặt con người, cần tăng cường đào tạo kỹ năng sử dụng AI có trách nhiệm, giúp người dùng hiểu rõ cả ưu điểm lẫn hạn chế của công nghệ, bao gồm hiện tượng “ảo giác AI”, các sai lệch trong lập luận hay tình trạng tự tin quá mức của mô hình.

Ở góc độ pháp lý, nhiều quốc gia đã bắt đầu đưa ra các quy định nhằm bảo đảm vai trò giám sát của con người đối với AI.

Đạo luật AI của Liên minh châu Âu yêu cầu các hệ thống AI có rủi ro cao phải được thiết kế để người sử dụng nhận thức đầy đủ về những hạn chế của công nghệ. Mỹ cũng nhấn mạnh yêu cầu duy trì vai trò phán định của con người trong các lĩnh vực quan trọng như y tế, tư pháp và việc làm.

Khi các hệ thống AI trông đáng tin cậy hơn, khả năng tư duy phản biện của con người có thể bị mai một do ít được sử dụng. (Nguồn: Pexels)

Tại Việt Nam, Luật Trí tuệ nhân tạo có hiệu lực từ ngày 1/3/2026 cũng đặt ra yêu cầu bảo đảm khả năng kiểm soát và can thiệp của con người đối với các quyết định do hệ thống AI đưa ra.

Theo Tiến sĩ Trần Nhật Quang, dù công nghệ có phát triển đến đâu, nguyên tắc cốt lõi vẫn không thay đổi: AI chỉ nên hỗ trợ chứ không thay thế phán đoán của con người.

Trong bối cảnh AI đang hiện diện ngày càng sâu rộng trong đời sống, sự tỉnh táo của con người có thể chính là “hàng rào an toàn” quan trọng nhất trước những rủi ro khó lường của công nghệ.

"Có thể nói, AI giống với nước ở khía cạnh: nó có thể mang lại lợi ích to lớn, nhưng cũng có thể gây ra tổn thất nghiêm trọng. Vì vậy, chúng ta cần hiểu biết và cảnh giác với các rủi ro từ AI trước khi bị “nhấn chìm” trong những tác động tiêu cực của nó", ông nhấn mạnh.