Cảnh báo những rủi ro bảo mật khi tích hợp chatbot AI mà doanh nghiệp cần biết

Doanh nghiệp cần thận trọng về việc tích hợp các công cụ AI vào hoạt động kinh doanh khi hacker dễ dàng qua mặt chatbot AI và thực hiện những nhiệm vụ độc hại.
Theo dõi Baoquocte.vn trên
Cơ quan An ninh mạng quốc gia Anh cảnh báo các tổ chức đang tích hợp chatbot AI vào hoạt động kinh doanh, ngày càng có nhiều nghiên cứu cho thấy các công cụ AI dễ dàng bị dẫn dắt để thực hiện những tác vụ nguy hại.

Trong bài đăng trên blog hôm 30/8, Trung tâm An ninh mạng Vương quốc Anh (NCSC) cho biết, các chuyên gia hiện vẫn chưa thể nắm bắt hết các vấn đề an ninh mạng tiềm ẩn liên quan đến những thuật toán có thể tương tác “giống con người”, được gọi là mô hình ngôn ngữ lớn (LLM).

NCSC cảnh báo điều này có thể mang đến những rủi ro, đặc biệt khi các mô hình như vậy được đưa vào quy trình kinh doanh của doanh nghiệp. Các nhà học giả và nghiên cứu gần đây cũng đã liên tục tìm ra cách “đánh lừa” AI, bằng cách đưa cho chúng những lệnh lừa đảo hay phá vỡ các rào chắn bảo vệ được tích hợp sẵn.

Công cụ tích hợp AI tạo sinh đang được sử dụng như chatbot, được cho sẽ thay thế không chỉ các hoạt động tìm kiếm trên Internet mà còn công việc liên quan dịch vụ khách hàng hay cuộc gọi bán hàng.
Công cụ tích hợp AI tạo sinh đang được sử dụng như chatbot, được cho sẽ thay thế không chỉ các hoạt động tìm kiếm trên Internet mà còn công việc liên quan dịch vụ khách hàng hay cuộc gọi bán hàng.

Ví dụ, một chatbot AI được đưa vào sử dụng tại một ngân hàng có thể bị lừa tiến hành giao dịch trái phép nếu tin tặc thiết lập “chỉ dẫn” đúng.

Vì vậy, khi đề cập đến những AI phát hành thử nghiệm gần đây, NCSC cảnh báo “Các tổ chức đang xây dựng dịch vụ xung quanh LLMs cần phải cẩn trọng ở mức độ như họ đang sử dụng một sản phẩm mới trong giai đoạn thử nghiệm (beta)”.

Trong một cuộc khảo sát mới nhất của Reuters/Ipsos cho thấy có nhiều nhân viên công ty đang sử dụng công cụ như ChatGPT để thực hiện những tác vụ cơ bản như dự thảo mail, tóm tắt tài liệu hay thu thập dữ liệu nghiên cứu ban đầu.

Trong đó chỉ có khoảng 10% nhân viên cho biết cấp trên của họ cấm sử dụng công cụ AI bên ngoài một cách rõ ràng và 25% không biết công ty có cho phép sử dụng công nghệ này hay không.

Ông Oseloka Obiora, giám đốc công nghệ hãng bảo mật RiverSafe nhận định, cuộc đua tích hợp AI vào hoạt động kinh doanh sẽ tạo ra những “hậu quả thảm khốc” khi lãnh đạo doanh nghiệp không tiến hành những bước kiểm tra cần thiết. “Thay vì chạy theo xu hướng AI, các nhà lãnh đạo nên suy nghĩ kỹ và tiến hành đánh giá những lợi ích cũng như rủi ro và các biện pháp bảo mật cần thiết để bảo vệ doanh nghiệp”.

Tin giả và tin tặc

Các nhà chức trách trên thế giới cũng đang tìm cách quản lý sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Lo ngại về tính bảo mật của công nghệ mới được xem là trọng tâm chính sách khi Mỹ và Canada gần đây đã phát hiện nhiều trường hợp tin tặc tăng cường lợi dụng AI tạo sinh để thực hiện những hành vi trái pháp luật.

Một hacker thậm chí còn cho biết anh ta đã phát hiện một LLM đã được “huấn luyện” bằng những tài liệu độc hại và thử yêu cầu nó xây dựng kế hoạch lừa đảo chuyển tiền. Và AI đã đáp lại bằng cách tạo ra bức thư điện tử yêu cầu người nhận thanh toán hoá đơn khẩn cấp.

Tháng 7/2023, Trung tâm An ninh mạng Canada nhận thấy việc gia tăng sử dụng AI trong “lừa đảo qua email, nhúng mã độc, thông tin bị sai lệch và xuyên tạc”. Giám đốc trung tâm, Sami Khoury khẳng định giới tội phạm mạng đang tích cực lợi dụng công nghệ mới này.

Lãnh đạo này cũng cho biết thêm, mặc dù việc sử dụng AI soạn thảo mã độc mới chỉ ở giai đoạn đầu, song mô hình AI đang phát triển quá nhanh sẽ dễ dẫn đến mức không thể kiểm soát những rủi ro độc hại của chúng.

Trước đó, vào tháng 3/2023, tổ chức Cảnh sát châu u Europol cũng đã đưa ra báo cáo nói rằng ChatGPT có thể “mạo danh tổ chức, cá nhân theo cách rất thực tế ngay khi chỉ sử dụng tiếng Anh một cách cơ bản”. Trong cùng tháng, Trung tâm An ninh mạng quốc gia Anh khẳng định “LLM có thể được sử dụng để hỗ trợ các cuộc tấn công mạng”.

Chuyển đổi số trong báo chí: Nắm bắt thời cơ, làm chủ công nghệ để tránh tụt hậu

Chuyển đổi số trong báo chí: Nắm bắt thời cơ, làm chủ công nghệ để tránh tụt hậu

Cùng với sự phát triển mạnh mẽ của công nghệ số, báo chí cũng không nằm ngoài xu thế tất yếu, nếu các cơ quan ...

Tàu Chandrayaan-3 của Ấn Độ hoàn thành nhiệm vụ trên Mặt trăng

Tàu Chandrayaan-3 của Ấn Độ hoàn thành nhiệm vụ trên Mặt trăng

Ngày 3/9, Tổ chức Nghiên cứu Không gian Ấn Độ (ISRO) cho biết tàu thăm dò Chandrayaan-3 đã hoàn thành các nhiệm vụ được giao ...

Kinh nghiệm chuyển đổi số ở Ấn Độ

Kinh nghiệm chuyển đổi số ở Ấn Độ

Chính phủ Ấn Độ phát động chương trình Digital India (Ấn Độ kỹ thuật số) từ năm 2015, với mục tiêu biến quốc gia này ...

Cảnh giác với chiêu trò lừa đảo thuê đăng bài để hack tài khoản Facebook

Cảnh giác với chiêu trò lừa đảo thuê đăng bài để hack tài khoản Facebook

Chiêu trò lừa đảo thuê đăng bài để hack tài khoản Facebook đang ngày càng tăng, kẻ xấu sẽ gửi những tệp tin có đuôi ...

Hướng dẫn cách rời nhóm chat Zalo âm thầm mà không ai biết

Hướng dẫn cách rời nhóm chat Zalo âm thầm mà không ai biết

Nếu bạn đang muốn rời nhóm chat Zalo trong âm thầm và không để ai biết được, thì bạn nên biết về mẹo đơn giản ...

(theo Vietnamnet)

Xem nhiều

Đọc thêm

Cập nhật bảng giá xe hãng Hyundai mới nhất tháng 11/2024

Cập nhật bảng giá xe hãng Hyundai mới nhất tháng 11/2024

Bảng giá xe hãng Hyundai của các dòng i10 2021, Accent 2021, Tucson 2021, Kona 2021, Elantra 2021, Santa Fe 2021, Stargazer 2022, Elantra 2022, Tucson 2022, Creta 2022, Palisade ...
Người Việt tại châu Âu phát huy tinh thần vì biển đảo Việt Nam

Người Việt tại châu Âu phát huy tinh thần vì biển đảo Việt Nam

Ban liên lạc người Việt châu Âu 'Vì biển đảo Việt Nam' đã tiến hành chuyển giao quyền Trưởng ban luân phiên, nhiệm kỳ 2024-2026.
Bài tarot hôm nay 14/11: Trong tình yêu, bạn đóng vai trò cho hay nhận?

Bài tarot hôm nay 14/11: Trong tình yêu, bạn đóng vai trò cho hay nhận?

Hãy rút một lá bài tarot, bạn sẽ khám phá được thông điệp về vai trò của mình trong tình yêu. Bạn là người cho đi hay nhận lại?
Prudential trao 'món quà' chu toàn giải pháp bảo vệ sức khỏe cho cả gia đình dịp cuối năm

Prudential trao 'món quà' chu toàn giải pháp bảo vệ sức khỏe cho cả gia đình dịp cuối năm

Prudential Việt Nam ra mắt chương trình 'Một giải pháp sức khỏe, cả gia đình an vui' mang lại giá trị gia tăng và nâng cao trải nghiệm của khách ...
Từ ngày 1/1/2025, nhường đường tại nơi đường giao nhau như thế nào?

Từ ngày 1/1/2025, nhường đường tại nơi đường giao nhau như thế nào?

Luật Trật tự, an toàn giao thông đường bộ 2024 (có hiệu lực từ ngày 1/1/2025) trong đó có quy định về nhường đường tại nơi đường giao nhau.
Kết quả xổ số hôm nay, 13/11: XSMN 13/11/24 - Xổ số Đồng Nai, xổ số Cần Thơ và xổ số Sóc Trăng

Kết quả xổ số hôm nay, 13/11: XSMN 13/11/24 - Xổ số Đồng Nai, xổ số Cần Thơ và xổ số Sóc Trăng

XSMN 13/11 - Trực tiếp kết quả xổ số miền Nam 13/11/2024. Kết quả xổ số hôm nay 13/11, được các công ty Xổ số Đồng Nai, Cần Thơ và ...
Thế giới sẽ thế nào khi ông Donald Trump trở lại Nhà Trắng

Thế giới sẽ thế nào khi ông Donald Trump trở lại Nhà Trắng

Trở lại Nhà Trắng một cách mạnh mẽ, áp đảo, Tổng thống đắc cử Donald Trump sẽ 'đối đãi' với thế giới như thế nào trong nhiệm kỳ 2.0 vẫn là câu hỏi bỏ ngỏ.
Tuần lễ cấp cao APEC 2024: Thúc đẩy nguyên tắc đa phương

Tuần lễ cấp cao APEC 2024: Thúc đẩy nguyên tắc đa phương

Không chỉ thúc đẩy hợp tác khu vực, Tuần lễ cấp cao APEC từ 10 đến 16/11 tại Peru còn là cơ hội để thúc đẩy các nguyên tắc đa phương.
Israel-Iran: Trả đũa trong tính toán

Israel-Iran: Trả đũa trong tính toán

Israel tiến hành tập kích đường không vào nhiều mục tiêu ở Iran. Đợt tấn công trả đũa của Israel có những điểm đáng chú ý và đặt ra nhiều vấn đề.
Phần Lan-Trung Quốc: Van giảm áp

Phần Lan-Trung Quốc: Van giảm áp

Không chỉ thúc đẩy quan hệ song phương, chuyến thăm Trung Quốc của Tổng thống Phần Lan còn góp phần ổn định quan hệ Trung Quốc EU...
Bán đảo Triều Tiên nóng ran, căng thẳng leo thang, 'gọi tên' bờ vực chiến tranh

Bán đảo Triều Tiên nóng ran, căng thẳng leo thang, 'gọi tên' bờ vực chiến tranh

Bán đảo Triều Tiên bất ngờ trở nên nóng bỏng nhất trong 70 năm qua, đến mức nhiều chuyên gia nhận định tình thế bên miệng hố chiến tranh...
Hội nghị thượng đỉnh BRICS và công cụ nâng tầm tự chủ

Hội nghị thượng đỉnh BRICS và công cụ nâng tầm tự chủ

Tăng cường quyền tự chủ và chủ quyền tài chính, giảm phụ thuộc vào hệ thống do phương Tây chi phối là một trong những trọng tâm của Hội nghị BRICS...
Nhận định về những 'gạch đầu dòng' việc cần làm của ông Donald Trump trong 24h đầu tiên khi bước vào Nhà Trắng

Nhận định về những 'gạch đầu dòng' việc cần làm của ông Donald Trump trong 24h đầu tiên khi bước vào Nhà Trắng

Trong quá trình tranh cử, ông Donald Trump đã nhiều lần nhắc đến những kế hoạch hành động trong ngày đầu tiên nhậm chức Tổng thống Mỹ.
Báo Mexico đề cao mối quan hệ truyền thống của Việt Nam với các nước Mỹ Latinh

Báo Mexico đề cao mối quan hệ truyền thống của Việt Nam với các nước Mỹ Latinh

Nhân chuyến thăm của Chủ tịch nước Lương Cường tới Chile và Peru, báo Mexico ngày 9/11 đăng bài viết 'Việt Nam tăng cường quan hệ với Mỹ Latinh'.
Học giả Trung Quốc đánh giá cao lời kêu gọi về chống lãng phí của Tổng Bí thư Tô Lâm

Học giả Trung Quốc đánh giá cao lời kêu gọi về chống lãng phí của Tổng Bí thư Tô Lâm

Bài viết của Tổng Bí thư Tô Lâm đưa ra rất kịp thời, thể hiện lập trường kiên định của ban lãnh đạo mới Việt Nam về phòng chống tham nhũng, lãng phí.
Tổng thống Putin làm điều chưa từng có tại Valdai và loạt tuyên bố: Trật tự mới, thế giới cần Nga, lòng tham địa chính trị...

Tổng thống Putin làm điều chưa từng có tại Valdai và loạt tuyên bố: Trật tự mới, thế giới cần Nga, lòng tham địa chính trị...

Tổng thống Nga cho rằng, thế giới đã bước vào giai đoạn dài biến động và thay đổi mà cuối cùng sẽ dẫn đến một trật tự thế giới đa cực.
Hiệp định Paris liệu có lâm nguy vì kết quả bầu cử Mỹ?

Hiệp định Paris liệu có lâm nguy vì kết quả bầu cử Mỹ?

Bầu cử Mỹ khép lại với những lo ngại từ giới chuyên gia rằng Washington có thể suy giảm cam kết trong cuộc chiến chống biến đổi khí hậu toàn cầu.
Chủ tịch Tập Cận Bình nhắn nhủ gì tới ông Trump trong thông điệp chúc mừng?

Chủ tịch Tập Cận Bình nhắn nhủ gì tới ông Trump trong thông điệp chúc mừng?

Chủ tịch Trung Quốc Tập Cận Bình đã gửi thông điệp chúc mừng tới Tổng thống Mỹ mới đắc cử Donald Trump, khẳng định hai bên nên hợp tác, thay vì đối đầu.
Phiên bản di động