Cảnh báo những rủi ro bảo mật khi tích hợp chatbot AI mà doanh nghiệp cần biết

Doanh nghiệp cần thận trọng về việc tích hợp các công cụ AI vào hoạt động kinh doanh khi hacker dễ dàng qua mặt chatbot AI và thực hiện những nhiệm vụ độc hại.
Theo dõi Baoquocte.vn trên
Cơ quan An ninh mạng quốc gia Anh cảnh báo các tổ chức đang tích hợp chatbot AI vào hoạt động kinh doanh, ngày càng có nhiều nghiên cứu cho thấy các công cụ AI dễ dàng bị dẫn dắt để thực hiện những tác vụ nguy hại.

Trong bài đăng trên blog hôm 30/8, Trung tâm An ninh mạng Vương quốc Anh (NCSC) cho biết, các chuyên gia hiện vẫn chưa thể nắm bắt hết các vấn đề an ninh mạng tiềm ẩn liên quan đến những thuật toán có thể tương tác “giống con người”, được gọi là mô hình ngôn ngữ lớn (LLM).

NCSC cảnh báo điều này có thể mang đến những rủi ro, đặc biệt khi các mô hình như vậy được đưa vào quy trình kinh doanh của doanh nghiệp. Các nhà học giả và nghiên cứu gần đây cũng đã liên tục tìm ra cách “đánh lừa” AI, bằng cách đưa cho chúng những lệnh lừa đảo hay phá vỡ các rào chắn bảo vệ được tích hợp sẵn.

Công cụ tích hợp AI tạo sinh đang được sử dụng như chatbot, được cho sẽ thay thế không chỉ các hoạt động tìm kiếm trên Internet mà còn công việc liên quan dịch vụ khách hàng hay cuộc gọi bán hàng.
Công cụ tích hợp AI tạo sinh đang được sử dụng như chatbot, được cho sẽ thay thế không chỉ các hoạt động tìm kiếm trên Internet mà còn công việc liên quan dịch vụ khách hàng hay cuộc gọi bán hàng.

Ví dụ, một chatbot AI được đưa vào sử dụng tại một ngân hàng có thể bị lừa tiến hành giao dịch trái phép nếu tin tặc thiết lập “chỉ dẫn” đúng.

Vì vậy, khi đề cập đến những AI phát hành thử nghiệm gần đây, NCSC cảnh báo “Các tổ chức đang xây dựng dịch vụ xung quanh LLMs cần phải cẩn trọng ở mức độ như họ đang sử dụng một sản phẩm mới trong giai đoạn thử nghiệm (beta)”.

Trong một cuộc khảo sát mới nhất của Reuters/Ipsos cho thấy có nhiều nhân viên công ty đang sử dụng công cụ như ChatGPT để thực hiện những tác vụ cơ bản như dự thảo mail, tóm tắt tài liệu hay thu thập dữ liệu nghiên cứu ban đầu.

Trong đó chỉ có khoảng 10% nhân viên cho biết cấp trên của họ cấm sử dụng công cụ AI bên ngoài một cách rõ ràng và 25% không biết công ty có cho phép sử dụng công nghệ này hay không.

Ông Oseloka Obiora, giám đốc công nghệ hãng bảo mật RiverSafe nhận định, cuộc đua tích hợp AI vào hoạt động kinh doanh sẽ tạo ra những “hậu quả thảm khốc” khi lãnh đạo doanh nghiệp không tiến hành những bước kiểm tra cần thiết. “Thay vì chạy theo xu hướng AI, các nhà lãnh đạo nên suy nghĩ kỹ và tiến hành đánh giá những lợi ích cũng như rủi ro và các biện pháp bảo mật cần thiết để bảo vệ doanh nghiệp”.

Tin giả và tin tặc

Các nhà chức trách trên thế giới cũng đang tìm cách quản lý sự phát triển mạnh mẽ của LLM, chẳng hạn như ChatGPT của OpenAI. Lo ngại về tính bảo mật của công nghệ mới được xem là trọng tâm chính sách khi Mỹ và Canada gần đây đã phát hiện nhiều trường hợp tin tặc tăng cường lợi dụng AI tạo sinh để thực hiện những hành vi trái pháp luật.

Một hacker thậm chí còn cho biết anh ta đã phát hiện một LLM đã được “huấn luyện” bằng những tài liệu độc hại và thử yêu cầu nó xây dựng kế hoạch lừa đảo chuyển tiền. Và AI đã đáp lại bằng cách tạo ra bức thư điện tử yêu cầu người nhận thanh toán hoá đơn khẩn cấp.

Tháng 7/2023, Trung tâm An ninh mạng Canada nhận thấy việc gia tăng sử dụng AI trong “lừa đảo qua email, nhúng mã độc, thông tin bị sai lệch và xuyên tạc”. Giám đốc trung tâm, Sami Khoury khẳng định giới tội phạm mạng đang tích cực lợi dụng công nghệ mới này.

Lãnh đạo này cũng cho biết thêm, mặc dù việc sử dụng AI soạn thảo mã độc mới chỉ ở giai đoạn đầu, song mô hình AI đang phát triển quá nhanh sẽ dễ dẫn đến mức không thể kiểm soát những rủi ro độc hại của chúng.

Trước đó, vào tháng 3/2023, tổ chức Cảnh sát châu u Europol cũng đã đưa ra báo cáo nói rằng ChatGPT có thể “mạo danh tổ chức, cá nhân theo cách rất thực tế ngay khi chỉ sử dụng tiếng Anh một cách cơ bản”. Trong cùng tháng, Trung tâm An ninh mạng quốc gia Anh khẳng định “LLM có thể được sử dụng để hỗ trợ các cuộc tấn công mạng”.

Chuyển đổi số trong báo chí: Nắm bắt thời cơ, làm chủ công nghệ để tránh tụt hậu

Chuyển đổi số trong báo chí: Nắm bắt thời cơ, làm chủ công nghệ để tránh tụt hậu

Cùng với sự phát triển mạnh mẽ của công nghệ số, báo chí cũng không nằm ngoài xu thế tất yếu, nếu các cơ quan ...

Tàu Chandrayaan-3 của Ấn Độ hoàn thành nhiệm vụ trên Mặt trăng

Tàu Chandrayaan-3 của Ấn Độ hoàn thành nhiệm vụ trên Mặt trăng

Ngày 3/9, Tổ chức Nghiên cứu Không gian Ấn Độ (ISRO) cho biết tàu thăm dò Chandrayaan-3 đã hoàn thành các nhiệm vụ được giao ...

Kinh nghiệm chuyển đổi số ở Ấn Độ

Kinh nghiệm chuyển đổi số ở Ấn Độ

Chính phủ Ấn Độ phát động chương trình Digital India (Ấn Độ kỹ thuật số) từ năm 2015, với mục tiêu biến quốc gia này ...

Cảnh giác với chiêu trò lừa đảo thuê đăng bài để hack tài khoản Facebook

Cảnh giác với chiêu trò lừa đảo thuê đăng bài để hack tài khoản Facebook

Chiêu trò lừa đảo thuê đăng bài để hack tài khoản Facebook đang ngày càng tăng, kẻ xấu sẽ gửi những tệp tin có đuôi ...

Hướng dẫn cách rời nhóm chat Zalo âm thầm mà không ai biết

Hướng dẫn cách rời nhóm chat Zalo âm thầm mà không ai biết

Nếu bạn đang muốn rời nhóm chat Zalo trong âm thầm và không để ai biết được, thì bạn nên biết về mẹo đơn giản ...

(theo Vietnamnet)

Xem nhiều

Đọc thêm

Tiết lộ bí kíp thành công của Mason Greenwood tại Marseille

Tiết lộ bí kíp thành công của Mason Greenwood tại Marseille

Những bí mật đằng sau thành công của Mason Greenwood tại Marseille đã được truyền thông Pháp tiết lộ.
Những chiến sĩ đặc biệt tại Triển lãm quốc phòng quốc tế Việt Nam 2024

Những chiến sĩ đặc biệt tại Triển lãm quốc phòng quốc tế Việt Nam 2024

Đội quân khuyển từ Trường Trung cấp 24 Biên phòng sẽ tham gia trình diễn tại lễ khai mạc Triển lãm quốc phòng quốc tế Việt Nam 2024 (19/12-22/12).
Tạp chí Quan hệ Quốc tế ra đời như thế

Tạp chí Quan hệ Quốc tế ra đời như thế

Hành trình ra đời của Tạp chí Quan hệ Quốc tế là ấp ủ, quyết tâm của Lãnh đạo Bộ Ngoại giao 35 năm về trước.
HLV Ruben Amorim không cho Leny Yoro ra sân trận U21 MU

HLV Ruben Amorim không cho Leny Yoro ra sân trận U21 MU

Tân HLV Ruben Amorim không muốn Leny Yoro thi đấu cho đội U21 MU trong bối cảnh trung vệ người Pháp vừa bình phục chấn thương.
Tỷ giá ngoại tệ, tỷ giá USD/VND hôm nay 22/11: USD vượt mốc 107, thị trường tự do gây bất ngờ

Tỷ giá ngoại tệ, tỷ giá USD/VND hôm nay 22/11: USD vượt mốc 107, thị trường tự do gây bất ngờ

Tỷ giá ngoại tệ, tỷ giá USD/VND hôm nay 22/11 ghi nhận đồng USD lên mức 107,15, mức cao nhất kể từ ngày 4/10/2023.
CHÍNH THỨC: HLV Pep Guardiola gia hạn hợp đồng hai năm với Man City

CHÍNH THỨC: HLV Pep Guardiola gia hạn hợp đồng hai năm với Man City

HLV Pep Guardiola ký hợp đồng mới có thời hạn hai năm, giữ ông ở lại Man City hơn một thập kỷ.
Kiến tạo lòng tin, thúc đẩy đối thoại

Kiến tạo lòng tin, thúc đẩy đối thoại

ADMM+ ngày càng thể hiện vai trò là nền tảng cho hợp tác trên thực tế và có ý nghĩa giữa ASEAN với các nước bên ngoài khu vực trong lĩnh vực an ninh.
Bước đi lịch sử tại Hội nghị thượng đỉnh G20

Bước đi lịch sử tại Hội nghị thượng đỉnh G20

Đánh thuế giới siêu giàu là một trong những chủ đề quan trọng tại Hội nghị thượng đỉnh Nhóm các nền kinh tế phát triển và mới nổi hàng đầu thế giới.
Thế giới sẽ thế nào khi ông Donald Trump trở lại Nhà Trắng

Thế giới sẽ thế nào khi ông Donald Trump trở lại Nhà Trắng

Trở lại Nhà Trắng một cách mạnh mẽ, áp đảo, Tổng thống đắc cử Donald Trump sẽ 'đối đãi' với thế giới như thế nào trong nhiệm kỳ 2.0 vẫn là câu hỏi bỏ ngỏ.
Tuần lễ cấp cao APEC 2024: Thúc đẩy nguyên tắc đa phương

Tuần lễ cấp cao APEC 2024: Thúc đẩy nguyên tắc đa phương

Không chỉ thúc đẩy hợp tác khu vực, Tuần lễ cấp cao APEC từ 10 đến 16/11 tại Peru còn là cơ hội để thúc đẩy các nguyên tắc đa phương.
Israel-Iran: Trả đũa trong tính toán

Israel-Iran: Trả đũa trong tính toán

Israel tiến hành tập kích đường không vào nhiều mục tiêu ở Iran. Đợt tấn công trả đũa của Israel có những điểm đáng chú ý và đặt ra nhiều vấn đề.
Phần Lan-Trung Quốc: Van giảm áp

Phần Lan-Trung Quốc: Van giảm áp

Không chỉ thúc đẩy quan hệ song phương, chuyến thăm Trung Quốc của Tổng thống Phần Lan còn góp phần ổn định quan hệ Trung Quốc EU...
'Hạt hòa bình' gieo mầm ngoại giao nông sản Mỹ-Trung

'Hạt hòa bình' gieo mầm ngoại giao nông sản Mỹ-Trung

Nhóm các nhà nghiên cứu Mỹ và Trung Quốc đang tiến hành dự án 'hạt hòa bình' nhằm thúc đẩy cân bằng thương mại nông nghiệp giữa hai nước.
Xung đột Nga-Ukraine: Đoán ý đồ người kế nhiệm, Tổng thống Biden đi thêm nước cờ 'một mũi tên trúng hai đích'

Xung đột Nga-Ukraine: Đoán ý đồ người kế nhiệm, Tổng thống Biden đi thêm nước cờ 'một mũi tên trúng hai đích'

Mặc dù sắp mãn nhiệm nhưng Tổng thống Mỹ Joe Biden đã có một quyết định quan trọng liên quan đến xung đột Nga-Ukraine.
Cái 'gật đầu muộn mằn' của Tổng thống Biden với Ukraine: Thay đổi cục diện hay thêm dầu vào lửa?

Cái 'gật đầu muộn mằn' của Tổng thống Biden với Ukraine: Thay đổi cục diện hay thêm dầu vào lửa?

Tổng thống Joe Biden đã quyết định 'xé rào' vũ khí cho Ukraine. Tuy nhiên, những 'đòn giáng' không thể tạo ra bằng lời nói.
Ngoại giao đa phương của Việt Nam tạo tiếng vang trên truyền thông Mexico

Ngoại giao đa phương của Việt Nam tạo tiếng vang trên truyền thông Mexico

Truyền thông Mexico đề cao vị thế và sự tham gia, đóng góp hiệu quả của Việt Nam tại các diễn đàn đa phương gần đây như APEC, G20...
Mỹ-Trung chạy đua ngoại giao đường sắt, tìm đường tới mỏ khoáng sản châu Phi

Mỹ-Trung chạy đua ngoại giao đường sắt, tìm đường tới mỏ khoáng sản châu Phi

Nhằm tiếp cận trữ lượng khoáng sản khổng lồ của châu Phi, Mỹ và Trung Quốc đã bỏ vốn đầu tư cơ sở hạ tầng, bao gồm ngoại giao đường sắt tại đây.
Chuyên gia Trung Quốc: Bài viết 'Chống lãng phí' của Tổng Bí thư Tô Lâm nêu bật nhiệm vụ quan trọng của Việt Nam trước cơ hội lịch sử

Chuyên gia Trung Quốc: Bài viết 'Chống lãng phí' của Tổng Bí thư Tô Lâm nêu bật nhiệm vụ quan trọng của Việt Nam trước cơ hội lịch sử

Chuyên gia Trung Quốc: Bài viết 'Chống lãng phí' của Tổng Bí thư Tô Lâm nêu bật nhiệm vụ quan trọng của Việt Nam trước cơ hội lịch sử của “kỷ nguyên vươn mình".
Phiên bản di động