IBM phát triển công cụ kiểm soát sự thiên vị của trí tuệ nhân tạo

IBM vừa giới thiệu một công cụ giúp kiểm soát và giảm sự thiên vị của trí tuệ nhân tạo (AI) trong phân biệt đối xử.
Theo dõi Baoquocte.vn trên
TIN LIÊN QUAN
ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Máy tính của IBM hùng biện giỏi hơn con người
ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Vì sao IBM dừng hình thức cho nhân viên làm việc tại nhà?

Với đặc trưng là do con người tạo ra và tự đào tạo dưới dạng máy học (machine learning), trí tuệ nhân tạo có những hạn chế nhất định với nguyên nhân thiên vị bởi chính con người. Điều này có thể gây ra sự thiên vị hay phân biệt đối xử với một nhóm đối tượng nào đó, ví dụ như phụ nữ hoặc người dân tộc thiểu số.

Chỉ cách đâu một tuần, Amazon đã phải ngừng một trong những công cụ AI của mình liên quan đến việc tuyển dụng. Công cụ này đã có những thiên vị nhất định khi sẽ ưu tiên tuyển dụng nhân viên là nam hơn là nữ vào công ty.

Hay xa hơn đối với công nghệ nhận diện khuôn mặt của Microsoft và IBM trước đây, trí tuệ nhân tạo có thể xác định chính xác hơn khuôn mặt của những người đàn ông và là người da trắng hơn là phụ nữ và người da màu.

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi
IBM giới thiệu công cụ giảm sự thiên vị của trí tuệ nhân tạo (AI). (Nguồn: Getty Images)

Mọi chuyện bắt đầu khi nhà nghiên cứu Joy Buolamwini của Media Lab tại MIT xây dựng bộ dữ liệu 1.270 khuôn mặt, sử dụng khuôn mặt từ các chính trị gia, được lựa chọn dựa trên bảng xếp hạng về bình đẳng giới, hay nói cách khác là có số lượng phụ nữ làm việc trong công sở đáng kể. Sau đó, Joy đã kiểm tra tính chính xác của ba hệ thống nhận dạng khuôn mặt lần lượt do Microsoft, IBM tạo ra. Kết quả cho thấy có sự sai sót khác nhau về nhận dạng giới tính tùy thuộc vào màu da của một người.

Nhận dạng giới tính sai chỉ chưa tới 1% với những người đàn ông da trắng và lên đến 7% với phụ nữ da trắng. Thế nhưng, sai số lên đến 12% ở đàn ông da màu và đến 35% ở phụ nữ da màu. Kết quả này cho thấy, các đối tượng nam được phân loại chính xác hơn các đối tượng nữ và những đối tượng có da trắng cũng được phân loại chính xác hơn các đối tượng da màu.

Joy Buolamwini gần đây đã nói với Aaron Pressman của trang Fortune rằng sự thiếu đa dạng trong các nhóm phát triển, dữ liệu đầu vào cũng có thể góp phần vào sự thiên vị dựa trên các thuật toán.

IBM muốn giúp các công ty giảm thiểu các “lỗi” mà các công nghệ trí tuệ nhân tạo của họ không chủ ý phân biệt đối xử với các nhóm nhất định như phụ nữ và dân tộc thiểu số. Ngoài IBM, một số công ty cũng bắt đầu phát triển các công cụ để kiểm tra công nghệ AI như Google và Microsoft.

Hãng này cho biết công cụ được xây dựng trên dựa trên dịch vụ “điện toán đám mây” của công ty và nó được tạo ra cho những người kinh doanh, dễ dàng làm việc hơn các công cụ tương tự khác chỉ dành cho các nhà phát triển.

Tuy nhiên, mặc dù bắt đầu có những công cụ giúp kiểm tra AI, vấn đề thiên vị có thể sẽ tiếp tục tồn tại bởi vì “gốc rễ” sự việc thực tế lại nằm ở phần lõi của công nghệ AI và do con người.

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Siêu máy tính chống biến đổi khí hậu

Trước những hậu quả nghiêm trọng do biến đổi khí hậu gây ra, Tập đoàn công nghệ máy tính IBM đang lên kế hoạch sử ...

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi IBM giới thiệu máy tính lượng tử đời mới

Hãng máy tính IBM vừa tổ chức cho ra mắt máy tính lượng tử - thế hệ máy tính đời mới với tốc độ xử ...

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Máy tính biết làm đầu bếp

Siêu máy tính Watson do hãng IBM chế tạo là một chiếc máy nổi tiếng vì đã từng được sử dụng để giúp các bác ...

(theo Vietnamnet/Fortune)

Đọc thêm

Vietlott 29/3, kết quả xổ số Vietlott Mega thứ 6 ngày 29/3/2024. xổ số Mega 645

Vietlott 29/3, kết quả xổ số Vietlott Mega thứ 6 ngày 29/3/2024. xổ số Mega 645

Vietlott 29/3 - xổ số Vietlott Mega 29/3. Trực tiếp xổ số Vietlott hôm nay 29/3/2024 nhanh nhất và chính xác nhất. Vietlott Mega 645 hôm nay.
XSVL 29/3, Trực tiếp kết quả xổ số Vĩnh Long hôm nay 29/3/2024. KQXSVL thứ 6

XSVL 29/3, Trực tiếp kết quả xổ số Vĩnh Long hôm nay 29/3/2024. KQXSVL thứ 6

XSVL 29/3 - Trực tiếp kết quả xổ số Vĩnh Long hôm nay - XSVL 29/3/2024. xo so vinh long. KQXSVL thứ 6. kết quả xổ số Vĩnh Long ...
XSMN 29/3, trực tiếp kết quả xổ số miền Nam hôm nay thứ Sáu 29/3/2024. xổ số hôm nay 29/3

XSMN 29/3, trực tiếp kết quả xổ số miền Nam hôm nay thứ Sáu 29/3/2024. xổ số hôm nay 29/3

XSMN 29/3 - kết quả xổ số ngày 29 tháng 3. trực tiếp kết quả xổ số miền Nam 29/3/2024. xổ số hôm nay 29/3. xo so mien nam. SXMN ...
XSBD 29/3, trực tiếp kết quả xổ số Bình Dương hôm nay 29/3/2024. KQXSBD thứ 6

XSBD 29/3, trực tiếp kết quả xổ số Bình Dương hôm nay 29/3/2024. KQXSBD thứ 6

XSBD 29/3 - Trực tiếp xổ số Bình Dương hôm nay - XSBD 29/3/2024. xo so binh duong. KQXSBD thứ 6. kết quả xổ số Bình Dương ngày 29 tháng ...
XSMT 29/3, trực tiếp kết quả xổ số miền Trung hôm nay thứ Sáu ngày 29/3/2024. SXMT 29/3/2024

XSMT 29/3, trực tiếp kết quả xổ số miền Trung hôm nay thứ Sáu ngày 29/3/2024. SXMT 29/3/2024

XSMT 29/3 - xổ số hôm nay 29/3. trực tiếp xổ số miền Trung 29/3/2024. kết quả xổ số miền Trung hôm nay. xổ số miền Trung thứ 6. SXMT ...
XSMB 29/3, trực tiếp kết quả xổ số miền Bắc hôm nay thứ 6 ngày 29/3/2024. dự đoán XSMB 29/3/2024

XSMB 29/3, trực tiếp kết quả xổ số miền Bắc hôm nay thứ 6 ngày 29/3/2024. dự đoán XSMB 29/3/2024

XSMB 29/3 - Trực tiếp xổ số miền Bắc 29/3/2024. xổ số hôm nay 29/3. kết quả xổ số miền Bắc hôm nay. dự đoán xổ số miền Bắc thứ ...
Công du New Zealand và Australia, Ngoại trưởng Trung Quốc tạo đà cải thiện quan hệ?

Công du New Zealand và Australia, Ngoại trưởng Trung Quốc tạo đà cải thiện quan hệ?

Ngoại trưởng Trung Quốc Vương Nghị đang thực hiện chuyến công du đến New Zealand và Australia để đẩy nhanh tốc độ cải thiện quan hệ giữa hai bên.
Bước chạy đà ấn tượng

Bước chạy đà ấn tượng

Với Thông điệp liên bang mạnh mẽ, đường như đương kim Tổng thống Joe Biden đã có bước chạy đà ấn tượng cho màn tái đấu giữa hai 'người quen cũ'.
Bầu cử Tổng thống Mỹ: Màn song đấu tái hiện

Bầu cử Tổng thống Mỹ: Màn song đấu tái hiện

Từ nay đến khi cuộc bầu cử Tổng thống Mỹ diễn ra vào tháng 11 tới, nhiều bất ngờ sẽ còn xảy ra...
Chỗ dựa tinh thần của Tổng thống Palestine

Chỗ dựa tinh thần của Tổng thống Palestine

Việc Tổng thống Palestine lựa chọn đến thăm Thổ Nhĩ Kỳ trong thời điểm hiện nay có thể coi là quyết định khôn khéo.
Xung đột Nga-Ukaine, động thái mới và dự báo cục diện, kết cục

Xung đột Nga-Ukaine, động thái mới và dự báo cục diện, kết cục

Cuộc xung đột ở Ukraine bước sang năm thứ ba khó đoán định.
Nhóm Visegrad: Phép cộng không đơn giản

Nhóm Visegrad: Phép cộng không đơn giản

Kết quả Hội nghị thượng đỉnh nhóm Visegrad vừa diễn ra tại Czech, một lần nữa cho thấy các thành viên của nhóm lại không cùng nhìn về một hướng.
Điều gì đang xảy ra với quan hệ Mỹ-Israel?

Điều gì đang xảy ra với quan hệ Mỹ-Israel?

Việc Mỹ bỏ phiếu trắng với nghị quyết kêu gọi ngừng bắn ở Gaza của Hội đồng Bảo an Liên hợp quốc liệu có thể làm chuyển hướng quan hệ với Israel?
Nhật Bản cho phép xuất khẩu máy bay chiến đấu tối tân: 3 điều cần biết

Nhật Bản cho phép xuất khẩu máy bay chiến đấu tối tân: 3 điều cần biết

Kế hoạch theo Chương trình Không quân Chiến đấu Toàn cầu (GCAP) của Nhật Bản, Anh và Italy báo hiệu sự thay đổi then chốt trong chiến lược an ninh khu vực.
Ngoại trưởng Ấn Độ thăm Đông Nam Á: Dấu ấn Hành động hướng Đông, khẳng định giá trị chung với ASEAN

Ngoại trưởng Ấn Độ thăm Đông Nam Á: Dấu ấn Hành động hướng Đông, khẳng định giá trị chung với ASEAN

Ngoại trưởng Ấn Độ tìm cách tối đa hóa hoạt động ngoại giao để đưa mối quan hệ của Ấn Độ với các đối tác Đông Nam Á lên một tầm cao mới.
Vụ tấn công khủng bố ở Moscow: 'Điểm mù' của Cơ quan an ninh Nga hay thuyết âm mưu đánh lạc hướng?

Vụ tấn công khủng bố ở Moscow: 'Điểm mù' của Cơ quan an ninh Nga hay thuyết âm mưu đánh lạc hướng?

Khi chính lực lượng IS đã nhận là chủ mưu cuộc khủng bố, Nga vẫn chưa thể vội vàng tin bởi nếu vội tin rất có thể Moscow đã dính bẫy.
Chuyên gia EU: Châu Âu thức tỉnh sau 'giấc ngủ Đông', cục diện xung đột Nga-Ukraine sắp có bước chuyển?

Chuyên gia EU: Châu Âu thức tỉnh sau 'giấc ngủ Đông', cục diện xung đột Nga-Ukraine sắp có bước chuyển?

EU đồng lòng hỗ trợ Ukraine 'bằng mọi giá' vì hòa bình trong bối cảnh Nga đang dành nhiều lợi thế trong cuộc xung đột.
Mỹ sắp tổ chức thượng đỉnh ba bên, sẽ có thêm một thế 'kiềng ba chân' trong quan hệ quốc tế?

Mỹ sắp tổ chức thượng đỉnh ba bên, sẽ có thêm một thế 'kiềng ba chân' trong quan hệ quốc tế?

Hội nghị thượng đỉnh ba bên giữa Nhật Bản, Mỹ và Philippines sẽ lần đầu tiên được tổ chức tại Mỹ vào giữa tháng 4 này.
Phiên bản di động