IBM phát triển công cụ kiểm soát sự thiên vị của trí tuệ nhân tạo

IBM vừa giới thiệu một công cụ giúp kiểm soát và giảm sự thiên vị của trí tuệ nhân tạo (AI) trong phân biệt đối xử.
Theo dõi Baoquocte.vn trên
TIN LIÊN QUAN
ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Máy tính của IBM hùng biện giỏi hơn con người
ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Vì sao IBM dừng hình thức cho nhân viên làm việc tại nhà?

Với đặc trưng là do con người tạo ra và tự đào tạo dưới dạng máy học (machine learning), trí tuệ nhân tạo có những hạn chế nhất định với nguyên nhân thiên vị bởi chính con người. Điều này có thể gây ra sự thiên vị hay phân biệt đối xử với một nhóm đối tượng nào đó, ví dụ như phụ nữ hoặc người dân tộc thiểu số.

Chỉ cách đâu một tuần, Amazon đã phải ngừng một trong những công cụ AI của mình liên quan đến việc tuyển dụng. Công cụ này đã có những thiên vị nhất định khi sẽ ưu tiên tuyển dụng nhân viên là nam hơn là nữ vào công ty.

Hay xa hơn đối với công nghệ nhận diện khuôn mặt của Microsoft và IBM trước đây, trí tuệ nhân tạo có thể xác định chính xác hơn khuôn mặt của những người đàn ông và là người da trắng hơn là phụ nữ và người da màu.

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi
IBM giới thiệu công cụ giảm sự thiên vị của trí tuệ nhân tạo (AI). (Nguồn: Getty Images)

Mọi chuyện bắt đầu khi nhà nghiên cứu Joy Buolamwini của Media Lab tại MIT xây dựng bộ dữ liệu 1.270 khuôn mặt, sử dụng khuôn mặt từ các chính trị gia, được lựa chọn dựa trên bảng xếp hạng về bình đẳng giới, hay nói cách khác là có số lượng phụ nữ làm việc trong công sở đáng kể. Sau đó, Joy đã kiểm tra tính chính xác của ba hệ thống nhận dạng khuôn mặt lần lượt do Microsoft, IBM tạo ra. Kết quả cho thấy có sự sai sót khác nhau về nhận dạng giới tính tùy thuộc vào màu da của một người.

Nhận dạng giới tính sai chỉ chưa tới 1% với những người đàn ông da trắng và lên đến 7% với phụ nữ da trắng. Thế nhưng, sai số lên đến 12% ở đàn ông da màu và đến 35% ở phụ nữ da màu. Kết quả này cho thấy, các đối tượng nam được phân loại chính xác hơn các đối tượng nữ và những đối tượng có da trắng cũng được phân loại chính xác hơn các đối tượng da màu.

Joy Buolamwini gần đây đã nói với Aaron Pressman của trang Fortune rằng sự thiếu đa dạng trong các nhóm phát triển, dữ liệu đầu vào cũng có thể góp phần vào sự thiên vị dựa trên các thuật toán.

IBM muốn giúp các công ty giảm thiểu các “lỗi” mà các công nghệ trí tuệ nhân tạo của họ không chủ ý phân biệt đối xử với các nhóm nhất định như phụ nữ và dân tộc thiểu số. Ngoài IBM, một số công ty cũng bắt đầu phát triển các công cụ để kiểm tra công nghệ AI như Google và Microsoft.

Hãng này cho biết công cụ được xây dựng trên dựa trên dịch vụ “điện toán đám mây” của công ty và nó được tạo ra cho những người kinh doanh, dễ dàng làm việc hơn các công cụ tương tự khác chỉ dành cho các nhà phát triển.

Tuy nhiên, mặc dù bắt đầu có những công cụ giúp kiểm tra AI, vấn đề thiên vị có thể sẽ tiếp tục tồn tại bởi vì “gốc rễ” sự việc thực tế lại nằm ở phần lõi của công nghệ AI và do con người.

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Siêu máy tính chống biến đổi khí hậu

Trước những hậu quả nghiêm trọng do biến đổi khí hậu gây ra, Tập đoàn công nghệ máy tính IBM đang lên kế hoạch sử ...

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi IBM giới thiệu máy tính lượng tử đời mới

Hãng máy tính IBM vừa tổ chức cho ra mắt máy tính lượng tử - thế hệ máy tính đời mới với tốc độ xử ...

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Máy tính biết làm đầu bếp

Siêu máy tính Watson do hãng IBM chế tạo là một chiếc máy nổi tiếng vì đã từng được sử dụng để giúp các bác ...

(theo Vietnamnet/Fortune)

Xem nhiều

Đọc thêm

TRỰC TIẾP bầu cử Mỹ 2024: Căng thẳng an ninh lịch sử, ông Trump ra tuyên bố nóng bất ngờ, bà Harris nói 'hãy tận hưởng'

TRỰC TIẾP bầu cử Mỹ 2024: Căng thẳng an ninh lịch sử, ông Trump ra tuyên bố nóng bất ngờ, bà Harris nói 'hãy tận hưởng'

Báo Thế giới và Việt Nam liên tục cập nhật diễn biến và kết quả của cuộc bầu cử tổng thống Mỹ 2024 ngày 5/11.
Lịch thi đấu bóng đá hôm nay 5/11 và sáng 6/11: Lịch thi đấu Champions League - Liverpool vs Leverkusen; AFC Champions League - Al Nassr vs Al-Ain

Lịch thi đấu bóng đá hôm nay 5/11 và sáng 6/11: Lịch thi đấu Champions League - Liverpool vs Leverkusen; AFC Champions League - Al Nassr vs Al-Ain

Lịch thi đấu bóng đá hôm nay 5/11 và sáng 6/11: Lịch thi đấu Champions League - Sporting vs Man City; AFC Champions League - Al Nassr vs Al-Ain.
Indonesia tham vọng trở thành số 1 về du lịch Halal

Indonesia tham vọng trở thành số 1 về du lịch Halal

Chính phủ Indonesia thúc đẩy cải thiện du lịch Halal như một phần trong nỗ lực trở thành điểm đến du lịch thân thiện hàng đầu với người Hồi giáo.
Xao xuyến trước nhan sắc diễn viên Phan Minh Huyền

Xao xuyến trước nhan sắc diễn viên Phan Minh Huyền

Trên trang cá nhân, diễn viên Phan Minh Huyền thường xuyên cập nhật hình ảnh mới, lúc gợi cảm, quyến rũ; khi thì năng động.
Bầu cử Tổng thống Mỹ 2024: Màu sắc chính sách đối ngoại của ông Trump và bà Harris nếu đắc cử

Bầu cử Tổng thống Mỹ 2024: Màu sắc chính sách đối ngoại của ông Trump và bà Harris nếu đắc cử

Kết quả bầu cử Tổng thống Mỹ 2024 sẽ tác động tới tình hình thế giới thế nào và chính sách đối ngoại của ông Trump và bà Harris khác ...
Giá vàng hôm nay 5/11/2024: Giá vàng biến động trước bầu cử Mỹ, cơn sốt quý kim khiến BRICS và giới tỷ phú sục sôi, vàng nhẫn tiếp đà giảm

Giá vàng hôm nay 5/11/2024: Giá vàng biến động trước bầu cử Mỹ, cơn sốt quý kim khiến BRICS và giới tỷ phú sục sôi, vàng nhẫn tiếp đà giảm

Giá vàng hôm nay 5/11/2024: Giá vàng biến động trước bầu cử Mỹ, ông Trump có thể đẩy quý kim lên 2.900 USD/ounce. Giá vàng nhẫn tiếp đà đi xuống.
Israel-Iran: Trả đũa trong tính toán

Israel-Iran: Trả đũa trong tính toán

Israel tiến hành tập kích đường không vào nhiều mục tiêu ở Iran. Đợt tấn công trả đũa của Israel có những điểm đáng chú ý và đặt ra nhiều vấn đề.
Phần Lan-Trung Quốc: Van giảm áp

Phần Lan-Trung Quốc: Van giảm áp

Không chỉ thúc đẩy quan hệ song phương, chuyến thăm Trung Quốc của Tổng thống Phần Lan còn góp phần ổn định quan hệ Trung Quốc EU...
Bán đảo Triều Tiên nóng ran, căng thẳng leo thang, 'gọi tên' bờ vực chiến tranh

Bán đảo Triều Tiên nóng ran, căng thẳng leo thang, 'gọi tên' bờ vực chiến tranh

Bán đảo Triều Tiên bất ngờ trở nên nóng bỏng nhất trong 70 năm qua, đến mức nhiều chuyên gia nhận định tình thế bên miệng hố chiến tranh...
Hội nghị thượng đỉnh BRICS và công cụ nâng tầm tự chủ

Hội nghị thượng đỉnh BRICS và công cụ nâng tầm tự chủ

Tăng cường quyền tự chủ và chủ quyền tài chính, giảm phụ thuộc vào hệ thống do phương Tây chi phối là một trong những trọng tâm của Hội nghị BRICS...
Tổng thống Mỹ đến Đức: Chuyến chia tay không nhẹ nhàng!

Tổng thống Mỹ đến Đức: Chuyến chia tay không nhẹ nhàng!

Không còn đua tiếp vào Nhà Trắng khiến việc đến Đức lần này của ông Joe Biden trở thành chuyến đi tạm biệt châu Âu trên cương vị Tổng thống Mỹ.
ASEAN tiếp tục khẳng định vai trò trung tâm

ASEAN tiếp tục khẳng định vai trò trung tâm

Không chỉ thảo luận vấn đề nội bộ, Hội nghị cấp cao ASEAN và các hội nghị liên quan còn là cơ hội để Hiệp hội khẳng định vai trò trung tâm của mình.
Bầu cử Mỹ trước 'giờ G': 'Kỳ phùng địch thủ' Trung Quốc vẫn gia tăng sức ảnh hưởng, chiến lược châu Á sẽ được định hình ra sao?

Bầu cử Mỹ trước 'giờ G': 'Kỳ phùng địch thủ' Trung Quốc vẫn gia tăng sức ảnh hưởng, chiến lược châu Á sẽ được định hình ra sao?

Cả ông Trump và bà Harris đều đang tìm cách mô tả bên kia là 'yếu thế trước Trung Quốc' trong nỗ lực vượt qua phe đối lập.
Quan hệ Mỹ-Anh hậu bầu cử: Hai ngã rẽ trước chân trời mới

Quan hệ Mỹ-Anh hậu bầu cử: Hai ngã rẽ trước chân trời mới

Quan hệ truyền thống Mỹ-Anh có thể sẽ đổi khác, khi cuộc bầu cử sắp tới mở ra hai viễn cảnh khác nhau cho mối thâm tình này.
Bài phát biểu tranh cử cuối cùng của bà Kamala Harris: Những 'đòn công kích' phút chót, so sánh rất giàu hình ảnh

Bài phát biểu tranh cử cuối cùng của bà Kamala Harris: Những 'đòn công kích' phút chót, so sánh rất giàu hình ảnh

Phó Tổng thống Kamala Harris đã có bài phát biểu khép lại chiến dịch tranh cử tại công viên Ellipse ở Washington, D.C.
'Ván cờ' Nga-Ukraine trước ngã rẽ bầu cử Mỹ

'Ván cờ' Nga-Ukraine trước ngã rẽ bầu cử Mỹ

Kết quả bầu cử Tổng thống Mỹ năm 2024 sẽ có ảnh hưởng lớn đến cục diện xung đột Nga-Ukraine.
Quan hệ Mỹ-Ấn đi về đâu sau khi Nhà Trắng đổi chủ?

Quan hệ Mỹ-Ấn đi về đâu sau khi Nhà Trắng đổi chủ?

Bất kể ai giành chiến thắng trong cuộc bầu cử Tổng thống Mỹ, chính quyền Washington mới cần tiếp tục xây dựng quan hệ hợp tác tốt đẹp với Ấn Độ.
Gia tăng 'sức nóng', BRICS được định vị là nhân tố chủ chốt trong quản trị toàn cầu tương lai

Gia tăng 'sức nóng', BRICS được định vị là nhân tố chủ chốt trong quản trị toàn cầu tương lai

Sức ảnh hưởng toàn cầu đang gia tăng của BRICS định vị nhóm này sẽ là một nhân tố chủ chốt trong quản trị toàn cầu tương lai.
Phiên bản di động