IBM phát triển công cụ kiểm soát sự thiên vị của trí tuệ nhân tạo

IBM vừa giới thiệu một công cụ giúp kiểm soát và giảm sự thiên vị của trí tuệ nhân tạo (AI) trong phân biệt đối xử.
Theo dõi Baoquocte.vn trên
TIN LIÊN QUAN
ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Máy tính của IBM hùng biện giỏi hơn con người
ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Vì sao IBM dừng hình thức cho nhân viên làm việc tại nhà?

Với đặc trưng là do con người tạo ra và tự đào tạo dưới dạng máy học (machine learning), trí tuệ nhân tạo có những hạn chế nhất định với nguyên nhân thiên vị bởi chính con người. Điều này có thể gây ra sự thiên vị hay phân biệt đối xử với một nhóm đối tượng nào đó, ví dụ như phụ nữ hoặc người dân tộc thiểu số.

Chỉ cách đâu một tuần, Amazon đã phải ngừng một trong những công cụ AI của mình liên quan đến việc tuyển dụng. Công cụ này đã có những thiên vị nhất định khi sẽ ưu tiên tuyển dụng nhân viên là nam hơn là nữ vào công ty.

Hay xa hơn đối với công nghệ nhận diện khuôn mặt của Microsoft và IBM trước đây, trí tuệ nhân tạo có thể xác định chính xác hơn khuôn mặt của những người đàn ông và là người da trắng hơn là phụ nữ và người da màu.

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi
IBM giới thiệu công cụ giảm sự thiên vị của trí tuệ nhân tạo (AI). (Nguồn: Getty Images)

Mọi chuyện bắt đầu khi nhà nghiên cứu Joy Buolamwini của Media Lab tại MIT xây dựng bộ dữ liệu 1.270 khuôn mặt, sử dụng khuôn mặt từ các chính trị gia, được lựa chọn dựa trên bảng xếp hạng về bình đẳng giới, hay nói cách khác là có số lượng phụ nữ làm việc trong công sở đáng kể. Sau đó, Joy đã kiểm tra tính chính xác của ba hệ thống nhận dạng khuôn mặt lần lượt do Microsoft, IBM tạo ra. Kết quả cho thấy có sự sai sót khác nhau về nhận dạng giới tính tùy thuộc vào màu da của một người.

Nhận dạng giới tính sai chỉ chưa tới 1% với những người đàn ông da trắng và lên đến 7% với phụ nữ da trắng. Thế nhưng, sai số lên đến 12% ở đàn ông da màu và đến 35% ở phụ nữ da màu. Kết quả này cho thấy, các đối tượng nam được phân loại chính xác hơn các đối tượng nữ và những đối tượng có da trắng cũng được phân loại chính xác hơn các đối tượng da màu.

Joy Buolamwini gần đây đã nói với Aaron Pressman của trang Fortune rằng sự thiếu đa dạng trong các nhóm phát triển, dữ liệu đầu vào cũng có thể góp phần vào sự thiên vị dựa trên các thuật toán.

IBM muốn giúp các công ty giảm thiểu các “lỗi” mà các công nghệ trí tuệ nhân tạo của họ không chủ ý phân biệt đối xử với các nhóm nhất định như phụ nữ và dân tộc thiểu số. Ngoài IBM, một số công ty cũng bắt đầu phát triển các công cụ để kiểm tra công nghệ AI như Google và Microsoft.

Hãng này cho biết công cụ được xây dựng trên dựa trên dịch vụ “điện toán đám mây” của công ty và nó được tạo ra cho những người kinh doanh, dễ dàng làm việc hơn các công cụ tương tự khác chỉ dành cho các nhà phát triển.

Tuy nhiên, mặc dù bắt đầu có những công cụ giúp kiểm tra AI, vấn đề thiên vị có thể sẽ tiếp tục tồn tại bởi vì “gốc rễ” sự việc thực tế lại nằm ở phần lõi của công nghệ AI và do con người.

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Siêu máy tính chống biến đổi khí hậu

Trước những hậu quả nghiêm trọng do biến đổi khí hậu gây ra, Tập đoàn công nghệ máy tính IBM đang lên kế hoạch sử ...

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi IBM giới thiệu máy tính lượng tử đời mới

Hãng máy tính IBM vừa tổ chức cho ra mắt máy tính lượng tử - thế hệ máy tính đời mới với tốc độ xử ...

ibm phat trien cong cu ngan tri tue nhan tao quyet dinh thien vi Máy tính biết làm đầu bếp

Siêu máy tính Watson do hãng IBM chế tạo là một chiếc máy nổi tiếng vì đã từng được sử dụng để giúp các bác ...

(theo Vietnamnet/Fortune)

Xem nhiều

Đọc thêm

Cơ hội nhận iPhone 16 và nhiều phần quà hấp dẫn khi mở Tài khoản Plus trên Agribank Plus

Cơ hội nhận iPhone 16 và nhiều phần quà hấp dẫn khi mở Tài khoản Plus trên Agribank Plus

Agribank triển khai chương trình khuyến mại hấp dẫn 'Mở Tài khoản Plus - Đón Vạn Đặc Quyền' với tổng giá trị giải thưởng lên tới 16,2 tỷ đồng.
Dự báo ảnh hưởng của không khí lạnh mạnh: Miền Trung mưa lớn; vùng núi Bắc Bộ rét đậm, rét hại ảnh hưởng đến đời sống, kinh tế, xã hội

Dự báo ảnh hưởng của không khí lạnh mạnh: Miền Trung mưa lớn; vùng núi Bắc Bộ rét đậm, rét hại ảnh hưởng đến đời sống, kinh tế, xã hội

Do ảnh hưởng của không khí lạnh mạnh, từ ngày 26/11, Đông Bắc Bộ, phía Tây Bắc Bộ, các tỉnh từ Thanh Hóa đến Thừa Thiên - Huế xảy ra ...
Nhóm tác chiến tàu sân bay Mỹ hướng tới Biển Đông, ghé thăm ba nước Đông Nam Á

Nhóm tác chiến tàu sân bay Mỹ hướng tới Biển Đông, ghé thăm ba nước Đông Nam Á

Vào tuần trước, nhóm tác chiến Hải quân Mỹ do 1 tàu sân bay và 3 tàu khu trục dẫn đầu, đã ghé thăm cảng tại 3 quốc gia giáp ...
Tăng thuế tiêu thụ đặc biệt đối với ngành bia: Cần hài hòa lợi ích, tránh gây 'hiệu ứng ngược'

Tăng thuế tiêu thụ đặc biệt đối với ngành bia: Cần hài hòa lợi ích, tránh gây 'hiệu ứng ngược'

Chiều 25/11, tại Hà Nội đã diễn ra Hội thảo Công bố 'Báo cáo đánh giá tác động của dự thảo tăng thuế tiêu thụ đặc biệt đối với mặt ...
Cà Mau thu hút đầu tư vào các dự án đột phá

Cà Mau thu hút đầu tư vào các dự án đột phá

Đến nay, trên địa bàn tỉnh Cà Mau có 459 dự án đầu tư đang hoạt động, với tổng vốn đăng ký 146.700,5 tỷ đồng.
Mexico, Canada và Trung Quốc sắp đồng loạt vào 'tầm ngắm' áp thuế của ông Trump

Mexico, Canada và Trung Quốc sắp đồng loạt vào 'tầm ngắm' áp thuế của ông Trump

Tổng thống đắc cử Mỹ Donald Trump sẽ ký sắc lệnh áp thuế 25% đối với tất cả hàng hóa từ Mexico và Canada nhập khẩu vào Mỹ.
Kiến tạo lòng tin, thúc đẩy đối thoại

Kiến tạo lòng tin, thúc đẩy đối thoại

ADMM+ ngày càng thể hiện vai trò là nền tảng cho hợp tác trên thực tế và có ý nghĩa giữa ASEAN với các nước bên ngoài khu vực trong lĩnh vực an ninh.
Bước đi lịch sử tại Hội nghị thượng đỉnh G20

Bước đi lịch sử tại Hội nghị thượng đỉnh G20

Đánh thuế giới siêu giàu là một trong những chủ đề quan trọng tại Hội nghị thượng đỉnh Nhóm các nền kinh tế phát triển và mới nổi hàng đầu thế giới.
Thế giới sẽ thế nào khi ông Donald Trump trở lại Nhà Trắng

Thế giới sẽ thế nào khi ông Donald Trump trở lại Nhà Trắng

Trở lại Nhà Trắng một cách mạnh mẽ, áp đảo, Tổng thống đắc cử Donald Trump sẽ 'đối đãi' với thế giới như thế nào trong nhiệm kỳ 2.0 vẫn là câu hỏi bỏ ngỏ.
Tuần lễ cấp cao APEC 2024: Thúc đẩy nguyên tắc đa phương

Tuần lễ cấp cao APEC 2024: Thúc đẩy nguyên tắc đa phương

Không chỉ thúc đẩy hợp tác khu vực, Tuần lễ cấp cao APEC từ 10 đến 16/11 tại Peru còn là cơ hội để thúc đẩy các nguyên tắc đa phương.
Israel-Iran: Trả đũa trong tính toán

Israel-Iran: Trả đũa trong tính toán

Israel tiến hành tập kích đường không vào nhiều mục tiêu ở Iran. Đợt tấn công trả đũa của Israel có những điểm đáng chú ý và đặt ra nhiều vấn đề.
Phần Lan-Trung Quốc: Van giảm áp

Phần Lan-Trung Quốc: Van giảm áp

Không chỉ thúc đẩy quan hệ song phương, chuyến thăm Trung Quốc của Tổng thống Phần Lan còn góp phần ổn định quan hệ Trung Quốc EU...
Tổng thống Mỹ Biden và 'nước cờ cuối' củng cố di sản, tạo không gian để ông Trump trổ tài 'bậc thầy thương thuyết'

Tổng thống Mỹ Biden và 'nước cờ cuối' củng cố di sản, tạo không gian để ông Trump trổ tài 'bậc thầy thương thuyết'

Tổng thống Mỹ Joe Biden vẫn nỗ lực nhằm thay đổi cục diện xung đột Nga-Ukraine và Trung Đông, tuy nhiên, sẽ chỉ là 'muối bỏ bể'.
Chuyên gia Thái Lan: Chuyến thăm Malaysia của Tổng Bí thư Tô Lâm thể hiện cách tiếp cận lấy ASEAN làm trung tâm

Chuyên gia Thái Lan: Chuyến thăm Malaysia của Tổng Bí thư Tô Lâm thể hiện cách tiếp cận lấy ASEAN làm trung tâm

Theo chuyên gia Thái Lan, chuyến thăm Malaysia của Tổng Bí thư Tô Lâm diễn ra khi 2 quốc gia ASEAN đang điều hướng thay đổi địa chính trị nhanh chóng.
Một Iran 'rất khác' sẽ khiến ông Trump phải đau đầu!

Một Iran 'rất khác' sẽ khiến ông Trump phải đau đầu!

Rất có thể chính sách 'gây áp lực tối đa' của Tổng thống đắc cử Donald Trump sẽ không còn tác dụng với Iran khi ở thời điểm hiện nay.
Ông Donald Trump 'tái xuất': Cục diện Nam bán cầu có đảo chiều?

Ông Donald Trump 'tái xuất': Cục diện Nam bán cầu có đảo chiều?

Sự trở lại của ông Donald Trump không chỉ đánh dấu bước ngoặt trong chính trị Mỹ mà còn hứa hẹn ảnh hưởng sâu rộng đến khu vực Nam bán cầu.
'Hạt hòa bình' gieo mầm ngoại giao nông sản Mỹ-Trung

'Hạt hòa bình' gieo mầm ngoại giao nông sản Mỹ-Trung

Nhóm các nhà nghiên cứu Mỹ và Trung Quốc đang tiến hành dự án 'hạt hòa bình' nhằm thúc đẩy cân bằng thương mại nông nghiệp giữa hai nước.
Xung đột Nga-Ukraine: Đoán ý đồ người kế nhiệm, Tổng thống Biden đi thêm nước cờ 'một mũi tên trúng hai đích'

Xung đột Nga-Ukraine: Đoán ý đồ người kế nhiệm, Tổng thống Biden đi thêm nước cờ 'một mũi tên trúng hai đích'

Mặc dù sắp mãn nhiệm nhưng Tổng thống Mỹ Joe Biden đã có một quyết định quan trọng liên quan đến xung đột Nga-Ukraine.
Phiên bản di động