Mặt trái của Công nghệ nhận diện

TIN LIÊN QUAN
	Australia trình làng máy ATM sử dụng công nghệ nhận diện khuôn mặt
	Face ID không còn là độc quyền của Apple

Tuần qua, Liên minh Tư pháp Thuật toán và Trung tâm bảo mật và Công nghệ thuộc Đại học Georgetown (Mỹ) đã đưa ra Cam kết An ninh Khuôn mặt (Safe Face Pledge - SFP), đòi hỏi các công ty công nghệ không cung cấp dữ liệu nhận diện khuôn mặt cho cơ quan thực thi pháp luật, cho đến khi chính phủ thông qua những điều luật rõ ràng đồng ý cho trường hợp này. Trước đó, Microsoft, Google và nhiều công ty công nghệ khác cũng cho rằng công nghệ nhận diện khuôn mặt đem lại nhiều mối nguy hiểm nghiêm trọng và cần phải đề ra luật để chống lại mối đe doạ này.

Cam kết vì nhân đạo

Cam kết SFP yêu cầu các công ty công nghệ “tôn trọng giá trị của cuộc sống, nhân phẩm và quyền con người, giải quyết sự thiên vị tiêu cực, tạo điều kiện cho sự minh bạch” và biến những cam kết này thành một phần của hoạt động kinh doanh. Điều này bao gồm việc không bán phần mềm nhận dạng khuôn mặt để phát triển vũ khí cũng như bất kể thứ gì có thể gây hại tới tính mạng và sự an toàn của con người. SPF cũng yêu cầu các công ty ngừng bán các sản phẩm nhận diện khuôn mặt mà không có sự kiểm tra và giám sát của công chúng.

Hệ thống nhận dạng khuôn mặt có thể ước tính cả được tuổi tại Hội chợ AI ở Tokyo, tháng 4/2018. (Nguồn: TNS)

Ngoài ra, các công ty còn phải cam kết sử dụng các chuyên gia ngoài công ty để đánh giá sản phẩm, cùng với yêu cầu phải công bố thông tin dễ hiểu về cách các công nghệ này được sử dụng và nhắm vào đối tượng khách hàng nào.

Joy Buolamwini, người sáng lập Liên minh Tư pháp Thuật toán đã nói rằng “Nguyên tắc là điểm khởi đầu cho mọi thứ. Ngoài các nguyên tắc, chúng ta cần nhìn thấy hành động”. Simprints Technology, Robbie AI và Yoti là các công ty khởi nghiệp đầu tiên ký cam kết. Trong khi đó, các nhà sản xuất phần mềm công nghệ lớn nhất như Microsoft, Google, Amazon, Facebook và IBM lại không hề muốn ký SFP.

Các công ty công nghệ lớn có thể miễn cưỡng phải đồng ý với loại cam kết này. Điều đó khá dễ hiểu do họ có thể bỏ lỡ cơ hội ký kết các hợp đồng phát triển các công nghệ sinh lợi béo bở. Quả vậy, thị trường thiết bị giám sát video có doanh thu 18,5 tỷ USD và các thiết bị trí tuệ nhân tạo (AI) hỗ trợ cho các hình thức phân tích video trong tương lai cũng sẽ đem lại nguồn lợi nhuận khổng lồ.

Nguồn lợi khó bỏ

Trong khi đó, hiệu quả của việc sử dụng nhận dạng khuôn mặt để giám sát, trị an và kiểm soát nhập cư đang bị nghi ngờ bởi các nhà nghiên cứu đã chỉ ra rằng công nghệ còn thiếu độ chính xác và thể hiện kém hơn đối với những người da tối màu.

Laura Moy, giám đốc điều hành của Trung tâm Bảo mật và Công nghệ cho biết: “Sẽ có một số nhà cung cấp lớn từ chối ký hoặc không muốn ký Cam kết vì họ muốn đạt được các hợp đồng từ chính phủ”. Microsoft và Facebook nói rằng họ đang xem xét, còn Google thì lại từ chối bình luận về vấn đề này.

Microsoft vẫn đang bán phần mềm nhận dạng khuôn mặt cho chính phủ và Liên đoàn Tự do Dân sự Mỹ (ACLU) yêu cầu Microsoft tạm dừng việc buôn bán và tham gia việc cùng với tổ chức này để kêu gọi một lệnh hạn chế mang tầm liên bang về việc sử dụng công nghệ của chính phủ Mỹ trong những vấn đề bí mật như điều tra, tình báo,...

Cần có luật mới

Microsoft đang tập trung mọi sự chú ý của mình với tư cách là người đi đầu trong việc quản lý công nghệ nhận diện khuôn mặt. Tập đoàn này đã nêu mong muốn chi tiết về những luật cần được thông qua để quản lý chặt chẽ hơn công nghệ này. Chủ tịch, Giám đốc pháp lý của Microsoft Brad Smith, cũng không chắc chắn sẽ có bất cứ thay đổi rõ rệt nào được đưa ra trong năm 2019. Cùng lắm là dự luật bảo mật sẽ chỉ thêm được vài điều luật nhỏ.

Trong khi đó, Microsoft cho biết họ sẽ từ chối một số hợp đồng AI mà họ cho rằng có vấn đề. Nhưng ông Smith không nói rõ rằng công ty đã từ chối thỏa thuận nào và ông cũng khẳng định Microsoft sẽ tiếp tục là nhà cung cấp công nghệ chính cho chính phủ Mỹ.

Ngược lại, Amazon cho rằng công nghệ nhận diện đem lại nhiều ứng dụng tích cực bao gồm ngăn chặn nạn buôn người, đoàn tụ trẻ em mất tích và cải thiện an ninh. Hiện tại là quá sớm để đưa ra các điều luật quản lý vì công nghệ này đang ở giai đoạn đầu triển khai và bản thân Amazon không nhận được bất cứ phản hồi nào về việc công nghệ của họ bị sử dụng sai mục đích. Tuy nhiên, công ty cho biết họ sẽ làm việc với các chính phủ về các tiêu chuẩn và hướng dẫn cho công nghệ để duy trì quyền riêng tư và quyền tự do dân sự.

Trong khi nhân viên và khách hàng có thể gây áp lực khiến các công ty suy nghĩ lại cách phát triển AI thế nào, chúng ta cần chú ý nhiều hơn đến luật pháp và sự giám sát của chính phủ. Cần phải có một quy định thiết thực và áp dụng rộng rãi tới toàn bộ các công ty công nghệ, bởi nếu một số công ty từ chối bán phần mềm nhận diện khuôn mặt của mình mà họ cho rằng không có tính đạo đức, thì những công ty khác không quan tâm đến vấn đề này nhảy vào ngay lập tức.