Coded Bias

Khi tiến hành các thử nghiệm công nghệ tại phòng nghiên cứu MIT Media Lab, nhà nghiên cứu Joy Buolamwini bất ngờ phát hiện ra một lỗ hổng nghiêm trọng của hệ thống nhận diện khuôn mặt. Phần mềm thị giác máy tính hoàn toàn không thể nhận diện chính xác những gương mặt có làn da sẫm màu. Thực tế này đã trở thành chủ đề trọng tâm trong tác phẩm tài liệu Coded Bias ra mắt năm 2020. Sự sai lệch của các dòng mã tưởng chừng khách quan lại ẩn chứa những định kiến âm thầm đối với con người.

Nhận thức được mức độ nguy hại của vấn đề, nhà nghiên cứu đã quyết định không giữ im lặng trước sự phát triển thiếu kiểm soát của trí tuệ nhân tạo. Cô bắt đầu điều tra sâu hơn về nguồn gốc dữ liệu dùng để huấn luyện các thuật toán thương mại. Từ những sai số kỹ thuật đơn thuần, câu chuyện dần hé lộ các rủi ro xã hội rộng lớn khi công nghệ giám sát tự động bị ứng dụng tràn lan. Định kiến vô thức của người lập trình đã vô tình khuếch đại sự phân biệt đối xử trong đời sống thực tế.

Từ phát hiện ban đầu đó, hành trình đấu tranh vì sự công bằng số đã chính thức mở rộng ra phạm vi cộng đồng và pháp lý. Nhân vật chính không chỉ dừng lại ở các phân tích học thuật mà còn nỗ lực vận động nhằm thúc đẩy đạo luật đầu tiên tại Hoa Kỳ nhằm kiểm soát sự thiên vị trong các thuật toán. Đây là một cuộc đối thoại quan trọng về trách nhiệm đạo đức của giới công nghệ trước những hệ thống giám sát đang âm thầm tác động trực tiếp đến quyền lợi của mọi công dân.