Twitter đã công bố kết quả từ cuộc thi mở rộng nhằm tìm ra thành kiến trong hệ thống cắt xén ảnh của mình.
Thử thách tiền thưởng mở ra vào tháng 7 sau khi người dùng Twitter cho thấy rằng công cụ cắt xén tự động của trang web ưu tiên khuôn mặt của những người có nước da sáng hơn những người có nước da tối hơn. Nó đặt ra một số câu hỏi về cách phần mềm ưu tiên màu da và các yếu tố nhất định hơn những phần mềm khác.
Thử thách nhằm tìm ra những lỗi và thành kiến khác mà hệ thống cắt xén có thể có để khắc phục sự cố.
Vị trí đầu tiên thuộc về Bogdan Kulynych, người mà bài dự thi đã cho thấy cách các bộ lọc làm đẹp có thể đánh lừa mô hình tính điểm của thuật toán, từ đó khuếch đại các tiêu chuẩn làm đẹp truyền thống. Bài báo cáo cho thấy thuật toán ưu tiên những khuôn mặt trẻ và thon gọn với màu da sáng hoặc ấm. Kulynych đã thắng $ 3, 500.
Vị trí thứ hai thuộc về HALT AI, một công ty khởi nghiệp công nghệ ở Toronto, đã phát hiện ra hình ảnh của người già và người khuyết tật đã bị cắt ra khỏi ảnh. Đội đã được tặng $ 2, 000 để đứng thứ hai.
Vị trí thứ ba và 500 đô la, thuộc về Roya Pakzad, người sáng lập Taraaz Research, người đã phát hiện ra thuật toán ủng hộ việc cắt các chữ viết Latinh thay vì các chữ viết tiếng Ả Rập, điều này có thể gây hại cho sự đa dạng ngôn ngữ.
Kết quả chi tiết đã được trình bày tại DEF CON 29 bởi Rumman Chowdhury, giám đốc nhóm META của Twitter. Nhóm META nghiên cứu các vấn đề không cố ý trong các thuật toán và loại bỏ bất kỳ loại thành kiến nào về giới tính và chủng tộc mà hệ thống này có thể mắc phải.
Dữ liệu thu được từ cuộc thi này sẽ được sử dụng để giảm bớt các lỗi và sai lệch trong thuật toán cắt xén và giúp đảm bảo một môi trường toàn diện hơn.
