Bài học rút ra chính
- Sự thiên vị thuật toán có hại cho thanh thiếu niên dành nhiều thời gian trên internet, các chuyên gia nói.
- Người dùng Twitter gần đây đã gặp phải sự cố trong đó khuôn mặt da đen được chọn thay cho khuôn mặt da trắng.
- Các nhà nghiên cứu cho biếtNão bộ đang phát triển của thanh thiếu niên có thể đặc biệt dễ bị ảnh hưởng bởi sự sai lệch thuật toán.
Định kiến đưa vào một số công nghệ, được gọi là thiên vị thuật toán, có thể gây hại cho nhiều nhóm, nhưng các chuyên gia cho rằng nó đặc biệt gây hại cho thanh thiếu niên.
Sai lệch về thuật toán, khi hệ thống máy tính hiển thị kết quả định kiến, là một vấn đề ngày càng tăng. Người dùng Twitter gần đây đã tìm thấy một ví dụ về sự thiên vị trên nền tảng này khi một thuật toán phát hiện hình ảnh cắt các bức ảnh đang cắt các khuôn mặt Đen thay cho các khuôn mặt trắng. Công ty đã xin lỗi về vấn đề này, nhưng vẫn chưa đưa ra bản sửa lỗi. Các chuyên gia nói rằng đó là một ví dụ về thành kiến mà thanh thiếu niên gặp phải khi họ trực tuyến, điều mà họ làm nhiều hơn bất kỳ nhóm tuổi nào khác.
"Hầu hết thanh thiếu niên không biết rằng các công ty truyền thông xã hội có họ để quảng cáo nội dung cụ thể mà họ nghĩ rằng người dùng sẽ thích [để] khiến họ ở lại lâu nhất có thể trên nền tảng," Tiến sĩ Mai- Lý Nguyễn Steers, trợ lý giáo sư Khoa Điều dưỡng tại Đại học Duquesne, người nghiên cứu việc sử dụng mạng xã hội ở thanh thiếu niên / sinh viên đại học, cho biết trong một cuộc phỏng vấn qua email.
"Ngay cả khi có ý thức về thuật toán, tác động của việc không nhận được đủ lượt thích và bình luận vẫn rất mạnh và có thể ảnh hưởng đến lòng tự trọng của thanh thiếu niên", Steers nói thêm.
Phát triển trí não
Thành kiến về thuật toán có thể ảnh hưởng đến thanh thiếu niên theo những cách không lường trước được vì vỏ não trước trán của họ vẫn đang phát triển, Mikaela Pisani, Giám đốc Khoa học Dữ liệu tại Rootstrap, giải thích trong một cuộc phỏng vấn qua email.
Tác động của việc không nhận được đủ lượt thích và bình luận vẫn còn rất mạnh và có thể ảnh hưởng đến lòng tự trọng của thanh thiếu niên.
"Thanh thiếu niên đặc biệt dễ bị ảnh hưởng bởi hiện tượng 'Nhà máy xã hội', nơi các thuật toán tạo ra các cụm xã hội trên các nền tảng trực tuyến, dẫn đến lo lắng và trầm cảm nếu không đáp ứng được nhu cầu được xã hội chấp thuận của thanh thiếu niên". "Các thuật toán đơn giản hóa dựa trên dữ liệu không hoàn hảo trước đó, dẫn đến việc mô tả quá mức các định kiến với chi phí của các phương pháp tiếp cận sắc thái hơn để hình thành danh tính.
"Nhìn từ góc độ rộng hơn, chúng ta cũng phải đặt câu hỏi, với tư cách là một xã hội, liệu chúng ta có muốn các thuật toán định hình hành trình trưởng thành của thanh thiếu niên và hệ thống này thậm chí có hỗ trợ thay vì kìm hãm sự phát triển cá nhân của từng cá nhân không?"
Vì những vấn đề này, các chuyên gia cho biết ngày càng cần phải lưu ý thanh thiếu niên khi thiết kế thuật toán.
"Dựa trên ý kiến đóng góp từ các chuyên gia phát triển, nhà khoa học dữ liệu và những người ủng hộ giới trẻ, các chính sách của thế kỷ 21 về quyền riêng tư dữ liệu và thiết kế thuật toán cũng có thể được xây dựng dựa trên nhu cầu cụ thể của thanh thiếu niên", tiến sĩ Avriel Epps-Darling sinh viên tại Harvard, đã viết gần đây. "Thay vào đó, nếu chúng ta tiếp tục hạ thấp hoặc phớt lờ những cách mà thanh thiếu niên dễ bị ảnh hưởng bởi sự phân biệt chủng tộc theo thuật toán, thì những tác hại có thể sẽ vang dội qua các thế hệ sau."
Kết hợp thiên vị
Cho đến khi có giải pháp, một số nhà nghiên cứu đang cố gắng tìm cách để giảm bớt thiệt hại cho những người trẻ tuổi bằng các thuật toán thiên vị.
"Các biện pháp can thiệp đã tập trung vào việc làm cho thanh thiếu niên nhận ra các mô hình mạng xã hội đang ảnh hưởng tiêu cực đến sức khỏe tâm thần của họ và cố gắng đưa ra các chiến lược để giảm thiểu điều đó (ví dụ: giảm sử dụng mạng xã hội)", Steers nói.
"Một số sinh viên đại học mà chúng tôi đã phỏng vấn cho biết họ cảm thấy bắt buộc phải tạo ra nội dung để vẫn" có liên quan ", ngay cả khi họ không muốn đăng hoặc đăng," cô tiếp tục. "Tuy nhiên, họ cảm thấy cần phải tạo nội dung để duy trì kết nối với những người theo dõi hoặc bạn bè của họ."
Câu trả lời cuối cùng có thể là xóa thành kiến của con người khỏi máy tính. Nhưng vì lập trình viên chỉ là con người nên đó là một thử thách khó khăn, các chuyên gia nói.
Một giải pháp khả thi là phát triển các máy tính phi tập trung và được lập trình để quên đi những thứ chúng đã học, John Suit, Giám đốc Công nghệ tại công ty chế tạo người máy KODA cho biết.
"Thông qua một mạng lưới phi tập trung, dữ liệu và phân tích dữ liệu đó đang được tổng hợp và phân tích từ nhiều điểm", Suit cho biết trong một cuộc phỏng vấn qua email. "Dữ liệu đang được thu thập và xử lý không phải từ một quá trình xử lý tâm trí của AI trong giới hạn thuật toán của nó, mà là hàng trăm hoặc thậm chí hàng nghìn.
"Khi dữ liệu đó được thu thập và phân tích, các" kết luận "cũ hoặc dữ liệu thừa sẽ bị lãng quên. Thông qua hệ thống này, một thuật toán có thể bắt đầu với độ lệch cuối cùng sẽ sửa chữa và thay thế độ lệch đó nếu nó được chứng minh là sai."
Mặc dù thành kiến có thể là một vấn đề lâu đời, nhưng có thể có nhiều cách để chống lại nó, ít nhất là trên mạng. Thiết kế máy tính xóa bỏ định kiến của chúng ta là bước đầu tiên.
