Bài học rút ra chính
- Phần mềm giới hạn độ tuổi tự động của YouTube khiến nội dung LGBTQ + trên nền tảng này lo ngại.
- Công ty đã bị ảnh hưởng bởi tranh cãi liên quan đến những người sáng tạo nội dung LGBTQ + khiến họ nghi ngờ.
- Những thành kiến trong học máy làm cho ý tưởng rằng việc triển khai các bộ lọc không hoàn hảo của nó có khả năng hạn chế quyền truy cập một cách vô cớ.
Với lịch sử nhắm mục tiêu không công bằng vào những người sáng tạo nội dung LGBTQ + trong quá trình kiểm duyệt, công nghệ dựa trên AI mới của YouTube được coi là bước tiếp theo gây khó khăn cho gã khổng lồ công nghệ.
Trên blog chính thức của YouTube vào tuần trước, nền tảng chia sẻ video đã tiết lộ kế hoạch phát hành một phần mềm tự động mới để "áp dụng các giới hạn độ tuổi một cách nhất quán hơn" đối với các video được cho là không phù hợp với người xem nhỏ tuổi.
Được thúc đẩy bởi những lo ngại gần đây về trẻ em trên ứng dụng, hệ thống mới dựa trên phần mềm trí tuệ nhân tạo học máy với khả năng loại bỏ người kiểm duyệt của con người để có quy trình tự động hơn. Vấn đề? Hệ thống tự động của YouTube đã bị cáo buộc chỉ đơn giản là loại bỏ nội dung LGBTQ + và những người sáng tạo hiện có.
Ngay cả khi điều đó không có ác ý, điều mà tôi không nghĩ là như vậy, thì đó là sự thiếu đầu vào từ các giọng nói đa dạng - hoặc ít nhất là sự thiếu tôn trọng.
"Máy học được thông báo bởi con người và tạo ra, và có thể có những thành kiến vốn có trong nó hoặc do chính máy học", YouTuber Rowan Ellis cho biết trong một cuộc phỏng vấn qua điện thoại với Lifewire. "Sự thiên vị của nó đối với nội dung [LGBTQ +] đã thể hiện rõ ràng trong trải nghiệm trước đây của những người dùng YouTube [LGBTQ +] và tôi chưa thấy bằng chứng cho thấy bất cứ điều gì đã được thực hiện để ngăn chặn điều đó xảy ra."
Baby, Now We Got Bad Blood
Ellis là một Youtuber, người tạo ra nội dung giáo dục với một người theo chủ nghĩa bình quyền và nữ quyền, và vào năm 2017, cô ấy đã xuất bản một video ở chế độ hạn chế của công ty. Là bước đột phá đầu tiên trong việc kiểm duyệt nội dung tự động, chế độ này cho phép người dùng tùy chọn sàng lọc trước “nội dung có khả năng dành cho người trưởng thành” từ các đề xuất và đề xuất tìm kiếm.
Thu được hơn 100.000 lượt xem, cô ấy tin rằng đã có một nỗ lực có ý thức để ngăn kênh của mình bị hạn chế do sự phản đối mạnh mẽ của cô ấy đối với việc vượt quá bước mới của YouTube đối với việc kiểm duyệt. Những người dùng khác trên nền tảng này không may mắn như vậy và họ đã làm cho YouTube biết điều đó.
Một vụ kiện tập thể chống lại YouTube đã được đệ trình vào tháng 8 năm 2019 bởi một nhóm gồm tám người sáng tạo LGBTQ +, những người đã cáo buộc công ty ở Thung lũng Silicon hạn chế các nhà sản xuất video và nội dung đồng tính và chuyển giới. Đơn kiện cáo buộc trang web sử dụng "quy định nội dung bất hợp pháp, phân phối và các hoạt động kiếm tiền nhằm bêu xấu, hạn chế, chặn, phá sản và gây tổn hại về mặt tài chính cho Nguyên đơn LGBT và Cộng đồng LGBT lớn hơn."Nó vẫn đang vượt qua các tòa án ở California.
Máy học do con người cung cấp thông tin và tạo ra, và có thể có những thành kiến đó vốn có trong nó hoặc do chính máy học.
Vào tháng 6 cùng năm đó, nền tảng này đã nhận được sự chú ý của giới truyền thông sau khi từ chối nhanh chóng khiển trách nhà bình luận bảo thủ nổi tiếng Steven Crowder trong một chiến dịch quấy rối kỳ thị đồng tính kéo dài nhiều tháng chống lại nhà báo Vox và người dẫn chương trình Carlos Maza. Điều này củng cố những gì Ellis nói là một khuôn mẫu với nền tảng trực tuyến là bỏ qua những thách thức độc nhất mà người sáng tạo đồng tính phải đối mặt. Người sáng tạo LGBTQ + thiếu niềm tin vào khả năng YouTube hiển thị cho họ không phải là không có cơ sở.
"Tôi không nghĩ rằng họ đã hiểu sự cần thiết phải có sự minh bạch trong các vấn đề xã hội và đảm bảo bình đẳng", cô nói. "Vẫn có những đứa trẻ trên khắp thế giới lớn lên với suy nghĩ rằng đồng tính là sai, và khi chúng bắt đầu nghi ngờ về niềm tin đó, nhưng thấy nó bị tắt bởi một cuộc tìm kiếm hoặc hạn chế an toàn, nó sẽ củng cố thêm ý tưởng này rằng nó là sai, không phù hợp, người lớn, đồi trụy và bẩn thỉu."
Không tự động học được
Với lịch sử tồi tệ liên quan đến những người sáng tạo nội dung LGBTQ + trên nền tảng của mình, những lo lắng về việc triển khai khả năng phân biệt các tiêu chuẩn lớn hơn của phần mềm học máy vẫn còn hiển hiện. Don Heider, Giám đốc Điều hành tại Trung tâm Đạo đức Ứng dụng Markkula, cho rằng khả năng điên rồ là một rủi ro quá lớn để đánh bạc.
"Thật khó để tin rằng AI có thể quản lý hiệu quả nội dung từ nhiều quốc gia với các quy tắc và tiêu chuẩn văn hóa khác nhau", ông viết trong một cuộc phỏng vấn qua email. "AI thường được coi là câu trả lời cho những câu hỏi phức tạp. Tại thời điểm này, AI và cách nó được tạo ra phải vật lộn để giải quyết những nhiệm vụ thậm chí đơn giản, chưa nói đến việc kiểm duyệt nội dung với bất kỳ mức độ phức tạp nào."
YouTube đã quyết định sử dụng công nghệ AI vì sự thiếu kiểm duyệt nhất quán của người kiểm duyệt, theo blog của họ. Việc tăng cường sử dụng các bộ lọc máy tính để gỡ bỏ các video được cho là không phù hợp đã trở thành tiêu chuẩn và việc thực hiện các quy trình tương tự đối với các chính sách giới hạn độ tuổi người xem được coi là bước tiếp theo hợp lý.
Là một công ty đang tìm cách cải thiện dần các quy trình của mình sau những chỉ trích lâu dài liên quan đến mối quan hệ của họ với người tiêu dùng trẻ em, quyết định này không có gì ngạc nhiên.
Tôi không nghĩ rằng họ đã hiểu nhu cầu về sự minh bạch trong các vấn đề xã hội và đảm bảo bình đẳng.
Trẻ em đã trở thành nhân khẩu học chính của trang web chia sẻ video. Vào tháng 8, công ty phân tích video kỹ thuật số Tubular phát hiện ra rằng ngoài video ca nhạc, nội dung hướng đến trẻ em đứng đầu danh sách cuối tháng về các video được xem nhiều nhất trên YouTube.
Mối quan tâm của công ty trong việc bảo vệ cường quốc mới nổi, sinh lợi này trên nền tảng là rất có ý nghĩa. Tuy nhiên, các công cụ được sử dụng để thực thi biện pháp bảo vệ này vẫn gây khó chịu cho những người đã nhận thấy rằng mình đã hoàn thành các quy trình kiểm duyệt của công ty.
"Tôi lo lắng là nó sẽ gây hại rất nhiều và không bảo vệ được thanh thiếu niên [LGBTQ +], những người cần nội dung thông tin, thẳng thắn và trung thực mà rất nhiều YouTuber [LGBTQ +] có thể cung cấp, nhưng bị gắn cờ trong hệ thống của nó là không phù hợp, "Ellis nói."Ngay cả khi điều đó không độc hại, điều mà tôi không nghĩ là như vậy, thì đó là sự thiếu ý kiến từ nhiều giọng nói khác nhau - hoặc ít nhất là sự thiếu tôn trọng.
"Chúng tôi thấy rằng mọi lúc trong công nghệ. Khi bạn nhìn vào nhận dạng khuôn mặt không thể phân biệt các khuôn mặt Da đen khác nhau hoặc khi chúng tôi xem xét thuốc và thấy rằng thuốc chỉ được thử nghiệm trên một giới tính cụ thể. Những là những cuộc trò chuyện lớn hơn và YouTube không được miễn trừ điều đó."