Bài học rút ra chính
- ToxMod, của công ty Modulate có trụ sở tại Boston, tuyên bố sẽ tự động phát hiện và hành động chống lại lời nói gây rối trong thời gian thực.
- Thay vì bị hạn chế bởi ngôn ngữ đơn giản, ToxMod sử dụng công nghệ máy học để tìm ra những thứ vô hình như cảm xúc, âm lượng và nhịp điệu.
- ToxMod hiện được thiết kế để sử dụng với các phòng trò chuyện trong trò chơi, nhưng không có lý do gì mà nó không đến được với kênh Twitch của bạn.
Một công ty có trụ sở tại Boston đang sử dụng công nghệ máy học để tạo ra những gì họ lập hóa đơn như là dịch vụ kiểm duyệt giọng nói gốc đầu tiên trên thế giới, có thể cho biết sự khác biệt giữa những gì đang được nói và ý nghĩa của nó.
ToxMod là một nỗ lực để giải quyết nghịch lý của việc kiểm duyệt bất kỳ không gian mở nào trên Internet; không có đủ con người để đáp ứng nhu cầu, nhưng các thuật toán, bộ lọc và hệ thống báo cáo không hiểu được sắc thái.
Với cơ sở dữ liệu của ToxMod, nó có thể theo dõi các yếu tố trong giọng nói của người chơi như cảm xúc và âm lượng, giúp phân biệt giữa hành vi mất thời gian và kiểu hành vi. Gần đây nó đã được công bố là một phần bổ sung cho trò chơi bóng đá 7v7 của Mỹ Gridiron, hiện đang ở chế độ Truy cập sớm trên Steam.
"Mọi người đều biết rằng quấy rối, ngôn từ kích động thù địch và độc hại trong trò chuyện thoại và chơi game là một vấn đề lớn. Điều đó thường được hiểu", Carter Huffman, giám đốc công nghệ và đồng sáng lập Modulate, cho biết trong một cuộc họp của Google với Dây cứu sinh. "Chúng tôi có thể sử dụng các tính năng mà chúng tôi đã trích xuất thông qua nhiều hệ thống máy học này và kết hợp chúng thành một hệ thống có tính đến tất cả kiến thức chuyên môn mà chúng tôi đang học hỏi từ cộng đồng."
All Hail Người điều hành Robot mới của chúng tôi
Modulate đã làm việc trên ToxMod từ mùa thu năm ngoái và đã kết hợp nó như một trong ba dịch vụ cốt lõi của công ty. Nó cũng cung cấp VoiceWear, một công cụ ngụy trang bằng giọng nói được hỗ trợ bởi máy học và VoiceVibe, một dịch vụ tổng hợp cho phép người dùng tìm hiểu những gì mọi người trong cộng đồng của họ đang thảo luận.
Khi ToxMod đang chạy trong cuộc trò chuyện, nó có thể được lập trình thông qua bảng điều khiển quản trị của Modulate để thực hiện nhiều hành động tự động khác nhau, chẳng hạn như đưa ra cảnh báo, tắt tiếng trình phát hoặc điều chỉnh âm lượng riêng lẻ.
Nó sử dụng một hệ thống phân loại trong đó phiên bản cục bộ của nó là phiên bản đầu tiên thực hiện hành động, trước khi kiểm tra với máy chủ của Modulate để xác nhận. Sau đó, cuối cùng nó leo thang đến mức có thể kêu gọi sự can thiệp của con người. Bằng cách lần lượt chạy qua từng lần kiểm tra mà Modulate gọi là "cổng phân loại", ý tưởng là ToxMod cung cấp cho một nhóm nhỏ người kiểm duyệt các công cụ để kiểm duyệt một cách hiệu quả một cộng đồng lớn hơn nhiều.
"Sự thật đáng buồn là mọi người đều đã có kinh nghiệm đó, cố gắng sử dụng trò chuyện thoại trên bất kỳ nền tảng nào bạn đang sử dụng, và phát hiện ra rằng, cậu bé, đó là một ý tưởng tồi", CEO Mike Pappas của Modulate cho biết trong một cuộc gọi video với Lifewire. "Có thể đi vào và nói," Đây không phải là miền Tây hoang dã. Có những quy tắc. "Tôi nghĩ điều đó thực sự quan trọng."
Phá vỡ Hệ thống
Đương nhiên, câu hỏi thứ hai hoặc thứ ba để hỏi về ToxMod là làm thế nào để phá vỡ nó.
Với nhiều hệ thống kiểm duyệt tự động, chẳng hạn như các thuật toán chi phối Twitter, thật dễ dàng để chơi chúng với những người bạn không thích. Chỉ cần báo cáo hàng loạt mục tiêu của bạn với một vài tài khoản ngụy tạo và họ sẽ ăn được lệnh cấm một cách đáng tin cậy.
"Ở cấp độ cơ bản, ToxMod không cần dựa vào các báo cáo trình phát bổ sung đó", Pappas nói. "Nó vẫn có thể đưa ra các ước tính chắc chắn về những hành vi vi phạm mà chúng tôi cần [phải chú ý]. Bạn không phải lo lắng về việc người chơi cố gắng chơi trò chơi của hệ thống, vì thực sự không có gì để chơi.
Mọi người đều biết rằng quấy rối, ngôn từ kích động thù địch và độc hại trong trò chuyện thoại và chơi game là một vấn đề lớn.
"Tất cả những gì bạn có quyền kiểm soát với tư cách người chơi là âm thanh của riêng bạn", Pappas tiếp tục. "Điều tồi tệ nhất bạn có thể làm là bớt xấu đi một người, vì vậy chúng tôi không gắn cờ bạn là một diễn viên tồi, điều mà tôi muốn nói là điều gì đó gần với thành công của sứ mệnh."
Vậy thì, ý tưởng đằng sau ToxMod là một nỗ lực cải tạo tích cực. Nhiều người chơi tại thời điểm này đã trải qua một số hình thức quấy rối từ những người lạ ngẫu nhiên trong các kênh thoại mở, từ lăng mạ ngẫu nhiên đến đe dọa chủ động. Do đó, các game thủ có xu hướng né tránh trò chuyện thoại nói chung, thích từ bỏ sự tiện lợi của nó để đổi lấy sự yên tâm của chính họ.
"Những gì chúng tôi mong đợi sẽ thấy [là những kẻ xấu dành] ít thời gian hơn trong trò chuyện thoại trước khi được tìm thấy và xóa", Pappas nói."Điều đó không chỉ có tác động tuyến tính. Khi mọi người thấy trò chuyện thoại là một nơi an toàn hơn, nhiều diễn viên giỏi sẵn sàng quay lại trò chuyện thoại và thử. Tôi nghĩ mọi thứ có thể xoay chuyển theo chiều hướng tích cực."
