Facebook cho biết họ đang thử nghiệm công nghệ kiểm duyệt trí tuệ nhân tạo trong các Nhóm để hạn chế xung đột trong các bài đăng và nhận xét.
Công cụ mới do AI hỗ trợ có tên là Cảnh báo Xung đột và nhằm giúp quản trị viên nhóm có nhiều quyền kiểm soát hơn đối với cộng đồng của họ. Công nghệ AI sẽ thông báo cho quản trị viên nếu phát hiện "các cuộc trò chuyện gây tranh cãi hoặc không lành mạnh" để quản trị viên có thể thực hiện hành động cần thiết nhanh hơn.
Đối với người dùng Facebook bình thường, công cụ mới này có nghĩa là bạn có nhiều khả năng sẽ thấy ít cãi vã và tranh luận hơn trong các bài đăng của các Nhóm mà bạn theo dõi, vì vậy, nhìn chung, mọi thứ sẽ ít tiêu cực hơn.
Quản trị viên có thể sử dụng công cụ Cảnh báo xung đột để tạo cảnh báo khi người dùng nhận xét bằng các từ hoặc cụm từ cụ thể và học máy có thể phát hiện những trường hợp này để cảnh báo cho quản trị viên khi chúng xảy ra. Công cụ này cũng cho phép quản trị viên giới hạn hoạt động đối với những người và bài đăng cụ thể.
Facebook nói với The Verge rằng máy học sẽ sử dụng "nhiều tín hiệu như thời gian trả lời và lượng bình luận để xác định xem sự tương tác giữa người dùng có hoặc có thể dẫn đến tương tác tiêu cực hay không".
Facebook đã sử dụng các công cụ AI để gắn cờ các loại nội dung khác trên nền tảng của mình, bao gồm cả lời nói căm thù. Theo Báo cáo thực thi tiêu chuẩn cộng đồng tháng 8 năm 2020, công cụ AI của Facebook cho lời nói căm thù chính xác 95%, so với 89% từ quý đầu tiên của năm 2020. Facebook cho biết họ đã tăng các hành động chống lại nội dung lời nói căm thù từ 9,6 triệu trường hợp trong quý đầu tiên. 2020 lên 22,5 triệu trong quý 2.
Đối với người dùng Facebook bình thường, công cụ mới này có nghĩa là bạn có nhiều khả năng sẽ thấy ít cãi vã và tranh luận hơn trong các bài đăng của các Nhóm mà bạn theo dõi
Mạng xã hội cũng đang nghiên cứu một công nghệ AI có thể "nhìn thấy" ảnh bằng cách sử dụng dữ liệu thô để cho phép mô hình tự đào tạo một cách độc lập và không sử dụng thuật toán - vì nó xem được nhiều hình ảnh hơn. Dự án AI, được gọi là SEER, có thể mở đường cho các mô hình thị giác máy tính linh hoạt, chính xác và dễ thích ứng hơn, đồng thời mang đến các công cụ tìm kiếm và trợ năng tốt hơn cho người dùng mạng xã hội.
