Bài học rút ra chính
- AI và các thuật toán học máy đang theo dõi hành vi của con người và có thể học cách điều khiển hành vi đó, các chuyên gia nói.
- Các nhà nghiên cứu gần đây đã tạo ra một cách để tìm và khai thác các lỗ hổng trong cách mọi người đưa ra lựa chọn bằng cách sử dụng AI.
- Thuật toán mạng xã hội phức tạp nhất hiện nay là TikTok, một nhà quan sát cho biết.
Trí tuệ nhân tạo (AI) và các thuật toán máy học đang ngày càng học cách tác động đến hành vi của người dùng, các chuyên gia nói.
Các nhà nghiên cứu tại cơ quan khoa học quốc gia của Úc gần đây đã tạo ra một cách để tìm và khai thác các lỗ hổng trong cách mọi người đưa ra lựa chọn bằng cách sử dụng AI. Nghiên cứu mới nhất chỉ là một trong những làn sóng các hệ thống do AI điều khiển được thiết kế để điều khiển quá trình ra quyết định của con người.
"Không có hồi kết cho nhiều cách mà AI đã ảnh hưởng đến hành vi", Kentaro Toyama, giáo sư tại Trường Thông tin Đại học Michigan và là tác giả của Geek Heresy: Giải cứu Thay đổi Xã hội khỏi Giáo phái Công nghệ, cho biết trong một cuộc phỏng vấn qua email.
"Trên thực tế, nếu bạn đã từng thực hiện tìm kiếm trên Google và theo dõi một liên kết, bạn sẽ bị tác động bởi một hệ thống AI có khả năng đoán sở thích của bạn và trả về kết quả mà nó cho là phù hợp nhất với bạn."
AI so với Con người
Trong nghiên cứu của Úc được công bố trong một bài báo gần đây, những người tham gia là con người đã chơi trò chơi với máy tính trong nhiều thí nghiệm khác nhau. Thử nghiệm đầu tiên cho phép những người tham gia nhấp vào các ô màu đỏ hoặc xanh lam để giành tiền.
AI đã thành công khoảng 70% thời gian, học được các mô hình lựa chọn của người tham gia và hướng dẫn họ đến một lựa chọn cụ thể.
Trong một thử nghiệm khác, những người tham gia xem một màn hình và nhấn một nút khi họ được hiển thị một biểu tượng cụ thể hoặc không nhấn nó khi được đưa ra một biểu tượng khác. AI đã học cách sắp xếp lại các ký hiệu, vì vậy những người tham gia mắc nhiều lỗi hơn.
Kết quả của các thí nghiệm, các nhà nghiên cứu kết luận, là AI đã học được từ phản ứng của những người tham gia. Sau đó, máy xác định và nhắm mục tiêu các lỗ hổng trong quá trình ra quyết định của mọi người. Trên thực tế, AI có thể điều khiển những người tham gia thực hiện các hành động cụ thể.
Thực tế là AI hoặc máy học có thể thao túng con người sẽ không có gì ngạc nhiên, các nhà quan sát nói.
"AI đang ảnh hưởng đến hành vi của chúng ta hàng ngày", Tamara Schwartz, trợ lý giáo sư về an ninh mạng và quản trị kinh doanh tại York College of Pennsylvania, cho biết trong một cuộc phỏng vấn qua email.
"Chúng tôi luôn nghe nói về các thuật toán trong các ứng dụng truyền thông xã hội như Facebook hoặc Twitter. Những thuật toán này hướng sự chú ý của chúng tôi đến nội dung liên quan và tạo ra hiệu ứng 'buồng dội âm', từ đó ảnh hưởng đến hành vi của chúng tôi."
TikTok đang xem
Thuật toán mạng xã hội phức tạp nhất hiện nay là TikTok, Schwartz nói. Ứng dụng phân tích nội dung bạn quan tâm, thời gian bạn xem nội dung nào đó và tốc độ bạn bỏ qua nội dung nào đó, sau đó tinh chỉnh các dịch vụ của ứng dụng để tiếp tục theo dõi.
"TikTok gây nghiện hơn nhiều so với các nền tảng khác vì thuật toán AI này hiểu bạn thích gì, cách bạn học và cách bạn chọn thông tin", cô nói thêm. "Chúng tôi biết điều này vì thời gian trung bình mà người dùng dành cho TikTok là 52 phút."
Việc thao túng hành vi của con người bằng trí tuệ nhân tạo có thể có những công dụng tích cực, Chris Nicholson, Giám đốc điều hành của công ty AI Pathmind, đã lập luận trong một cuộc phỏng vấn qua email. Ví dụ: các cơ quan y tế công cộng có thể sử dụng AI để khuyến khích mọi người đưa ra quyết định tốt hơn.
"Tuy nhiên, các phương tiện truyền thông xã hội, các nhà sản xuất trò chơi điện tử, nhà quảng cáo và các chế độ độc tài đang tìm cách khuyến khích mọi người đưa ra quyết định không có lợi cho họ và điều này sẽ cung cấp cho họ những công cụ mới để thực hiện điều đó" anh ấy nói thêm.
Các vấn đề đạo đức với hành vi ảnh hưởng của AI thường là ở mức độ, Toyama nói. AI cho phép quảng cáo tập trung trong đó có thể khai thác sở thích và điểm yếu của từng cá nhân.
"Chẳng hạn, hệ thống AI có thể xác định những người đang cố gắng bỏ hút thuốc và tiêu diệt họ bằng những quảng cáo thuốc lá hấp dẫn", anh ấy nói thêm.
Không phải ai cũng đồng ý rằng AI thao túng hành vi của con người là có vấn đề. Tâm lý học cổ điển và AI đều quan sát dữ liệu, Jason J. Corso, giám đốc Viện Trí tuệ nhân tạo Stevens, chỉ ra trong một cuộc phỏng vấn qua email.
"Các nhà khoa học con người có lẽ giỏi hơn trong việc khái quát hóa các quan sát và chắt lọc các lý thuyết về hành vi con người có thể áp dụng rộng rãi hơn trong khi các mô hình AI sẽ dễ xác định các sắc thái cụ thể của vấn đề hơn", Corso nói.
"Từ quan điểm đạo đức, tôi không thấy sự khác biệt giữa những thứ này."
