Bài học rút ra chính
- Ngày càng nhiều công ty sử dụng AI để đọc cảm xúc của bạn.
- AI đọc cảm xúc có thể giúp công nghệ dễ sử dụng hơn.
- Một số chuyên gia lo lắng về tác động riêng tư của việc các công ty thu thập dữ liệu cảm xúc của bạn.
Trí tuệ nhân tạo (AI) có thể sớm biết về bạn nhiều hơn bạn nghĩ.
Một công ty khởi nghiệp có tên Hume AI tuyên bố sử dụng các thuật toán để đo lường cảm xúc từ các biểu hiện trên khuôn mặt, giọng nói và lời nói. Đó là một trong số ngày càng nhiều công ty có mục đích đọc cảm xúc của con người bằng máy tính. Nhưng một số chuyên gia nói rằng khái niệm này làm nảy sinh các vấn đề về quyền riêng tư.
"Bất cứ ai kiểm soát các hệ thống và nền tảng này sẽ có rất nhiều thông tin về các cá nhân", Bob Bilbruck, một cố vấn khởi nghiệp công nghệ, nói với Lifewire trong một cuộc phỏng vấn qua email. "Họ sẽ có thể xây dựng hồ sơ cho những người này có thể được sử dụng để kiếm tiền, kiểm soát kết quả hoặc theo dõi vĩ mô có khả năng bất chính hơn về con người và xã hội."
Đọc khuôn mặt?
Hume cho biết bí quyết dạy AI đọc cảm xúc là dữ liệu lớn. Công ty cho biết họ đào tạo AI của mình trên các bộ dữ liệu khổng lồ từ Bắc Mỹ, Châu Phi, Châu Á và Nam Mỹ.
"Tầm nhìn của chúng tôi là một thế giới nơi AI chuyển những hiểu biết khoa học thành những cách mới để cải thiện trải nghiệm cảm xúc của con người", công ty viết trên trang web của mình. "Nhận thức về cảm xúc là thành phần còn thiếu cần thiết để xây dựng các thuật toán truyền thông xã hội tối ưu hóa cho hạnh phúc của người dùng …"
Hume là một trong nhiều công ty đang cố gắng tận dụng dữ liệu để có được những hiểu biết sâu sắc về cảm xúc của con người. Oleksii Shaldenko, giáo sư nghiên cứu về AI tại Học viện Bách khoa Igor Sikorsky Kyiv ở Ukraine, nói với Lifewire trong một cuộc phỏng vấn qua email. Công nghệ tương tự được sử dụng để đánh giá giai điệu của giọng nói tại các trung tâm cuộc gọi, theo dõi hành vi của người lái xe trong ô tô và đo lường thái độ của người xem tại các công ty sản xuất và phát trực tuyến.
Có những lợi ích tiềm năng đáng kể cho người dùng khi AI đọc được cảm xúc của họ, giám đốc kỹ thuật của AI Dynamics, Ryan Monsurate, nói với Lifewire trong một cuộc phỏng vấn qua email. Ông cho biết một mục đích sử dụng là thiết kế các giao diện làm giảm khả năng mọi người thất vọng hoặc tức giận với công nghệ của họ.
Một vấn đề khó khăn hơn cần giải quyết là tạo ra các phản ứng cảm xúc phù hợp với những cảm xúc mà AI tương tác với con người cảm nhận được, Monsurate nói.
"Nhiều người trong chúng ta đã nói chuyện với trợ lý tình báo của mình, và mặc dù chất lượng cao độ và ngữ điệu giọng nói của họ đã được cải thiện trong thập kỷ qua, nhưng họ không giỏi giao tiếp theo cách truyền tải những cảm xúc khác nhau, "anh nói thêm."Tôi thấy các mô hình tổng hợp có thể tạo ra giọng nói tổng hợp bằng cảm xúc và cảm xúc phù hợp với ngữ cảnh khi các mô hình phát triển về quy mô và độ phức tạp hoặc khi chúng tôi tạo ra những đột phá mới trong lĩnh vực học sâu".
Nhưng lợi ích trước mắt nhất của công nghệ đọc cảm xúc có thể dành cho các công ty đang cố gắng bán hàng. Ví dụ, hệ thống SenseR cho phép các nhà bán lẻ cá nhân hóa trải nghiệm tại cửa hàng. Máy tính xem và phân tích biểu hiện và ngôn ngữ cơ thể của người mua sắm. Nhân viên có thể sử dụng kết quả để thúc đẩy việc bán hàng đi đúng hướng khi được nhân viên bán hàng tại cửa hàng nhắc nhở, Fariha Rizwan, một chuyên gia CNTT và quan hệ công chúng, nói với Lifewire trong một cuộc phỏng vấn qua email.
"Từ quan điểm phân tích bán lẻ, việc sử dụng thị giác máy để theo dõi người mua hàng có thể cung cấp cho nhà bán lẻ thông tin chi tiết về thời lượng tương tác tại cửa hàng, mức độ quan tâm dựa trên bản đồ nhiệt, hành trình cửa hàng và nhân khẩu học của người mua sắm", Rizwan nói thêm.
Ai là người sở hữu cảm xúc của bạn?
Khi các công ty ngày càng chuyển sang sử dụng AI để đọc cảm xúc, rất nhiều cạm bẫy tiềm ẩn về quyền riêng tư tồn tại. Rizwan cho biết, các công nghệ nhận dạng khuôn mặt thúc đẩy hệ thống đọc cảm xúc có xu hướng hoạt động ở các địa điểm công cộng và riêng tư mà không có sự đồng ý của những người được theo dõi, lưu dữ liệu của họ và đôi khi bán dữ liệu đó cho người trả giá cao nhất.
"Chúng tôi cũng không biết mức độ mà các hệ thống này được bảo vệ khỏi các cuộc tấn công mạng, có khả năng đặt bản đồ khuôn mặt của một người vào tay của một kẻ xấu", Rizwan nói thêm. "Những lo ngại này đã bắt đầu sự thay đổi trong việc tăng cường giám sát, giám sát, tiết lộ quyền riêng tư và trách nhiệm giải trình."
Mối quan tâm lớn nhất về quyền riêng tư không liên quan đến AI mà là các khuôn khổ và quy định chia sẻ thông tin cơ bản đã có, Monsurate lập luận. Nếu các công ty có thể kiếm tiền từ dữ liệu của bạn và sử dụng nó để điều khiển hành vi của bạn, thì việc hiểu được trạng thái cảm xúc của bạn sẽ giúp họ làm điều đó tốt hơn.
"Những gì chúng tôi cần là luật pháp để ngăn chặn hành vi này ngay từ đầu bất kể họ sử dụng công cụ gì để đạt được mục đích của mình", Monsurate nói thêm. "Đó không phải là các công cụ, mà là những kẻ xấu và luật bảo mật hiện hành của chúng ta không phù hợp một cách đáng kinh ngạc."
