Bài học rút ra chính
- Một loạt các ứng dụng mới có thể phát hiện cảm xúc của học sinh.
- Intel và nhà sản xuất phần mềm lớp học Class được cho là đang phát triển phần mềm có thể giám sát khuôn mặt và ngôn ngữ cơ thể của học sinh kỹ thuật số.
- Một số chuyên gia lo ngại rằng việc sử dụng AI để giám sát học sinh có thể dẫn đến xâm phạm quyền riêng tư.
Các trường học có thể sớm sử dụng trí tuệ nhân tạo (AI) để theo dõi trạng thái cảm xúc của học sinh.
Intel và nhà sản xuất phần mềm lớp học Class đang phát triển phần mềm sẽ quan sát khuôn mặt và ngôn ngữ cơ thể của học sinh kỹ thuật số. Theo báo cáo, hệ thống có thể phát hiện học sinh buồn chán, mất tập trung hay bối rối, nhưng một số chuyên gia lo ngại rằng phần mềm có thể dẫn đến xâm phạm quyền riêng tư.
"Các sản phẩm giám sát dựa trên AI như vậy nên minh bạch về cách dữ liệu này đang được sử dụng", Michael Huth, đồng sáng lập công ty Xayn và trưởng bộ phận máy tính tại Đại học Imperial London, nói với Lifewire trong một email phỏng vấn. "Nếu nó được sử dụng để theo dõi mức độ tương tác trong một nhóm học sinh, trong đó sự tham gia ở cấp độ cá nhân không được ghi lại, thì điều này sẽ ít có vấn đề hơn từ góc độ quyền riêng tư. Tuy nhiên, nếu bất kỳ dữ liệu nào trong số này được sử dụng để ảnh hưởng đến đánh giá của học sinh, tôi có thể thấy tất cả các loại vấn đề phát sinh."
Xem Qua Học Sinh
Class và Intel đã hợp tác để tích hợp một công nghệ dựa trên AI chạy cùng với phần mềm hội nghị truyền hình Zoom, Protocol đưa tin. Báo cáo cho biết phần mềm này có thể được sử dụng để theo dõi học sinh.
"Thông qua quan hệ đối tác với Intel, chúng tôi sẽ có thể mang đến các tính năng mới, phong phú cho phần mềm của Class được thúc đẩy bởi các chức năng được hỗ trợ bởi nghiên cứu", theo trang web của công ty. "Chúng tôi cũng sẽ làm việc cùng với Intel để tận dụng các nguồn lực và cung cấp cho các nhà giáo dục và sinh viên những thông tin chi tiết có giá trị, các nghiên cứu điển hình chung, sách trắng, hội thảo trên web, v.v."
Intel nói với Protocol rằng phần mềm lớp học đang ở giai đoạn đầu và không có kế hoạch đưa sản phẩm ra thị trường.
Hợp tác với Class không phải là sự hợp tác tiềm năng duy nhất giữa phần mềm đọc cảm xúc của Intel và các nhà sản xuất khác. Một tài liệu quảng cáo trực tuyến từ Intel giới thiệu một bảng điện tử mới có tên là Viewboard nhằm vào các trường học. Phần mềm Intel "giúp myViewboard có thể đánh giá và hiển thị trạng thái cảm xúc của người học dưới dạng phản hồi ngay lập tức cho các nhà giáo dục", theo tài liệu.
Class là một trong nhiều sản phẩm phần mềm có mục đích theo dõi cảm xúc của học sinh bằng cách sử dụng AI. Ngoài ra còn có 4Little Trees, một nền tảng học tập phát hiện cảm xúc là "một trợ lý giảng dạy ảo [sẽ] giúp bạn bằng cách chọn những câu hỏi phù hợp nhất cho bạn hoặc thách thức bạn khi cần", theo trang web của công ty.
Ashish Fernando, Giám đốc điều hành của công ty AI iSchoolConnect, nói với Lifewire trong một cuộc phỏng vấn qua email rằng AI có thể được đào tạo để đánh giá hành vi và tính năng của con người mà không bị ảnh hưởng bởi những thành kiến chủ quan mà cá nhân nắm giữ.
"AI có thể đánh giá một số lượng lớn hơn đáng kể các hành vi của con người, bao gồm cả những biểu hiện vi mô dễ bỏ sót, với tốc độ nhanh hơn nhiều so với con người", Fernando nói. "Nếu phản hồi có thể mất hàng giờ, AI hiện có thể cung cấp thông tin tương tự trong vòng vài phút."
Mối quan tâm về Quyền riêng tư
Việc sử dụng AI để giám sát con người đang ngày càng phát triển. Snapchat có công nghệ AI đánh giá mức độ cảm xúc của một nhóm người tại một sự kiện trực tiếp. Mad Street Den sử dụng AI thị giác máy tính để giúp các nhà bán lẻ nhận ra nét mặt và cảm xúc của người mua tiềm năng. BrainQ tận dụng AI để hiểu cách hành khách tương tác với các phương tiện tự hành mà họ đang sử dụng. Và các công ty đang sử dụng AI để theo dõi sự mệt mỏi của người lái xe.
"Đây là một trường hợp sử dụng tuyệt vời cho an toàn đường bộ, nhưng nó đưa ra các câu hỏi liên quan đến quyền riêng tư của người lái xe trên phương tiện cá nhân của họ," Huth nói. "Thông tin về tình trạng mệt mỏi sẽ được chia sẻ với công ty bảo hiểm hoặc nhà sản xuất xe hơi? Hay chỉ cảnh báo người lái xe nên tấp vào lề và nghỉ ngơi? Đây là vấn đề ít xảy ra đối với các đội xe thương mại như xe tải, xe tải hoặc xe taxi."
Một vấn đề là thông tin của AI, chẳng hạn như chuyển động của cơ bắp để suy ra trạng thái cảm xúc, có thể không đáng tin cậy, Huth nói. "Điều này tạo ra một tình thế tiến thoái lưỡng nan, vì AI đáng tin cậy hơn có thể yêu cầu truy cập dữ liệu nhạy cảm hơn như tín hiệu điện não đồ", ông nói thêm.
Đối với học sinh, AI có thể hữu ích để giám sát việc tuân thủ trong các kỳ thi trực tuyến khi giám thị không thể có mặt. Nhưng việc sử dụng AI cho việc này là gây tranh cãi, Huth nói, bởi vì hệ thống cố gắng xác định xem một sinh viên có ý định gian lận hay thực hiện gian lận và có khả năng thực sự là dương tính giả dẫn đến việc phạt một cách vô cớ đối với những sinh viên không làm gì sai..
"Bất kỳ AI nào được sử dụng cho mục đích này đều cần phải đủ mạnh để đối phó với tình trạng nghỉ vệ sinh, căng thẳng thần kinh của từng học sinh (chẳng hạn như chuyển động mắt thất thường), v.v.", Huth nói.
