Bài học rút ra chính
- Hệ thống AI giám sát xe tải giao hàng đang phạt tài xế Amazon một cách bất công, một báo cáo mới tuyên bố.
- Hệ thống Amazon là một phần trong xu hướng ngày càng tăng của các công ty sử dụng công nghệ để giám sát chủ nhân của họ từ xa.
-
Một số phần mềm AI cho phép người sử dụng lao động liên tục theo dõi hành vi của nhân viên trong nền và vẽ các mẫu trong quy trình làm việc của họ.
Các nhà tuyển dụng đang ngày càng chuyển sang sử dụng phần mềm để giám sát nhân viên từ xa, làm dấy lên lo ngại của một số người ủng hộ quyền riêng tư.
Một báo cáo mới tuyên bố rằng các máy ảnh hỗ trợ AI trong xe tải giao hàng của Amazon đã phạt những người lái xe một cách bất công. Bài báo cho thấy rằng người lái xe gặp phải cảnh báo sai, thẻ điểm người lái xe không chính xác, giả định tình trạng giao thông không thực tế và người lái xe áp dụng các phương pháp để phá vỡ công nghệ.
"Trong khi AI đang được cải thiện, những sai lầm vẫn sẽ xảy ra", Raymond Ku, giám đốc Trung tâm Luật & Chính sách Không gian mạng tại Đại học Case Western Reserve, nói với Lifewire trong một cuộc phỏng vấn qua email. "Về công bằng, tôi nghĩ tất cả chúng ta đều tin rằng ai đó đang bị phạt theo bất kỳ cách nào do AI ra quyết định nên nhận thức được thực tế và có cơ hội để thách thức quyết định."
Máy ảnh AI của Amazon
Amazon cho biết họ đã lắp đặt các camera hỗ trợ AI trong các phương tiện giao hàng của mình như một biện pháp an toàn. Các camera nhằm theo dõi khi tài xế giao hàng thực hiện các thao tác nguy hiểm như chạy ra biển báo dừng hoặc quay đầu xe trái phép.
Khi camera phát hiện ra "các sự kiện" lái xe không an toàn có thể xảy ra, những trường hợp này sẽ tính vào điểm hiệu suất của người lao động. Điểm số thấp hơn làm giảm cơ hội nhận được tiền thưởng, thêm tiền và giải thưởng của người lái xe.
Nhưng các tài xế của Amazon đã nói với Motherboard rằng họ đang bị trừng phạt vì một số thói quen lái xe được coi là an toàn hoặc nằm ngoài tầm kiểm soát của họ. Amazon đã không trả lời yêu cầu bình luận từ Lifewire.
Ku chỉ ra rằng vì những người lái xe đã đồng ý bị lập biên bản nên họ không bị xâm phạm quyền riêng tư theo luật.
"Tuy nhiên, điều đó không có nghĩa là người lao động bình thường sẽ hài lòng với việc giám sát hoặc sẽ không phản đối nếu họ có thể," ông nói thêm. "Điều này đặc biệt đúng khi việc giám sát bắt đầu xâm phạm vào các không gian cá nhân truyền thống hơn."
Báo cáo đặt ra những câu hỏi lớn hơn về việc liệu dữ liệu có thể được truy cập và sử dụng trong các vụ kiện hoặc bởi cảnh sát và các quan chức liên bang hay không, luật sư bảo mật dữ liệu Bethany A. Corbin nói với Lifewire trong một cuộc phỏng vấn qua email. Nó cũng có thể ảnh hưởng đến trách nhiệm pháp lý, cô ấy chỉ ra.
"Ví dụ, nếu công nghệ AI bảo nhân viên không được nhìn vào gương bên và nhân viên gặp tai nạn do trực tiếp từ lời khuyên đó, thì ai là người có lỗi?" Corbin được thêm vào.
Giám sát ngày càng tăng
Việc giám sát không chỉ dừng lại ở Amazon. Chuyên gia về quyền riêng tư Chris Hauk nói với Lifewire trong một cuộc phỏng vấn qua email ngày càng có nhiều công ty đang sử dụng công nghệ để theo dõi nhân viên của họ từ xa.
Ví dụ: công ty tiếp thị AI Blackbelt sử dụng hệ thống theo dõi thời gian Phân bổ, cho phép công ty giám sát và theo dõi hoạt động máy tính của nhân viên một cách tự chủ. Phân tích nơi làm việc của Microsoft sẽ cho phép người sử dụng lao động xem lượng thời gian của nhân viên trên các trang web, viết email và hơn thế nữa trong một ngày làm việc.
Walmart cũng đang làm việc trên một hệ thống lắng nghe âm thanh sột soạt của túi hoặc tiếng bíp từ máy quét thanh toán để theo dõi các chỉ số của nhân viên và đảm bảo nhân viên thực hiện nhiệm vụ của họ một cách chính xác và hiệu quả. Các cảm biến thậm chí có thể lắng nghe khách hàng khi họ trò chuyện trong khi xếp hàng và phát hiện xem nhân viên có chào hỏi khách hàng đúng cách hay không.
Giám sát tại nơi làm việc đang trở nên phổ biến hơn kể từ khi đại dịch bùng phát, chuyên gia về quyền riêng tư Pankaj Srivastava nói với Lifewire trong một cuộc phỏng vấn qua email.
"Hầu hết công nghệ này được định vị là 'cải thiện năng suất', tuy nhiên, cách một số công cụ này hoạt động cho thấy người sử dụng lao động có khả năng giám sát mọi hoạt động của lực lượng lao động của họ", ông nói thêm. "Ví dụ: theo dõi lượng thời gian mà nhân viên dành cho mỗi nhiệm vụ, chụp ảnh từ xa để đảm bảo nhân viên đang ở bàn làm việc của họ và thậm chí theo dõi các trang web đã truy cập và ghi lại thao tác di chuyển chuột và vuốt bàn phím của nhân viên."
Trong khi AI đang được cải thiện, những sai lầm vẫn sẽ xảy ra.
Một số phần mềm AI cho phép người sử dụng lao động liên tục theo dõi hành vi của nhân viên trong nền và vẽ các mẫu trong quy trình làm việc của họ, ông nói.
"Một nhân viên có thể bị sa thải dựa trên báo cáo hiệu suất được cá nhân hóa của họ với lý do họ mất vài phút để hoàn thành nhiệm vụ hơn bình thường", Srivastava nói.
"Tạm biệt, nghỉ ngơi trong phòng tắm."
