Bài học rút ra chính
- Các công ty đang sử dụng trí tuệ nhân tạo để khảo sát nhân viên của họ.
- Amazon đã lắp đặt máy ảnh hỗ trợ máy học trong các chuyến xe giao hàng của mình vào đầu năm nay.
- Giám sát bằng AI có thể dẫn đến các vấn đề về quyền riêng tư và bảo mật nếu được sử dụng bởi các công ty vô đạo đức.
Các nhà tuyển dụng đang ngày càng theo dõi công nhân của họ bằng trí thông minh nhân tạo, và các nhà quan sát cho rằng hoạt động này gây ra những lo ngại về quyền riêng tư.
Amazon đã lắp đặt máy ảnh hỗ trợ máy học trong các chuyến xe giao hàng của mình vào đầu năm nay. Công ty gần đây đã nói với các tài xế của mình rằng họ phải đồng ý sử dụng chúng. Thực hành giám sát trong công việc có thể là hợp pháp, nhưng không phải ai cũng đồng ý rằng đó là đạo đức.
"Các công ty đã sử dụng các công cụ giám sát nhân viên trong nhiều thập kỷ, nhưng với công nghệ tiên tiến, họ đang trở nên xâm lấn hơn", Aimee O'Driscoll, một nhà nghiên cứu bảo mật tại trang web so sánh công nghệ Comparitech, cho biết trong một cuộc phỏng vấn qua email.
"Hầu hết việc giám sát nhân viên có thể bị coi là xâm phạm quyền riêng tư và có thể lập luận rằng những gì Amazon đang làm không khác nhiều so với việc trang bị camera quan sát tại văn phòng."
Được theo dõi hoặc Nhận được sự quan tâm
Khoảng 75.000 tài xế giao hàng của Amazon ở Hoa Kỳ hiện được yêu cầu ký vào biểu mẫu "đồng ý sinh trắc học". Biểu mẫu quyền cho phép máy ảnh hỗ trợ AI theo dõi vị trí, chuyển động và dữ liệu sinh trắc học của người lái xe. Nhân viên không ký vào tài liệu có thể bị sa thải.
Giám sát bằng AI theo dõi mọi thứ mà các trình điều khiển Amazon làm, xâm phạm quyền riêng tư giả định của đối tượng, Chris Hauk, một nhà nghiên cứu về quyền riêng tư tại trang web riêng tư Pixel Privacy, cho biết trong một cuộc phỏng vấn qua email.
"Điều này bao gồm ghi lại mỗi khi đối tượng ngáp hoặc gãi vùng nhạy cảm", anh nói thêm. "Người lái xe có ít nhất một số quyền được bảo mật khi ở bên trong xe của họ."
Giám sát nhân viên bằng AI là một vấn đề ngày càng tăng. O’Driscoll đã chỉ ra rằng Walmart đã được cấp bằng sáng chế cho một công nghệ AI cho phép lắng nghe tương tác của nhân viên với khách hàng khi thanh toán.
Nhà phát triển phần mềm Enaible cung cấp các công cụ năng suất dựa trên phần mềm AI. Nhiều công ty khác nhau, bao gồm cả Macy’s, sử dụng hệ thống phân tích của Microsoft, hệ thống này có thể theo dõi hành vi của nhân viên. Domino’s đã sử dụng công nghệ AI để kiểm tra xem bánh pizza có được làm đúng cách hay không.
"Một trong những vấn đề chính là khi sử dụng sai cách, thiếu quyền riêng tư có thể dẫn đến các vấn đề bảo mật", O’Driscoll nói.
"Dữ liệu giám sát có thể rơi vào tay bọn tội phạm hoặc chính những kẻ xấu có thể sử dụng tính năng giám sát của AI để nhắm mục tiêu nạn nhân."
Quét khuôn mặt sinh trắc học dẫn đến một biểu diễn toán học của khuôn mặt của chủ thể dữ liệu có thể được tận dụng để xác định và theo dõi chúng ở bất cứ đâu, trong suốt phần đời còn lại của họ, Ray Walsh, một chuyên gia về quyền riêng tư tại trang web ProPrivacy, cho biết trong một phỏng vấn qua email.
"Điều này làm tăng rủi ro về quyền riêng tư và bảo mật nghiêm trọng cho các tài xế Amazon có dữ liệu có thể bị vi phạm, rò rỉ hoặc thậm chí có khả năng bị chính phủ lợi dụng bằng cách sử dụng lệnh", ông nói thêm.
Vì công nghệ AI tương đối mới nên không có hướng dẫn cụ thể nào về việc sử dụng nó liên quan đến quyền riêng tư, O’Driscoll nói. "Điều đó nói lên rằng, sự an toàn có thể sẽ luôn là cái cớ hợp pháp cho việc xâm phạm quyền riêng tư, vì vậy Amazon được bảo vệ theo ý định hiện tại của mình", cô nói thêm.
Mặc dù nhân viên có quyền nghỉ việc hoặc đồng ý với việc giám sát AI được đề xuất, nhưng họ đang làm như vậy khi đối mặt với sự mất cân bằng quyền lực rất lớn, O’Driscoll nói rằng giám sát bằng AI nên được quản lý. "Các công ty lý tưởng nên có lý do chính đáng (chẳng hạn như an toàn) để giám sát AI", cô nói thêm.
Một số tiểu bang đã thông qua các dự luật hạn chế và quy định việc sử dụng giám sát tại nơi làm việc, nhưng luật liên bang còn thiếu, Walsh chỉ ra.
Vào năm 2019, Đạo luật Trách nhiệm Giải trình Thuật toán đã được đưa vào Hạ viện và Thượng viện, nhưng cuối cùng nó đã bị từ chối. Một hành động tương tự có thể được đưa ra trong năm nay và "người ta hy vọng rằng Quốc hội do Đảng Dân chủ lãnh đạo và Nhà Trắng có thể cải thiện cơ hội thông qua", Walsh nói.
Đừng mong đợi sự riêng tư trong công việc
Không phải ai cũng nghĩ rằng việc Amazon giám sát tài xế của họ là một hành vi xâm phạm quyền riêng tư.
"Tôi nghĩ thật khó để tranh luận rằng một nhân viên có kỳ vọng hợp lý về quyền riêng tư trong một chiếc xe thuộc sở hữu của công ty", Will Griffin, giám đốc đạo đức của công ty AI Hypergiant, cho biết trong một cuộc phỏng vấn qua email.
"Mối quan tâm lớn hơn là trong một vài năm ngắn ngủi, tất cả những người lái xe này sẽ được thay thế bằng xe tự hành. Vì vậy, bất kỳ cuộc tranh luận nào về chính sách lái xe sẽ trở thành một điểm tranh luận khi đội xe trở nên hoàn toàn tự chủ."
Vụ việc của Amazon nêu bật sự cần thiết của liên minh hoặc sự can thiệp có mục tiêu của liên bang như một cách để khôi phục sự cân bằng quyền lực giữa công nhân của Amazon và công ty, Griffin nói.
"Trong khi nhân viên có quyền nghỉ việc hoặc đồng ý với việc giám sát AI được đề xuất, họ đang làm như vậy khi đối mặt với sự mất cân bằng quyền lực rất lớn", ông nói thêm.
