Bài học rút ra chính
- Các công ty đang ngày càng sử dụng AI để giải thích cách nó thu được kết quả.
- LinkedIn gần đây đã tăng doanh thu đăng ký sau khi sử dụng AI dự đoán khách hàng có nguy cơ hủy và mô tả cách nó đi đến kết luận.
- Ủy ban Thương mại Liên bang đã nói rằng AI không thể giải thích được có thể bị điều tra.
Một trong những xu hướng mới nhất trong lĩnh vực phần mềm có thể là trí tuệ nhân tạo (AI), giải thích cách nó đạt được kết quả.
AI có thể giải thích đang được đền đáp khi các công ty phần mềm cố gắng làm cho AI dễ hiểu hơn. LinkedIn gần đây đã tăng doanh thu đăng ký sau khi sử dụng AI dự đoán khách hàng có nguy cơ bị hủy và mô tả cách nó đi đến kết luận.
"AI có thể giải thích được là có thể tin tưởng vào kết quả đầu ra cũng như hiểu cách máy móc đến đó", Travis Nixon, Giám đốc điều hành của SynerAI và Giám đốc Khoa học Dữ liệu, Dịch vụ Tài chính của Microsoft, nói với Lifewire trong một cuộc phỏng vấn qua email.
"" Làm thế nào? " là một câu hỏi được đặt ra cho nhiều hệ thống AI, đặc biệt là khi các quyết định được đưa ra hoặc kết quả đầu ra được tạo ra không lý tưởng ", Nixon nói thêm. "Từ việc đối xử không công bằng với các chủng tộc khác nhau đến việc nhầm một cái đầu hói với bóng đá, chúng ta cần biết lý do tại sao các hệ thống AI lại tạo ra kết quả của chúng. Khi chúng ta hiểu 'cách thức', nó sẽ định hướng các công ty và cá nhân trả lời 'điều gì tiếp theo?'."
Làm quen với AI
AI đã được chứng minh là chính xác và đưa ra nhiều loại dự đoán. Nhưng AI thường có thể giải thích cách nó đưa ra kết luận.
Và các cơ quan quản lý đang lưu ý đến vấn đề khả năng giải thích của AI. Ủy ban Thương mại Liên bang đã nói rằng AI không thể giải thích được có thể bị điều tra. EU đang xem xét việc thông qua Đạo luật trí tuệ nhân tạo, bao gồm các yêu cầu người dùng có thể diễn giải các dự đoán của AI.
Linkedin là một trong những công ty cho rằng AI có thể giải thích được có thể giúp tăng lợi nhuận. Trước đây, nhân viên bán hàng của LinkedIn dựa vào kiến thức của họ và dành rất nhiều thời gian để sàng lọc dữ liệu ngoại tuyến để xác định tài khoản nào có khả năng tiếp tục kinh doanh và sản phẩm nào họ có thể quan tâm trong lần gia hạn hợp đồng tiếp theo. Để giải quyết vấn đề này, LinkedIn đã bắt đầu một chương trình có tên là CrystalCandle nhằm phát hiện các xu hướng và giúp đỡ những người bán hàng.
Trong một ví dụ khác, Nixon nói rằng trong quá trình tạo ra mô hình thiết lập hạn ngạch cho lực lượng bán hàng của công ty, công ty của ông đã có thể kết hợp AI có thể giải thích để xác định những đặc điểm nào dẫn đến việc thuê nhân viên bán hàng mới thành công.
"Với kết quả này, ban lãnh đạo của công ty này có thể nhận ra những nhân viên bán hàng nào cần đưa vào 'đường đua nhanh' và những nhân viên nào cần huấn luyện, tất cả trước khi bất kỳ vấn đề lớn nào phát sinh", ông nói thêm.
Nhiều Công dụng cho AI Có thể Giải thích
AI có thể giải thích hiện đang được sử dụng như một công cụ kiểm tra ruột cho hầu hết các nhà khoa học dữ liệu, Nixon nói. Các nhà nghiên cứu chạy mô hình của họ thông qua các phương pháp đơn giản, đảm bảo không có gì hoàn toàn không đúng thứ tự, sau đó vận chuyển mô hình.
"Điều này một phần là do nhiều tổ chức khoa học dữ liệu đã tối ưu hóa hệ thống của họ theo 'thời gian hơn giá trị' như một KPI, dẫn đến các quy trình gấp rút và mô hình không hoàn chỉnh", Nixon nói thêm.
Tôi lo lắng sự phản tác dụng từ các mô hình thiếu trách nhiệm có thể khiến ngành công nghiệp AI trở lại theo hướng nghiêm trọng.
Mọi người thường không bị thuyết phục bởi những kết quả mà AI không thể giải thích. Raj Gupta, Giám đốc Kỹ thuật tại Cogito, cho biết trong một email rằng công ty của ông đã khảo sát khách hàng và nhận thấy rằng gần một nửa người tiêu dùng (43%) sẽ có nhận thức tích cực hơn về công ty và AI nếu các công ty rõ ràng hơn về việc sử dụng chúng. của công nghệ.
Và không chỉ dữ liệu tài chính đang nhận được sự trợ giúp từ AI có thể giải thích được. Một lĩnh vực được hưởng lợi từ cách tiếp cận mới là dữ liệu hình ảnh, nơi dễ dàng chỉ ra những phần nào của hình ảnh mà thuật toán cho là cần thiết và nơi con người dễ dàng biết liệu thông tin đó có hợp lý hay không, Samantha Kleinberg, phó giáo sư tại Stevens Viện Công nghệ và một chuyên gia về AI có thể giải thích, đã nói với Lifewire qua email.
"Khó hơn rất nhiều để làm điều đó với điện tâm đồ hoặc dữ liệu theo dõi đường huyết liên tục", Kleinberg nói thêm.
Nixon dự đoán rằng AI có thể giải thích được sẽ là nền tảng của mọi hệ thống AI trong tương lai. Và nếu không có AI có thể giải thích được, kết quả có thể rất thảm khốc, anh ấy nói.
"Tôi hy vọng chúng ta tiến bộ trên mặt trận này đủ xa để coi AI có thể giải thích được là điều hiển nhiên trong nhiều năm tới và hôm nay chúng ta nhìn lại thời điểm đó sẽ ngạc nhiên rằng bất kỳ ai cũng đủ điên rồ để triển khai các mô hình mà họ không hiểu, "ông nói thêm."Nếu chúng ta không đáp ứng được tương lai theo cách này, tôi lo lắng rằng tác động từ các mô hình thiếu trách nhiệm có thể khiến ngành công nghiệp AI trở lại một cách nghiêm trọng."
