IBM ra mắt công cụ phát hiện AI có “nói dối” hay không?

IBM đã tung ra một dịch vụ phần mềm chuyên quét các hệ thống AI khi chúng hoạt động để phát hiện ra sự thiên vị và cung cấp các giải thích cho các quyết định được đưa ra bởi AI.

Hệ thống tin cậy và minh bạch mới chạy trên Cloud của IBM và làm việc với các model được xây dựng từ một loạt các machine learning framework và AI – bao gồm công nghệ Watson của chính IBM, cũng như là Tensorflow, SparkML, AWS SageMaker và AzureML.

SaaS (chạy hoàn toàn tự động) giúp giải thích việc ra quyết định và phát hiện liệu AI có đang thiên vị hay không- vì vậy khi các quyết định được đưa ra – nó sẽ có khả năng xác định được các kết quả có thể không được công bằng.

Nó cũng sẽ tự động đề xuất dữ liệu để thêm vào mô hình giúp giảm thiểu bất kỳ sai lệch nào đã được phát hiện.

Tính năng giải thích về các quyết định của AI bao gồm việc đưa ra các yếu tố nào ảnh hưởng đến việc ra quyết định; sự tự tin trong đề xuất; và các yếu tố đằng sau sự tự tin đó.

IBM cũng cho biết phần mềm có lưu giữ thông tin về độ chính xác, hiệu suất và tính công bằng của mô hình AI, cùng với phả hệ của hệ thống AI – nghĩa là nó có thể dễ dàng truy vấn và thu hồi nếu cần thiết cho dịch vụ hay để tuân theo quy định và yêu cầu.

Đối với một ví dụ về mặt tuân thủ, framework bảo mật GDPR của EU tham chiếu đến việc đưa ra quyết định tự động và bao gồm quyền cho mọi người được nghe giải thích chi tiết về cách các thuật toán hoạt động trong một số trường hợp nhất định – điều đó có nghĩa là các doanh nghiệp có thể cần phải kiểm tra AI của họ.

IBM AI scanner tool cung cấp một phân tích các quyết định tự động thông qua các dashboard – Nhờ đó mà bạn không cần phải có kĩ năng IT để đọc hiểu chúng.

IBM cũng không phải là công ty đầu tiên phát hiện cơ hội kinh doanh xung quanh vấn đề về AI thiên vị. Một vài tháng trước Accenture đã đưa ra một công cụ để xác định và sửa chữa AI nhằm giúp chúng công bằng hơn.

Ngoài việc tung ra công cụ kiểm toán AI (trả tiền), IBM cho biết bộ phận nghiên cứu của họ sẽ tung ra một bộ công cụ open sourcing chuyên phát hiện và giảm thiểu vấn đề thiên vị trong AI – với mục đích khuyến khích quá trình “hợp tác toàn cầu để giải quyết vấn đề này”.

“IBM hiện đang dẫn đầu ngành công nghiệp trong việc thiết lập các nguyên tắc tin cậy và minh bạch cho sự phát triển của công nghệ AI mới. Chúng tôi đang mang lại giải pháp mới cho các doanh nghiệp sử dụng AI vốn phải đối mặt với nhiều rủi ro tiềm ẩn đến bất kỳ quyết định sai lầm nào của nó” – David Kenny, SVP của các giải pháp nhận thức tại IBM, cho biết trong một tuyên bố

Theo techforum