Sợ AI bị dùng sai cách, DeepMind nỗ lực tách khỏi Google

Nhiều năm qua, DeepMind cố gắng thoát khỏi quyền kiểm soát của Google vì không muốn công nghệ AI ( trí tuệ nhân tạo ) nằm trong tay một công ty tư nhân .

Dù đã bán mình cho Google, DeepMind vẫn muốn giữ quyền tự chủ

Theo Business Insider , khoảng 9 nhân viên trong cuộc cho biết DeepMind luôn lo ngại một ngày nào đó Google sẽ dùng AI sai cách, thế nên các lãnh đạo luôn cố giữ DeepMind độc lập với Google suốt nhiều năm qua.

Vấn đề nằm ở việc DeepMind đã tự bán mình cho một công ty mà họ không tin tưởng. Một cựu nhân viên cho biết: “Kể từ thời điểm ấy, mọi người đều băn khoăn về quyết định đã qua”.

Xung đột về đạo đức AI

Khi Google mua lại DeepMind năm 2014, đây được xem là thỏa thuận đôi bên cùng có lợi. Google có trong tay một tổ chức nghiên cứu AI hàng đầu ở London (Anh), còn DeepMind được hỗ trợ tài chính cho nhiệm vụ xây dựng AI có thể làm nhiều việc như con người, họ gọi đó là trí tuệ nhân tạo tổng hợp (Artificial General Intelligence – AGI).

Mâu thuẫn dần len lỏi trong nội bộ hai công ty. Một số nhà nghiên cứu ở DeepMind tự nhìn nhận bản thân là học giả, không muốn dính líu đến bộ máy kinh doanh quan liêu của Google. Số khác lo sợ mọi hoạt động của DeepMind sẽ bị đặt dưới tầm kiểm soát của một hãng công nghệ khổng lồ. Nhiều nhân viên DeepMind thậm chí còn được khuyến khích giao tiếp với nhau bằng ứng dụng nhắn tin mã hóa vì sợ bị Google theo dõi.

Các nhà lãnh đạo DeepMind từng phát hiện một công trình của nhóm nghiên cứu AI bên Google trích tập hợp mã giống với DeepMind mà không ghi nguồn. CEO DeepMind Demis Hassabis rất bực mình vì điều này, dẫn đến việc DeepMind bắt đầu bảo vệ mã của mình nhiều hơn.

Theo The Information , năm 2015, Google tái cấu trúc thành Alphabet , cấp cho những dự án mạo hiểm nhiều quyền tự do hơn. Khi đó, ban lãnh đạo DeepMind muốn cả công ty có thể được xem là một bộ phận độc lập dưới trướng Alphabet, tự đưa ra báo cáo tài chính định kỳ.

Hơn nữa, nhóm DeepMind muốn giành quyền tự chủ về mặt pháp lý. Họ lo lắng trước viễn cảnh công nghệ của mình bị sử dụng sai cách, đặc biệt trong trường hợp DeepMind đạt được AGI.

AI của DeepMind từng đánh bại kỳ thủ con người trong những cuộc đấu cờ

Một cựu nhân viên giấu tên cho biết: “Theo họ, công nghệ này quá mạnh để cho một công ty tư nhân nắm giữ, vì vậy nó cần được nằm trong tay những pháp nhân khác không dính líu đến lợi ích cổ đông”.

Năm 2017, tại một kỳ nghỉ dưỡng ở Scotland, ban lãnh đạo DeepMind tiết lộ với nhân viên kế hoạch tách khỏi Google. Họ muốn trở thành một công ty toàn cầu. Alphabet sẽ tiếp tục nắm giữ DeepMind và có giấy phép độc quyền cho công nghệ AI, nhưng điều kiện đặt ra là Alphabet không được vượt qua một số giới hạn đạo đức, chẳng hạn dùng công nghệ của DeepMind cho mục đích giám sát, quân sự.

Các nhân viên DeepMind bí mật gọi kế hoạch giành quyền tự chủ là “Watermelon” hay “Mario” để không bị phát hiện.

Năm 2019, DeepMind đăng ký công ty mới có tên DeepMind Labs Limited ở Anh trong nỗ lực tách khỏi Google. Một nhóm cấp cao ở DeepMind thường xuyên gặp các luật sư bên ngoài để thảo luận về mối quan hệ giữa hai công ty trên nhiều phương diện.

Trước khi thương vụ năm 2014 khép lại, DeepMind và Google đã cùng ký thỏa thuận về đạo đức và an toàn AI, yêu cầu thành lập hội đồng đạo đức giám sát việc nghiên cứu AI. Nhưng hội đồng này chưa bao giờ được thành lập.

Đến năm 2017, hợp đồng gây tranh cãi giữa Google và Lầu Năm Góc được tiết lộ, khiến nội bộ DeepMind náo loạn. Các nhân viên cáo buộc Google tham gia vào việc “kinh doanh từ chiến tranh”. Hợp đồng có tên gọi là “dự án Maven” được xem như một hồi chuông cảnh báo đối với DeepMind.

Ai sẽ nắm quyền kiểm soát AI?

Theo Wall Street Journal, các nỗ lực tách DeepMind khỏi Google kết thúc vào năm nay mà không đạt kết quả như mong đợi. Tháng 4, Hassabis thông báo với nhân viên rằng các cuộc đàm phán tách khỏi Google đã kết thúc. DeepMind sẽ duy trì trạng thái hiện tại dưới quyền Alphabet. The Economist từng đưa tin công việc của DeepMind sẽ được Hội đồng Đánh giá Công nghệ Nâng cao ở Google giám sát.

Những cuộc đàm phán kéo dài nhiều năm cộng với những xung đột gần đây trong bộ phận AI của Google (sa thải hai chuyên gia AI hàng đầu) đặt ra câu hỏi về việc “gã khổng lồ” tì

CEO Demis Hassabis không muốn AI nằm trong tay một công ty tư nhân

Những khoản đầu tư của Google vào DeepMind đang bắt đầu thu quả ngọt. Cuối năm ngoái, DeepMind công bố một bước tiến trong nghiên cứu khi dùng AI dự đoán cấu trúc của protein sau quá trình cuộn xoắn. Nghiên cứu đột phá về protein có khả năng tạo ra cuộc cách mạng trong quá trình chế tạo thuốc và tìm hiểu cơ chế gây bệnh ở con người.

Đối với DeepMind, CEO Hassabis tin rằng công nghệ AI không nên được một tập đoàn duy nhất kiểm soát. Phát biểu tại diễn đàn AI tổ chức vào tháng 6, ông đề xuất thành lập một viện nghiên cứu thế giới cho AI. Theo ông, một cơ quan như vậy nên nằm dưới quyền tài phán của Liên Hiệp Quốc, tập hợp các nhà nghiên cứu hàng đầu trong lĩnh vực này.

https://thanhnien.vn/cong-nghe/so-ai-bi-dung-sai-cach-deepmind-no-luc-tach-khoi-google-1449172.html