Loạt dự án AI chao đảo sau sự sụp đổ của FTX

Sam Bankman-Fried và các cộng sự là nhà tài trợ chính cho loạt dự án đang tạo ra trí tuệ nhân tạo (AI) siêu mạnh và cả những nghiên cứu liên quan đến ’sự an toàn của AI’.

Sam Bankman-Fried và các đồng nghiệp đã đầu tư hàng trăm triệu USD cho các công ty AI (Ảnh: NYTimes)

Sau sự sụp đổ của sàn giao dịch tiền điện tử FTX, một bảng cân đối kế toán bị rò rỉ cho thấy Sam Bankman-Fried và các cộng sự đã rót ít nhất 500 triệu USD và Anthropic – một dự án nghiên cứu ở San Francisco liên quan tới ’sự an toàn của AI’.

Chỉ có ít người ở Thung lũng Silicon biết đến phòng thí nghiệm mới thành lập được 1 năm và đang xây dựng các hệ thống trí tuệ nhân tạo (AI) này, theo New York Times.

Tuy vậy, số vốn được cam kết sẽ đổ vào công ty nhỏ này lại áp đảo lượng vốn mà các nhà đầu tư mạo hiểm đổ vào các start-up AI khác, bao gồm một số start-up sở hữu các nhà nghiên cứu dạn dày kinh nghiệm nhất trong lĩnh vực.

Vòng gọi vốn này được dẫn dắt bởi Sam Bankman-Fried, người sáng lập kiêm CEO của FTX, sàn giao dịch tiền mã hóa mới đệ đơn phá sản trong tháng trước.

Khoản đầu tư này là một phần trong nỗ lực âm thầm nhằm khám phá và giảm thiểu mối nguy hiểm tiềm ẩn của AI, thứ mà nhiều người thân cận của Sam Bankman-Fried tin là có thể hủy hoại thế giới và nhân loại.

Trong suốt 2 năm qua, vị doanh nhân 30 tuổi cùng các đồng nghiệp ở FTX được tin rằng đã rót hơn 530 triệu USD vào hơn 70 công ty có liên quan tới AI, các phòng thí nghiệm hàn lâm, hãng phân tích, các dự án độc lập và nhà nghiên cứu cá nhân để giải quyết những quan ngại liên quan tới công nghệ này.

Giờ đây, một vài trong số các tổ chức và cá nhân trên không dám chắc liệu họ có thể tiếp tục chi tiền hay không, theo một số nguồn tin am hiểu về kế hoạch của Sam Bankman-Fried.

Họ nói rằng họ cảm thấy lo ngại khi sự sụp đổ của Bankman-Fried có thể làm dấy lên sự ngờ vực về cuộc nghiên cứu và gây tổn hại danh tiếng của họ. Thêm nữa, một số start-up và tổ chức trong lĩnh vực AI có thể bị vướng vào vụ phá sản của FTX, và những khoản tiền mà họ từng nhận cũng có nguy cơ bị tòa thu giữ.

Những quan ngại về thế giới AI được xem là tác động bất ngờ đến từ sự sụp đổ của FTX, điều này cho thấy cú sốc đến từ vụ việc này gây tầm ảnh hưởng rộng lớn đến thế nào.

Sam Bankman-Fried nỗ lực rót vốn cho nghiên cứu AI là bởi ông theo chủ nghĩa vị tha hiệu quả (Ảnh: NYTimes)

“Một số người có thể thấy bất ngờ vì mối liên hệ giữa hai lĩnh vực công nghệ mới nổi này,” Andrew Burt, một luật sư và là chuyên gia tại ĐH Luật Yale, nói về AI và tiền mã hóa. “Nhưng trên bề nổi, có nhiều mối liên hệ giữa hai lĩnh vực này.”

Bankman-Fried, đang là tâm điểm của các cuộc điều tra nhằm vào vụ phá sản của FTX và mới tham gia một hội thảo trong hôm thứ Tư tuần trước, đã từ chối bình luận về việc này. Anthropic cũng từ chối bình luận về khoản đầu tư mà Bankman-Fried đổ vào công ty họ.

Những dự án AI có liên hệ với Sam Bankman-Fried

Nỗ lực gây tầm ảnh hưởng tới lĩnh vực AI của Bankman-Fried bắt nguồn từ sự gia nhập của ông vào cái gọi là “chủ nghĩa vị tha hiệu quả”, một phong trào nhân đạo mà trong đó các nhà tài trợ tìm cách tối đa hóa tác động của món quà họ trao đi trong dài hạn.

Những người theo chủ nghĩa này thường quan ngại về cái mà họ cho là những nguy cơ mang tính thảm họa, ví dụ như đại dịch, vũ khí sinh học và chiến tranh hạt nhân.

Sự quan tâm của họ đối với AI đặc biệt sâu sắc. Nhiều người theo chủ nghĩa này tin rằng AI khi được tăng cường sức mạnh dần dần như hiện nay có thể là điều tốt đẹp với thế giới, nhưng cũng lo rằng nó có thể gây ra tổn hại nghiêm trọng nếu như không được xây dựng theo cách an toàn.

Mặc dù các chuyên gia về AI nhất trí rằng, mọi viễn cảnh tận thế còn lâu mới xảy ra – hoặc không bao giờ – nhưng những người “vị tha hiệu quả” tranh luận rằng ngày tận thế hoàn toàn có khả năng xảy ra và rằng các nhà nghiên cứu, công ty và chính phủ các nước nên chuẩn bị sẵn sàng.

Trong thập kỷ trước, nhiều người theo chủ nghĩa này đã làm việc bên trong các phòng thí nghiệm AI hàng đầu, bao gồm DeepMind, được sở hữu bởi công ty mẹ của Google, và OpenAI, được Elon Musk và một số người khác sáng lập.

Họ đã giúp tạo nên một lĩnh vực nghiên cứu được gọi là “sự an toàn của AI”, với mục tiêu khám phá cách mà các hệ thống AI có thể được sử dụng để gây tổn hại hoặc bị sai chức năng một cách bất ngờ.

Những người theo chủ nghĩa này cũng giúp thiết lập nghiên cứu tương tự tại một số hãng phân tích ở Washington chuyên hoạch định chính sách. Trung tâm An ninh và Công nghệ mới của ĐH Georgetown, chuyên nghiên cứu về tác động của AI và các công nghệ mới nổi khác đối với an ninh quốc gia, chủ yếu được rót vốn bởi Open Philanthropy, một tổ chức vị tha hiệu quả.

Bankman-Fried là một phần của phong trào vị tha hiệu quả kể từ năm 2014. Ủng hộ một hướng tiếp cận có tên là kiếm tiền để trao đi, Bankman-Fried nói với New York Times trong tháng 4 rằng, ông chủ động lựa chọn một sự nghiệp sinh ra lợi nhuận lớn để có thể trao đi lượng tài sản lớn hơn.

Tháng 2, ông và một vài đồng nghiệp ở FTX cho ra mắt quỹ Future Fund để hỗ trợ “những dự án tham vọng nhằm cải thiện triển vọng dài hạn của nhân loại.” Quỹ này được quản lý một phần bởi Will MacAskill, người sáng lập Trung tâm Vị tha Hiệu quả, cũng như một số người có vị trí quan trọng khác trong phong trào này.

Will MacAskill, một người sáng lập của Trung tâm Vị tha Hiệu quả, phát biểu tại TED Talk năm 2018 (Ảnh: Getty)

Đầu tháng 9, Future Fund hứa hẹn trao 160 triệu USD cho hàng loạt các dự án, bao gồm một nghiên cứu về sự chuẩn bị sẵn sàng cho đại dịch tiếp theo và tăng trưởng kinh tế. Khoảng 30 triệu USD khác cũng được cam kết tài trợ cho nhiều tổ chức và cá nhân đưa ra những ý tưởng liên quan tới AI.

Trong số các khoản trợ cấp liên quan tới AI của Future Fund có khoản tiền 2 triệu USD dành cho một công ty ít tiếng tăm, Lightcone Infrastructure. Lightcone vận hành một trang thảo luận trực tuyến có tên LessWrong, trong khoảng giữa những năm 2000 đã bắt đầu tìm hiểu về khả năng AI ngày nào đó sẽ hủy diệt nhân loại.

Bankman-Fried và các đồng nghiệp cũng rót vốn cho một vài nỗ lực nhằm giảm thiểu nguy cơ dài hạn của AI, trong đó có khoản tiền 1,25 triệu USD cho Trung tâm Nghiên cứu Alignment, một tổ chức đặt mục tiêu liên kết hài hòa các hệ thống AI tương lai với lợi ích của nhân loại để công nghệ không trở nên có hại. Họ cũng trao 1,5 triệu USD cho nghiên cứu tương tự tại ĐH Cornell.

Future Fund cũng tài trợ gần 6 triệu USD cho 3 dự án liên quan tới “”các mô hình ngôn ngữ lớn,” một AI ngày càng mạnh mẽ với khả năng viết các đoạn tweet, email và bài viết trên blog, thậm chí có thể tự viết chương trình cho máy tính. Khoản tiền này được trao với mục đích giúp giảm thiểu nguy cơ công nghệ bị sử dụng để phát tán thông tin sai sự thật và giảm những hành vi không mong muốn từ những hệ thống như vậy.

Sau khi FTX đệ đơn phá sản, ông MacAskill và nhiều người khác vận hành quỹ Future Fund đã rút khỏi dự án, chỉ ra “nhiều câu hỏi căn bản về tính hợp pháp và sự toàn vẹn của hoạt động kinh doanh” đằng sau nó.

Một số tổ chức và cá nhân đã nhận được nguồn vốn tài trợ từ Bankman-Fried và các đồng nghiệp của ông. Những bên khác chỉ nhận được một phần nhỏ số tiền họ được cam kết. Một số còn lo rằng các khoản tiền tài trợ mà họ nhận được sẽ bị thu giữ để trả cho các chủ nợ của FTX./.