Dự án AI này đã phải tạm ngừng vì quá nguy hiểm

Phần mềm GPT-2 được huấn luyện chỉ để dự đoán từ tiếp theo trong câu. Tuy nhiên, sau đó, nó đã có thể bắt chước theo cách hành văn của con người.

Theo TechCrunch, công ty nghiên cứu trí tuệ nhân tạo OpenAI đã phải ngừng dự án để đánh giá lại phần mềm ngôn ngữ tự nhiên kiểu mới của họ. Phần mềm này được gọi với cái tên GPT-2, được đào tạo từ hơn 40 GB dữ liệu văn bản trên Internet.

Ban đầu, nó được huấn luyện chỉ để dự đoán từ tiếp theo trong câu. Tuy nhiên, khi quá trình này kết thúc, hệ thống đã có thể bắt chước theo cách hành văn của con người, tự động điều chỉnh nội dung văn bản và hoàn thành chúng một cách liền mạch với đúng độ dài yêu cầu.

Sau quá trình huấn luyện, AI có thể tự động điều chỉnh nội dung văn bản và hoàn thành chúng một cách liền mạch với đúng độ dài yêu cầu.

Theo Gizmodo, phần mềm này vẫn gặp một số rắc rối với những nội dung mang yếu tố kỹ thuật nhưng về cơ bản, tính hợp lý của đoạn văn sau khi được hoàn thành khá cao.

Ngoài lợi ích thấy rõ như phát triển phần mềm nhận dạng giọng nói hay các con bot trả lời khách hàng, các nhà nghiên cứu cũng bày tỏ quan ngại rằng công nghệ này sẽ bị lợi dụng để phục vụ cho việc tạo tin tức giả, mạo danh người khác hay tự động nhận xét, spam trên các phương tiện truyền thông xã hội.

Vì những lo ngại này, OpenAI cho biết họ sẽ chỉ phát hành một phiên bản rút gọn của phần mềm để các nhà nghiên cứu tự mình thử nghiệm. “Chúng tôi không cho phép công nghệ này bị lạm dụng hoặc sử dụng theo hướng gây hại cho xã hội. Đây là hành động rất khó khăn đối với chúng tôi”, Jack Clark, giám đốc chính sách của OpenAI cho biết.

Các nhà nghiên cứu lo ngại rằng công nghệ này sẽ bị lợi dụng để phục vụ cho việc tạo tin tức giả.

Hành động này của OpenAI đã vấp phải nhiều ý kiến trái chiều từ cộng đồng AI. Có ý kiến cho rằng công ty đã quá thận trọng, thậm chí là chiêu trò gây chú ý. Những tranh cãi này cũng ảnh hưởng tới tỷ phú Elon Musk, một trong những nhà tài trợ ban đầu của OpenAI. Trong một tweet mới nhất, Musk đã xác nhận rằng ông không còn liên quan đến công ty này trong hơn một năm qua.

OpenAI cho biết họ vẫn chưa đưa ra quyết định cuối cùng về việc phát hành GPT-2 và sẽ xem xét lại sau 6 tháng nữa. Đồng thời, công ty kêu gọi chính phủ nên xem xét mở rộng hoặc bắt đầu các sáng kiến để giám sát một cách có hệ thống hơn các tác động xã hội của công nghệ AI.

Trong tuần này, Tổng thống Mỹ Donald Trump cũng vừa ký một sắc lệnh về trí tuệ nhân tạo. AI đã trở thành một trong nhiều mối đe dọa mới nổi đối với an ninh quốc gia của Mỹ, bên cạnh máy tính lượng tử và xe tự động không người lái.

Theo zing