Chatbot AI bị “thối não” do lạm dụng mạng xã hội

Thanh Tùng07:12 02/11/2025

Theo Nature, một nghiên cứu đăng tải trên trang arXiv cho thấy các chatbot trí tuệ nhân tạo (AI) hoạt động kém hiệu quả hơn trong việc truy xuất thông tin chính xác và lập luận logic.

Theo Nature, một nghiên cứu đăng tải trên trang arXiv cho thấy các chatbot trí tuệ nhân tạo (AI) hoạt động kém hiệu quả hơn trong việc truy xuất thông tin chính xác và lập luận logic khi được huấn luyện bằng lượng lớn nội dung kém chất lượng, đặc biệt là những nội dung phổ biến trên mạng xã hội.

Đồng tác giả Zhangyang Wang, nhà nghiên cứu AI tạo sinh tại Đại học Texas ở Austin (Mỹ), cho biết dữ liệu chất lượng cao không chỉ cần đúng ngữ pháp và dễ hiểu, mà còn phải đảm bảo giá trị nội dung. Tuy nhiên, nhiều dữ liệu phổ biến trên mạng xã hội lại mang tính hời hợt, giật gân và ngắn gọn, dẫn đến việc các tiêu chí thông thường không đủ để đánh giá.

Nhóm nghiên cứu đã phân tích tác động của dữ liệu “rác” đối với khả năng suy luận, truy xuất thông tin từ văn bản dài, đạo đức trong phản hồi và đặc điểm “tính cách” của mô hình. Kết quả cho thấy, các mô hình được “cho ăn” dữ liệu kém chất lượng có xu hướng bỏ qua các bước suy luận hoặc không suy luận, dẫn đến câu trả lời sai hoặc thiếu logic. Khi tỷ lệ dữ liệu rác tăng trong tập huấn luyện, khả năng suy luận của mô hình giảm mạnh. Nghiên cứu hiện chưa qua phản biện.

Nhà nghiên cứu Mehwish Nasim thuộc Đại học Tây Australia nhận định kết quả này củng cố nguyên tắc cơ bản trong lĩnh vực AI: “Rác vào thì rác ra”. Bà nói: “Ngay cả trước khi xuất hiện các mô hình ngôn ngữ lớn, chúng tôi đã biết rằng nếu cung cấp dữ liệu tệ, mô hình sẽ cho ra kết quả tệ”.

Giáo sư Stan Karanasios (Đại học Queensland, Australia) cho rằng nghiên cứu này là lời cảnh báo về hiện tượng “thối não” (brain rot) ở AI: “Điều quan trọng nhất là phải giám tuyển dữ liệu kỹ lưỡng, loại bỏ nội dung giật gân, kém chất lượng trước khi đưa vào huấn luyện”.

X cho phép bot AI kiểm chứng thông tin: Cách mạng hay rủi ro tiềm ẩn?

X (trước đây là Twitter), nền tảng xã hội do Elon Musk dẫn dắt, đang mở rộng chương trình Ghi chú cộng đồng (Community Notes) bằng việc cho phép các bot AI tham gia đề xuất ghi chú, một động thái có thể thay đổi cách kiểm tra tin tức trên mạng xã hội.

Khởi đầu như dự án thử nghiệm Birdwatch dưới thời Twitter, Community Notes cho phép người dùng đóng góp thêm ngữ cảnh vào các bài đăng tiềm ẩn sai sót hoặc hiểu nhầm. Các đề xuất này phải nhận đủ lượt đánh giá tích cực từ những người dùng khác, đặc biệt là từ nhóm người vốn có quan điểm khác nhau so với nhau, trước khi chúng được hiển thị công khai bên dưới bài đăng.

X cho phép bot AI đề xuất ghi chú kiểm chứng thông tin, con người vẫn phê duyệt để đảm bảo tính minh bạch - Ảnh: Reuters

Elon Musk đã nhanh chóng ủng hộ hệ thống này như một cách tiếp cận minh bạch và phi tập trung, khác với mô hình kiểm tra thông tin do các tổ chức chuyên nghiệp thực hiện. Kể từ đó, nhiều nền tảng khác như Facebook, YouTube, và TikTok cũng học theo mô hình này.

Ưu điểm của Community Notes là nó được người dùng đánh giá là hữu ích và có tác dụng làm chậm quá trình lan truyền của các bài đăng chứa sai sót. Tuy nhiên, nghiên cứu từ Washington Post và các nguồn khác cho thấy hệ thống vẫn chưa giải quyết được toàn bộ vấn đề rằng chỉ có rất ít ghi chú được phê duyệt, trong khi thông tin sai lệch vẫn lan rộng nhanh chóng.

Mở rộng quy mô kiểm chứng

Tuần này, X công bố bước đột phá, cho phép bot AI viết đề xuất ghi chú. Theo chia sẻ của Keith Coleman - Phó chủ tịch phụ trách sản phẩm của X, con người vẫn là người duyệt ghi chú, đảm bảo chất lượng cuối cùng. Mục đích là tạo ra nhiều ghi chú hơn, xuất hiện nhanh hơn và dành cho nhiều bài đăng hơn.

Ông Coleman cho biết bot AI có ưu thế trong việc truy xuất thông tin nhanh chóng: ví dụ, xác định nguồn gốc video, phát hiện ghi chú từng xuất hiện trước đó, hay tìm nạp thông tin từ nhiều trang web để làm minh chứng.

Để tham gia, các bot phải tuân theo một quy trình nghiêm ngặt bao gồm việc đăng ký và kiểm định chất lượng, trong đó các nhà phát triển bao gồm cả những nhóm nghiên cứu từ MIT, Harvard và Stanford, cần nộp đơn đăng ký thông qua chương trình Ghi chú cộng đồng.

Các bot chỉ được phép đề xuất ghi chú, không có quyền đánh giá hay quyết định nội dung hiển thị. Tất cả các đề xuất đều phải được con người trực tiếp kiểm duyệt theo quy trình hiện hành. Những ghi chú do AI tạo ra sẽ được gắn nhãn rõ ràng để người dùng nhận biết. Ngoài ra, các bot cũng sẽ có hệ thống điểm uy tín, phản ánh qua mức độ đánh giá từ cộng đồng.

Coleman nhấn mạnh: "AI không đánh giá ghi chú. Điều quan trọng là con người phải chịu trách nhiệm, bởi vì AI có thể mắc lỗi, gây ảo giác, mang thiên kiến".

Các rủi ro và thách thức

Một số chuyên gia thông tin sai lệch nhận thấy ý tưởng này có tiềm năng, nhưng đầy thách thức.

Rủi ro lan truyền thông tin sai do bot: Mô hình AI nổi tiếng với việc bịa ra thông tin, hay còn gọi là "ảo giác", điều đáng lo ngại trong kiểm chứng thông tin. Thậm chí Grok, chatbot AI nội bộ của X, cũng có nhiều lần hiểu sai và trả lời không chính xác.

Keith Coleman lưu ý rằng, trong giai đoạn vừa diễn ra, chỉ các bot do con người thiết kế mới được sử dụng. Ông khẳng định sẽ tiếp tục theo dõi kỹ để ngăn chặn tình trạng ghi chú sai sót do AI.

Vấn đề "áp đảo bởi số lượng": Theo báo cáo từ X và các nhóm nghiên cứu, một người kiểm tra thông tin đóng góp hiệu quả nhất từng đưa vào hàng chục nghìn ghi chú, và chỉ một phần trong đó được phê duyệt. Nếu số bot AI tăng nhanh mà số người phê duyệt không đủ, nỗ lực của con người sẽ bị "quá tải".

Giới chuyên môn như Renee DiResta (Đại học Georgetown, Mỹ) cảnh báo cần cơ chế kiểm soát để ngăn tình trạng spam AI. Tuy nhiên, DiResta cũng nhấn mạnh nếu các bot AI được đào tạo bài bản, chúng có thể dùng ngôn ngữ trung lập, tạo ghi chú dễ tiếp thu với mọi thành phần xã hội, tạo ra "điểm chung" quan trọng trong bối cảnh xã hội chia rẽ.

Nguy cơ AI tự trị hóa quá trình: Chuyên gia Alexios Mantzarlis (Cornell Tech) cảnh báo rằng việc thêm bot AI vào chương trình nếu không có khả năng phê duyệt mở rộng sẽ khó mang lại giá trị. Ông lo ngại một ngày nào đó X sẽ buộc lòng để AI tự động phê duyệt ghi chú, biến Community Notes trở thành một "quy trình tự kiểm duyệt AI", mâu thuẫn với mục tiêu ban đầu là duy trì sự giám sát của con người.

Con người vẫn là yếu tố then chốt

Theo ông Keith Coleman, hệ thống mới của X tiếp tục đặt con người ở vị trí trung tâm trong quá trình kiểm chứng thông tin. Người dùng vẫn được khuyến khích tham gia phê duyệt và đánh giá chất lượng các ghi chú do AI đề xuất, nhằm đảm bảo tính chính xác và hạn chế thiên kiến.

Việc X hợp tác với các trường đại học hàng đầu như MIT, Harvard, Stanford và Đại học Washington cho thấy mục tiêu xây dựng một nền tảng kiểm chứng có cơ sở khoa học, minh bạch và đáng tin cậy. Những nghiên cứu liên quan cũng được công bố dưới dạng bản in trước để cộng đồng học thuật có thể theo dõi và phản biện.

Cho phép bot AI tham gia đề xuất ghi chú là một bước tiến quan trọng trong lĩnh vực công nghệ thông tin. Nếu được triển khai hợp lý, AI có thể hỗ trợ hiệu quả trong việc mở rộng phạm vi kiểm chứng và rút ngắn thời gian phản hồi. Tuy nhiên, điều này chỉ thực sự hiệu quả khi có sự kiểm soát nghiêm ngặt. Bot AI cần được quản lý kỹ lưỡng để tránh việc lan truyền thông tin sai lệch, và đội ngũ kiểm duyệt là con người vẫn đóng vai trò then chốt trong việc thẩm định nội dung. Đồng thời, để duy trì lòng tin của người dùng, toàn bộ quy trình cần được giám sát công khai, minh bạch, từ cách ghi chú được tạo ra, gắn nhãn, đến dữ liệu kiểm định ban đầu.

Chỉ khi AI và con người phối hợp chặt chẽ, phân định rõ trách nhiệm và bổ sung cho nhau, hệ thống kiểm chứng thông tin mới có thể đạt hiệu quả cao mà không rơi vào tình trạng lặp lại rối rắm hoặc mất kiểm soát. X đang mở ra một hướng tiếp cận mới rằng kiểm chứng theo hướng mở, minh bạch và phối hợp đa bên. Để hiện thực hóa mục tiêu này, vẫn còn nhiều thách thức phía trước cần được giải quyết.

Đằng sau cái tên ChatGPT: Quyết định lúc nửa đêm giúp OpenAI làm nên lịch sử AITrong tập mới nhất của podcast OpenAI, Giám đốc nghiên cứu Mark Chen và trưởng nhóm ChatGPT - Nick Turley đã chia sẻ về những ngày chuẩn bị ra mắt chatbot trí tuệ nhân tạo (AI) này. Mark Chen và Nick Turley hai lãnh đạo OpenAI liên quan đến việc phát triển ChatGPT. "Ban đầu nó sẽ được gọi là Chat with GPT-3.5...

Bạn thấy bài viết này có hữu ích không?

Có

Không

Tin liên quan

Tiêu điểm

Tin đang nóng

Tin mới nhất

Giải pháp chống say xe của Samsung đơn giản đến bất ngờ

13:48:34 02/04/2026

Nhiều người dùng thường gặp phải tình trạng say xe, đặc biệt trong những chuyến đi dài. Vì vậy Samsung đã đưa ra giải pháp cho vấn đề.

Cuối cùng Google và Samsung đã xử lý tính năng khó chịu này trên Android

12:42:35 02/04/2026

Trong quá trình sử dụng thực tế, nhiều người dùng vẫn gặp tình trạng thiết bị không nhận diện được nhau, hoặc việc gửi file bị gián đoạn giữa chừng. Điều này khiến trải nghiệm chia sẻ, vốn cần nhanh và ổn định, lại trở nên thiếu tin cậy...

Rò rỉ mã nguồn Claude Code, cú vấp của Anthropic trong cuộc đua AI

09:34:17 01/04/2026

Việc mã nguồn xuất hiện công khai giúp các nhà phát triển có thể hiểu sâu hơn cách Anthropic xây dựng công cụ của mình. Đồng thời, điều này cũng có thể hỗ trợ các đối thủ nghiên cứu và cải tiến sản phẩm cạnh tranh.

iPad to hơn, mạnh hơn, nhưng vì sao lại rẻ hơn iPhone?

10:31:07 31/03/2026

Giá iPhone cao hơn iPad không phải ngẫu nhiên khi Apple định giá dựa trên nhu cầu, thiết kế và độ phức tạp sản xuất.

Giá smartphone tại Việt Nam bắt đầu tăng

10:19:01 31/03/2026

Những biến động thị trường cuối năm 2025, đầu 2026 khiến giá smartphone của nhiều hãng đều tăng vọt từ 9% tới 44%.

Tiết lộ mới về mối quan hệ giữa Apple và Google

10:09:28 31/03/2026

Theo báo cáo từ The Information, mối quan hệ hợp tác giữa Apple và Google đang trở nên sâu sắc hơn so với trước đây.

Nền tảng AI giúp doanh nghiệp tự động tương tác khách hàng quy mô lớn

08:26:54 31/03/2026

Một lợi thế nổi bật của Infobip là mô hình AI làm việc cùng con người, trong đó AI xử lý các việc lặp lại và số lượng lớn, còn các chuyên gia con người sẽ can thiệp khi có vấn đề phức tạp, đồng thời liên tục cải thiện hệ thống AI.

Trung tâm dữ liệu AI đẩy nhiệt độ môi trường xung quanh tăng tới 9C

08:18:10 31/03/2026

Khi kết hợp với dữ liệu dân số, các nhà nghiên cứu ước tính khoảng 340 triệu người hiện sinh sống trong phạm vi 10 km quanh các trung tâm dữ liệu trên toàn cầu, đồng nghĩa với việc phải chịu mức nhiệt cao hơn so với điều kiện tự nhiên.

Trăm triệu người dùng khốn khổ vì DeepSeek

08:12:41 31/03/2026

DeepSeek từng nổi tiếng với chi phí đào tạo mô hình thấp hơn nhiều so với các đối thủ Mỹ, song việc vận hành dịch vụ ổn định ở quy mô hàng trăm triệu người dùng là bài toán khác hoàn toàn.

DeepSeek ngừng hoạt động 12 tiếng, hàng trăm triệu người dùng bị ảnh hưởng

08:08:51 31/03/2026

Sự cố mới nhất xảy ra trong bối cảnh kỳ vọng và đồn đoán ngày càng tăng về mô hình AI tiếp theo của công ty là DeepSeek V4, vốn nhiều lần bị trì hoãn so với các mốc thời gian dự kiến.

Apple xoay trục 'kế hoạch B', biến iPhone thành trung tâm của mọi chatbot

07:51:55 31/03/2026

Có thể hình dung theo cách App Store đang hoạt động. Apple cung cấp các ứng dụng như Mail, Maps và Safari, nhưng người dùng vẫn có thể tải Gmail, Google Maps hay Chrome.