Công cụ trí tuệ nhân tạo mới của Google vẫn có thể bị đánh lừa

Google đã ra mắt hệ thống trí thông minh nhân tạo (AI) Cloud Video Intelligence , giúp xác định những gì có trong một video mà không cần đến việc gán nhãn thủ công từ con người. Tuy nhiên, công cụ này vẫn chưa hoạt động ổn định.

Google ngày càng triển khai nhiều hệ thống AI vào các sản phẩm của mình. ẢNH: SHUTTERSTOCK

Theo BGR, công cụ tìm kiếm của Google được biết đến với khả năng nhận diện hình ảnh có độ chính xác cao hơn bao giờ hết, và Cloud Video Intelligence là một bước đi mới của công ty dựa trên nền tảng AI nhằm mang điều tương tự đến việc tìm kiếm nội dung video.

Mặc dù vậy, một nhóm nghiên cứu thuộc Đại học Washington (Mỹ) đã chứng minh được rằng hệ thống phát hiện nội dung của Google rất nhạy cảm và có thể bị đánh lừa. Sau khi đào sâu vào cách hoạt động của API mới, nhóm nhận ra rằng bằng cách chèn vào hình ảnh một khung đối tượng cụ thể với khoảng thời gian đều đặn, hệ thống hoàn toàn có thể bị lừa.

Hệ thống AI giúp nhóm đối tượng trong video vào nhãn phù hợp. ẢNH: ĐẠI HỌC WASHINGTON

Để chứng minh điều này, các nhà nghiên cứu đã chụp một đoạn video của con hổ chơi trong vườn thú và đặt vào công cụ ưa thích của Google. Công cụ đã xếp kết quả video này vào nhóm Động vật, Động vật hoang dã, Vườn bách thú, Thiên nhiên và Du lịch . Tất cả đều là những nhóm hoàn hảo và mô tả chính xác những gì đang diễn ra.

Sau khi thực hiện vài thủ thuật, nhóm nghiên cứu đã lừa được AI của Google. ẢNH: ĐẠI HỌC WASHINGTON

Ngay sau đó, các nhà nghiên cứu đã chèn vào khung video hình ảnh một chiếc xe Audi xuất hiện đều đặn theo khoảnh khắc nhất định. Và kết quả là, sau khi gửi video qua công cụ ưa thích của Google, nó đã đặt video vào nhóm Audi, Xe, Ô tô, Mô tô và Audi A4. Như vậy không có bất kỳ nhãn nào liên quan đến động vật, mặc dù chỉ 1/50 thời gian trình diễn trên video có hình ảnh của chiếc xe, và phần còn lại là hình con hổ trong bể bơi.

Dĩ nhiên công cụ mới của Google vẫn đang trong giai đoạn thử nghiệm (beta) nên nó hoàn toàn có thể tồn tại những sai sót. Hy vọng Google sẽ sớm cải thiện điều này trong tương lai.

Kiến Văn

Theo Thanhnien