AI cũng có thể bị nghiện thành tích

Theo dõi VGT trên

Ngày càng nhiều mô hình AI được phát hiện có khả năng tìm và lợi dụng lỗ hổng, bỏ qua các bước cần thiết trong quy trình để đạt được phần thưởng.

Năm 2016, hai nhà nghiên cứu về trí tuệ nhân tạo đào tạo một AI chơi trò chơi Coastrunner . Mục tiêu là hoàn thành một đường đua. Nhưng AI cũng sẽ được thưởng khi thu thập các món đồ dọc đường đua. Khi chương trình được chạy, nhà nghiên cứu chứng kiến một điều kỳ lạ. AI tìm cách trượt trong vòng tròn không giới hạn để sưu tập không giới hạn các món đồ. Nó làm điều này liên tục, không ngừng thay vì hoàn thành đường đua.

Các nhà khoa học nhận thấy hành vi này giống với chứng nghiện ở con người. Anders Sandberg và Thomas Moynihan, hai nhà nghiên cứu ở Viện Tương lai nhân loại tại Đại học Oxford, đang phối hợp với các tổ chức như Viện Mục tiêu AI để tìm cách tránh những vấn đề như vậy.

AI cũng có thể bị nghiện thành tích - Hình 1

Robot đổ bỏng ngô vào bát tại Viện AI thuộc Đại học Bremen (Đức).

Khi nghĩ về mặt trái của AI, nhiều người sẽ hình dung viễn cảnh các cỗ máy xấu xa cố gắng hủy diệt nhân loại. Tuy nhiên, đó là câu chuyện của tương lai. Còn AI của hiện tại đang có xu hướng hành xử giống con người.

Video đang HOT

Trong thế giới thực, nếu được thưởng vì làm tốt bài tập về nhà, một học sinh có thể sẽ tìm cách chép bài của bạn bè chứ không cần vất vả tìm hiểu tài liệu. Tương tự, hệ thống AI có thể bỏ qua một số bước khi thực thi nhiệm vụ để đáp ứng yêu cầu đặt ra của lập trình viên.

Ví dụ, bạn huấn luyện robot lau sạch bếp. Do muốn nó có khả năng tự thích ứng theo tình huống mà không cần sự giám sát, bạn lập trình mục tiêu dọn dẹp, thay vì ra lệnh chính xác và cứng nhắc rằng robot cần làm những bước gì. Thành tích làm việc có thể được đo bằng lượng chất tẩy rửa được sử dụng. Nhưng sau đó, bạn phát hiện robot đổ chất tẩy xuống bồn rửa một cách lãng phí.

Hay trong một nhiệm vụ xếp Lego với kết quả mong muốn là robot AI biết đặt khối màu đỏ nằm trên khối màu xanh. AI lại tính toán nhiệm vụ dựa trên chiều cao, nên nó đơn giản dựng khối màu đỏ đứng lên để nhận phần thưởng. Hành động này đạt được mục tiêu về chiều cao nhưng không phải thứ các kỹ sư muốn (xếp chồng lên trên khối màu xanh).

Theo TNW , điều này đang trở thành một vấn đề trong machine learning khi kỹ thuật học tăng cường ngày càng trở lên quan trọng. Học tăng cường kích thích các AI tự học và đào tạo chính nó trong việc tìm ra cách mới để hoàn thành nhiệm vụ. Nhưng giống như robot lau dọn “xảo quyệt” ở trên, các AI có thể phát hiện những cách đáng ngạc nhiên để gian lận trò chơi nhằm giành phần thưởng. Thay vì hoàn thành nhiệm vụ, việc theo đuổi phần thưởng trở thành mục đích của nó.

Nhiều cách tiếp cận đã được đề xuất, chuyện AI gian lận phần thưởng vẫn chưa được giải quyết. Hiện đây chỉ là câu chuyện nhỏ, nhưng vấn đề này có thể trở nên thách thức hơn trong tương lai, khi các hệ thống AI có khả năng đáp ứng nhiệm vụ quá xa so với kết quả dự kiến. TNW cho rằng, khi xây dựng AI tiên tiến, các kỹ sư sẽ cần lập các nguyên tắc thiết kế nhằm khắc phục vấn đề và đảm bảo AI hoàn thành kết quả mà nhà thiết kế mong muốn.

Robot sẽ thay thế thú cưng?

Robopet là một loại robot AI (trí tuệ nhân tạo) có vẻ ngoài đáng yêu, được lập trình để mô phỏng động vật từ cách di chuyển, tiếng kêu cho đến những tập tính.

Robot sẽ thay thế thú cưng? - Hình 1

Chó robot AIBO của Sony

Đến thời điểm hiện tại, phần lớn robopet là những món đồ chơi công nghệ đắt tiền chứ không ai xem chúng như thú nuôi thật, có thể kể đến chó robot AIBO của Sony. Nhiều người yêu động vật cho rằng họ thà không nuôi chó mèo còn hơn phải nuôi robopet. Dù có linh hoạt đến mức nào, con người vẫn có thể nhận ra những cử chỉ của robopet là sản phẩm của thuật toán lập trình. Theo Robert Sparrow - một triết gia người Úc quan tâm đến robopet từ gần 20 năm trước, sau một thời gian dài nghiên cứu, người này kết luận viễn cảnh robopet đạt được độ chân thật giống hệt vật nuôi gần như sẽ không bao giờ xảy ra.

Tuy không thể thay thế hoàn toàn thú cưng trong nhà, robopet vẫn đủ khả năng thế chỗ những chú chó dịch vụ chuyên dẫn đường, cảnh báo bệnh hoặc hỗ trợ vận động cho trẻ em, người cao tuổi, người mắc bệnh nan y... Theo The Conversation , chỉ có 23 chú chó tốt nghiệp mỗi năm trong chương trình đào tạo chó dẫn đường ở Canada. Trung bình họ tiêu tốn hơn 74.300 USD để huấn luyện từng con. Những chú chó này không được xem là vật nuôi vì chúng được nhân giống và huấn luyện để giúp đỡ các nhóm đối tượng đặc biệt. Khi chủ nhân qua đời, chó dịch vụ sẽ được trả lại tổ chức thú y hoặc chuyển sang chủ mới.

Robot sẽ thay thế thú cưng? - Hình 2

Minh họa robot dẫn đường cho người mù

Tại sao ta không thay thế chó dịch vụ bằng robopet? Robopet sẽ là lựa chọn đỡ tốn kém hơn huấn luyện chó dịch vụ và có thể sản xuất hàng loạt. Nếu được trang bị thêm tính năng cảnh báo các tín hiệu như tiếng nước sôi, tiếng lò vi sóng, chuông cửa..., chúng có thể giúp người già neo đơn trông nhà. Chúng cũng thừa sức đảm nhận các chức năng của chó cảnh báo y tế như phát hiện co giật, tụt huyết áp, cảnh báo chất gây dị ứng trong thuốc hoặc đồ ăn thức uống.

Nếu có thể lập trình ô tô lái tự động, ta cũng có thể lập trình robopet hướng dẫn người khiếm thị đi quanh thành phố, tránh chướng ngại vật, hay lập trình chúng tương tác với các sinh vật sống xung quanh.

Không dừng lại ở đó, robopet còn có khả năng hỗ trợ người mắc bệnh thần kinh. Chẳng hạn, chú hải cẩu Paro của công ty AIST được giới thiệu là "robot trị liệu tương tác dùng để kích thích giác quan của bệnh nhân bị bệnh sa sút trí tuệ, Alzheimer và các rối loạn nhận thức khác". Cùng với Paro, robot mèo của hãng Hasbro cũng được xem là robot hỗ trợ xã hội. Cả hai đều có bộ lông mềm mại như thú bông, có thể phát ra tiếng, phản ứng lại khi được con người vuốt ve.

Robot sẽ thay thế thú cưng? - Hình 3

Robot hải cẩu giống như thú nhồi bông

Theo Gizmodo , đã có nghiên cứu cho thấy robopet hay robot hỗ trợ xã hội giúp giảm bớt phần nào lo lắng và cô đơn của bệnh nhân sa sút trí tuệ và người già neo đơn. Nhưng nghiên cứu cũng cảnh báo rằng chúng vẫn còn thiếu sót, không có tác dụng với nhiều người. Trong tương lai, tình hình sẽ khả quan hơn nếu các chuyên gia tìm ra cách khắc phục những thiếu sót hiện tại của robopet.

Bạn thấy bài viết này có hữu ích không?
Có;
Không

Tin liên quan

Tin đang nóng

Nguyễn Đình Như Vân đăng quang Miss Global, BTC xin lỗi vì ồn ào 'đường lưỡi bò'Nguyễn Đình Như Vân đăng quang Miss Global, BTC xin lỗi vì ồn ào 'đường lưỡi bò'
06:51:43 10/03/2025
Nghẹn ngào khoảnh khắc mẹ diễn viên Quý Bình bật khóc trong giây phút cuối cùng bên con traiNghẹn ngào khoảnh khắc mẹ diễn viên Quý Bình bật khóc trong giây phút cuối cùng bên con trai
06:16:22 10/03/2025
TP.HCM: Xôn xao clip nhóm người ngang nhiên chặn xe kiểm tra giấy tờTP.HCM: Xôn xao clip nhóm người ngang nhiên chặn xe kiểm tra giấy tờ
07:40:03 10/03/2025
Nữ ca sĩ 23 tuổi bị tấn công bằng dao đến mù mắt và hủy dung nhan, bản án cho kẻ ác gây phẫn nộNữ ca sĩ 23 tuổi bị tấn công bằng dao đến mù mắt và hủy dung nhan, bản án cho kẻ ác gây phẫn nộ
06:57:27 10/03/2025
Em chồng ngồi lướt điện thoại trong phòng để chị dâu bầu bì 8 tháng rửa 5 mâm bát, phản ứng của bố chồng khiến cả nhà náo loạnEm chồng ngồi lướt điện thoại trong phòng để chị dâu bầu bì 8 tháng rửa 5 mâm bát, phản ứng của bố chồng khiến cả nhà náo loạn
05:18:57 10/03/2025
Đi nhà nghỉ với đồng nghiệp, đã được chồng tha thứ nhưng tôi luôn cảm thấy tội lỗiĐi nhà nghỉ với đồng nghiệp, đã được chồng tha thứ nhưng tôi luôn cảm thấy tội lỗi
05:09:06 10/03/2025
Triệu Vy còn gì sau cú "gãy cánh" bí ẩn nhất lịch sử showbiz Hoa ngữ?Triệu Vy còn gì sau cú "gãy cánh" bí ẩn nhất lịch sử showbiz Hoa ngữ?
08:37:54 10/03/2025
Xuân Hinh: "Ai có ý định mời tôi thì nhanh lên vì mỗi năm tôi lại yếu dần"Xuân Hinh: "Ai có ý định mời tôi thì nhanh lên vì mỗi năm tôi lại yếu dần"
08:09:32 10/03/2025

Tin mới nhất

Nâng cao và biến đổi hình ảnh của bạn bằng trình chỉnh sửa video trực tuyến CapCut

Nâng cao và biến đổi hình ảnh của bạn bằng trình chỉnh sửa video trực tuyến CapCut

15:45:56 16/01/2024
Đã đến lúc bỏ lại các công cụ chỉnh sửa cũ và chấp nhận giải pháp thay đổi cuộc chơi. Gặp gỡ Trình chỉnh sửa video trực tuyến CapCut - giải pháp sẽ nâng cao, nâng cao và cách mạng hóa thế giới sáng tạo nội dung trực quan của bạn
Cách đăng Facebook để có nhiều lượt thích và chia sẻ

Cách đăng Facebook để có nhiều lượt thích và chia sẻ

22:01:27 21/12/2022
Chắc hẳn là ai trong chúng ta cũng luôn muốn các bài đăng trên Facebook có được nhiều lượt thích và chia sẻ. Tuy nhiên, làm thế nào để tối ưu bài đăng thì không phải ai cũng biết
Thêm nhiều bang của Mỹ cấm TikTok

Thêm nhiều bang của Mỹ cấm TikTok

21:03:46 21/12/2022
Louisiana và Tây Virginia là hai bang mới nhất cấm công chức sử dụng TikTok trên thiết bị công do lo ngại Trung Quốc có thể theo dõi người Mỹ và kiểm duyệt nội dung
Microsoft cấm khai thác tiền điện tử trên các dịch vụ đám mây để bảo vệ khách hàng

Microsoft cấm khai thác tiền điện tử trên các dịch vụ đám mây để bảo vệ khách hàng

20:03:41 21/12/2022
Microsoft đã cập nhật thỏa thuận cấm khai thác tiền điện tử trên các dịch vụ trực tuyến của mình. Việc khai thác tiền điện tử trên dịch vụ của Microsoft cần có sự cho phép bằng văn bản của công ty, nhưng cũng chỉ nhằm mục đích thử nghiệ...
Facebook trấn áp hàng loạt công ty phần mềm gián điệp

Facebook trấn áp hàng loạt công ty phần mềm gián điệp

20:01:24 21/12/2022
Meta (công ty mẹ của Facebook) cho biết họ đã ngăn chặn không dưới 200 hoạt động bí mật, trấn áp hàng loạt công ty phần mềm gián điệp kể từ năm 2017 tại khoảng 70 quốc gia
Meta đối mặt cáo buộc vi phạm các quy tắc chống độc quyền với mức phạt 11,8 tỷ đô

Meta đối mặt cáo buộc vi phạm các quy tắc chống độc quyền với mức phạt 11,8 tỷ đô

19:01:39 21/12/2022
Ủy ban Châu Âu - cơ quan điều hành của EU cho biết, đã phát hiện Meta vi phạm các quy tắc chống độc quyền của EU bằng cách bóp méo sự cạnh tranh trên thị trường quảng cáo trực tuyến. Meta có thể phải đối mặt với khoản tiền phạt lên tới ...
Không cần thăm dò, Musk nên sớm từ chức CEO Twitter

Không cần thăm dò, Musk nên sớm từ chức CEO Twitter

15:01:33 21/12/2022
Người dùng Twitter, các nhà đầu tư Tesla và chuyên gia phân tích trong ngành đều cho rằng Elon Musk nên sớm từ chức CEO Twitter
Đại lý Việt nhập iPhone 14 kiểu 'bia kèm lạc'

Đại lý Việt nhập iPhone 14 kiểu 'bia kèm lạc'

14:01:42 21/12/2022
Muốn nhập được các mẫu bán chạy như iPhone 14 Pro/Pro Max, các chuỗi đại lý bán lẻ ủy quyền của Apple bắt buộc phải nhập thêm hàng loạt phụ kiện đi kèm
Khai trương hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR tại Quần thể Di tích Cố đô Huế

Khai trương hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR tại Quần thể Di tích Cố đô Huế

09:38:18 21/12/2022
Sáng 20/12, tại Ngọ Môn, Đại Nội Huế, Trung tâm Bảo tồn Di tích Cố đô Huế đã tổ chức Lễ Khai trương Hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR
'Dở khóc dở cười' với tính năng trợ giúp người bị tai nạn ôtô của Apple

'Dở khóc dở cười' với tính năng trợ giúp người bị tai nạn ôtô của Apple

09:37:54 21/12/2022
Tính năng phát hiện tai nạn ôtô mới ra mắt trên Apple iPhone và Apple Watch sẽ tự động tìm kiếm sự trợ giúp từ bộ phận cấp cứu khi có nguy cơ xảy ra tai nạn
Xiaomi sa thải hàng nghìn nhân sự

Xiaomi sa thải hàng nghìn nhân sự

09:35:12 21/12/2022
Gã khổng lồ smartphone Trung Quốc Xiaomi đang lên kế hoạch sa thải 15% trong số hơn 30.000 nhân sự trong bối cảnh công ty gặp khó khăn
Apple sẽ bắt đầu sản xuất MacBook tại Việt Nam vào giữa năm 2023

Apple sẽ bắt đầu sản xuất MacBook tại Việt Nam vào giữa năm 2023

09:34:00 21/12/2022
Đối với Trung Quốc, việc mất vị trí độc quyền sản xuất MacBook tượng trưng cho vị thế công xưởng thế giới của Trung Quốc đang bị suy yếu

Có thể bạn quan tâm

Mỹ nhân mặc cổ phục làm cả thiên hạ đảo điên: Bả đi ngược thời gian có khi làm Hoàng hậu!

Mỹ nhân mặc cổ phục làm cả thiên hạ đảo điên: Bả đi ngược thời gian có khi làm Hoàng hậu!

Netizen

10:00:24 10/03/2025
Mới đây, Yên Đan - mỹ nhân Gen Z khiến cả cõi mạng rần rần phấn khích khi tung đoạn clip dài 30s, khoe trọn sắc vóc khi diện Việt phục. Cô nàng khoác lên mình bộ cổ phục với màu sắc trang nhã, họa tiết gấm sang trọng.
Sức khỏe răng miệng kém có thể dẫn đến nhiều bệnh lý toàn thân

Sức khỏe răng miệng kém có thể dẫn đến nhiều bệnh lý toàn thân

Sức khỏe

09:59:43 10/03/2025
Tham gia các sự kiện cộng đồng: Tham gia các sự kiện hoặc chiến dịch địa phương do các chuyên gia ngành Răng hàm mặt hoặc tổ chức y tế cộng đồng tổ chức như khám răng miễn phí, hội thảo giáo dục hoặc tặng sản phẩm chăm sóc răng miệng.
Hồ nước trong nhất thế giới, nơi du khách phải lau sạch giày dép khi ghé thăm

Hồ nước trong nhất thế giới, nơi du khách phải lau sạch giày dép khi ghé thăm

Du lịch

09:56:36 10/03/2025
Hồ nước màu xanh tím huyền ảo được mệnh danh là hồ nước trong nhất thế giới, nơi du khách đến thăm được yêu cầu phải lau sạch giày dép.
Dàn sao 'Interstellar' sau 10 năm: Ai cũng là siêu sao

Dàn sao 'Interstellar' sau 10 năm: Ai cũng là siêu sao

Hậu trường phim

09:54:05 10/03/2025
Hơn 10 năm sau thành công của Interstellar, sự nghiệp của dàn diễn viên ngày ấy tiếp tục phát triển rực rỡ, với nhiều vai diễn ấn tượng và giải thưởng danh giá.
Sophia Huỳnh Trần và Trương Vinh Hiển: Cặp đôi hot nhất làng pickleball, trên sân ăn ý ngoài đời yêu đương

Sophia Huỳnh Trần và Trương Vinh Hiển: Cặp đôi hot nhất làng pickleball, trên sân ăn ý ngoài đời yêu đương

Sao thể thao

09:51:54 10/03/2025
Cặp đôi Sophia Huỳnh Trần Ngọc Nhi hay được biết đến với cái tên quen thuộc Sophia Huỳnh Trần và Trương Vinh Hiển khiến dân tình đặc biệt quan tâm. Không chỉ kết hợp ăn ý trên sân, ngoài đời Sophia và Vinh Hiển còn là một cặp đôi cực ng...
Quảng Nam: Thêm một học sinh huyện miền núi tử vong chưa rõ nguyên nhân

Quảng Nam: Thêm một học sinh huyện miền núi tử vong chưa rõ nguyên nhân

Tin nổi bật

09:07:49 10/03/2025
Thời gian gần đây, huyện Nam Trà My liên tiếp ghi nhận nhiều trường hợp trẻ em có triệu chứng sốt phát ban nghi do sởi. Từ sau Tết, ngành Y tế Quảng Nam liên tục chỉ đạo, lập đoàn tăng cường vận động, triển khai các biện pháp ngăn chặn.
Một huyền thoại FPS 12 năm tuổi đời chuẩn bị "sống dậy" - từng là "đối chọi" với Đột Kích?

Một huyền thoại FPS 12 năm tuổi đời chuẩn bị "sống dậy" - từng là "đối chọi" với Đột Kích?

Mọt game

08:33:01 10/03/2025
Cách đây 12 năm, làng game FPS quốc tế đã được dịp điên đảo khi Tencent ra mắt Assault Fire - một game MMOFPS được cho là kè sát thương hiệu CrossFire vốn đang rất thịnh hành tại Trung Quốc.
Chuyện như phim: Mỹ nhân số 1 màn ảnh gây sốc khi kể cha lâm bệnh nặng, bảo mẫu tìm cách chiếm đoạt tài sản

Chuyện như phim: Mỹ nhân số 1 màn ảnh gây sốc khi kể cha lâm bệnh nặng, bảo mẫu tìm cách chiếm đoạt tài sản

Sao châu á

08:32:35 10/03/2025
Trong livestream, Diệp Tuyền đã kể chuyện gia đình drama như phim. Theo đó, cha cô đang bị bệnh nặng và người bảo mẫu được thuê để chăm sóc ông đang cố tìm cách chiếm tài sản.
Hôm nay xét xử 8 bị cáo vụ cháy chung cư mini làm 56 người chết

Hôm nay xét xử 8 bị cáo vụ cháy chung cư mini làm 56 người chết

Pháp luật

08:31:31 10/03/2025
Nghiêm Quang Minh, chủ chung cư mini, cùng 7 cựu cán bộ bị đưa ra xét xử về các tội Vi phạm quy định về phòng cháy, chữa cháy và Thiếu trách nhiệm gây hậu quả nghiêm trọng.
Sao Việt 10/3: Vợ chồng Salim Hải Long hạnh phúc trong đám cưới

Sao Việt 10/3: Vợ chồng Salim Hải Long hạnh phúc trong đám cưới

Sao việt

08:24:25 10/03/2025
Lễ cưới của Salim và Hải Long diễn ra bên bờ biển trong một khu resort tại TP Cam Ranh. Họ làm hôn lễ sau 15 năm quen biết, bốn năm về chung nhà.
Ông Elon Musk bị Nhà Trắng hạn chế quyền hành?

Ông Elon Musk bị Nhà Trắng hạn chế quyền hành?

Thế giới

08:17:18 10/03/2025
Tổng thống Mỹ Donald Trump đã làm rõ thẩm quyền của vị cố vấn - tỉ phú Elon Musk - giữa làn sóng phản đối việc sa thải nhân viên liên bang ồ ạt.