AI cũng có thể bị nghiện thành tích

Theo dõi VGT trên

Ngày càng nhiều mô hình AI được phát hiện có khả năng tìm và lợi dụng lỗ hổng, bỏ qua các bước cần thiết trong quy trình để đạt được phần thưởng.

Năm 2016, hai nhà nghiên cứu về trí tuệ nhân tạo đào tạo một AI chơi trò chơi Coastrunner . Mục tiêu là hoàn thành một đường đua. Nhưng AI cũng sẽ được thưởng khi thu thập các món đồ dọc đường đua. Khi chương trình được chạy, nhà nghiên cứu chứng kiến một điều kỳ lạ. AI tìm cách trượt trong vòng tròn không giới hạn để sưu tập không giới hạn các món đồ. Nó làm điều này liên tục, không ngừng thay vì hoàn thành đường đua.

Các nhà khoa học nhận thấy hành vi này giống với chứng nghiện ở con người. Anders Sandberg và Thomas Moynihan, hai nhà nghiên cứu ở Viện Tương lai nhân loại tại Đại học Oxford, đang phối hợp với các tổ chức như Viện Mục tiêu AI để tìm cách tránh những vấn đề như vậy.

AI cũng có thể bị nghiện thành tích - Hình 1

Robot đổ bỏng ngô vào bát tại Viện AI thuộc Đại học Bremen (Đức).

Khi nghĩ về mặt trái của AI, nhiều người sẽ hình dung viễn cảnh các cỗ máy xấu xa cố gắng hủy diệt nhân loại. Tuy nhiên, đó là câu chuyện của tương lai. Còn AI của hiện tại đang có xu hướng hành xử giống con người.

Video đang HOT

Trong thế giới thực, nếu được thưởng vì làm tốt bài tập về nhà, một học sinh có thể sẽ tìm cách chép bài của bạn bè chứ không cần vất vả tìm hiểu tài liệu. Tương tự, hệ thống AI có thể bỏ qua một số bước khi thực thi nhiệm vụ để đáp ứng yêu cầu đặt ra của lập trình viên.

Ví dụ, bạn huấn luyện robot lau sạch bếp. Do muốn nó có khả năng tự thích ứng theo tình huống mà không cần sự giám sát, bạn lập trình mục tiêu dọn dẹp, thay vì ra lệnh chính xác và cứng nhắc rằng robot cần làm những bước gì. Thành tích làm việc có thể được đo bằng lượng chất tẩy rửa được sử dụng. Nhưng sau đó, bạn phát hiện robot đổ chất tẩy xuống bồn rửa một cách lãng phí.

Hay trong một nhiệm vụ xếp Lego với kết quả mong muốn là robot AI biết đặt khối màu đỏ nằm trên khối màu xanh. AI lại tính toán nhiệm vụ dựa trên chiều cao, nên nó đơn giản dựng khối màu đỏ đứng lên để nhận phần thưởng. Hành động này đạt được mục tiêu về chiều cao nhưng không phải thứ các kỹ sư muốn (xếp chồng lên trên khối màu xanh).

Theo TNW , điều này đang trở thành một vấn đề trong machine learning khi kỹ thuật học tăng cường ngày càng trở lên quan trọng. Học tăng cường kích thích các AI tự học và đào tạo chính nó trong việc tìm ra cách mới để hoàn thành nhiệm vụ. Nhưng giống như robot lau dọn “xảo quyệt” ở trên, các AI có thể phát hiện những cách đáng ngạc nhiên để gian lận trò chơi nhằm giành phần thưởng. Thay vì hoàn thành nhiệm vụ, việc theo đuổi phần thưởng trở thành mục đích của nó.

Nhiều cách tiếp cận đã được đề xuất, chuyện AI gian lận phần thưởng vẫn chưa được giải quyết. Hiện đây chỉ là câu chuyện nhỏ, nhưng vấn đề này có thể trở nên thách thức hơn trong tương lai, khi các hệ thống AI có khả năng đáp ứng nhiệm vụ quá xa so với kết quả dự kiến. TNW cho rằng, khi xây dựng AI tiên tiến, các kỹ sư sẽ cần lập các nguyên tắc thiết kế nhằm khắc phục vấn đề và đảm bảo AI hoàn thành kết quả mà nhà thiết kế mong muốn.

Robot sẽ thay thế thú cưng?

Robopet là một loại robot AI (trí tuệ nhân tạo) có vẻ ngoài đáng yêu, được lập trình để mô phỏng động vật từ cách di chuyển, tiếng kêu cho đến những tập tính.

Robot sẽ thay thế thú cưng? - Hình 1

Chó robot AIBO của Sony

Đến thời điểm hiện tại, phần lớn robopet là những món đồ chơi công nghệ đắt tiền chứ không ai xem chúng như thú nuôi thật, có thể kể đến chó robot AIBO của Sony. Nhiều người yêu động vật cho rằng họ thà không nuôi chó mèo còn hơn phải nuôi robopet. Dù có linh hoạt đến mức nào, con người vẫn có thể nhận ra những cử chỉ của robopet là sản phẩm của thuật toán lập trình. Theo Robert Sparrow - một triết gia người Úc quan tâm đến robopet từ gần 20 năm trước, sau một thời gian dài nghiên cứu, người này kết luận viễn cảnh robopet đạt được độ chân thật giống hệt vật nuôi gần như sẽ không bao giờ xảy ra.

Tuy không thể thay thế hoàn toàn thú cưng trong nhà, robopet vẫn đủ khả năng thế chỗ những chú chó dịch vụ chuyên dẫn đường, cảnh báo bệnh hoặc hỗ trợ vận động cho trẻ em, người cao tuổi, người mắc bệnh nan y... Theo The Conversation , chỉ có 23 chú chó tốt nghiệp mỗi năm trong chương trình đào tạo chó dẫn đường ở Canada. Trung bình họ tiêu tốn hơn 74.300 USD để huấn luyện từng con. Những chú chó này không được xem là vật nuôi vì chúng được nhân giống và huấn luyện để giúp đỡ các nhóm đối tượng đặc biệt. Khi chủ nhân qua đời, chó dịch vụ sẽ được trả lại tổ chức thú y hoặc chuyển sang chủ mới.

Robot sẽ thay thế thú cưng? - Hình 2

Minh họa robot dẫn đường cho người mù

Tại sao ta không thay thế chó dịch vụ bằng robopet? Robopet sẽ là lựa chọn đỡ tốn kém hơn huấn luyện chó dịch vụ và có thể sản xuất hàng loạt. Nếu được trang bị thêm tính năng cảnh báo các tín hiệu như tiếng nước sôi, tiếng lò vi sóng, chuông cửa..., chúng có thể giúp người già neo đơn trông nhà. Chúng cũng thừa sức đảm nhận các chức năng của chó cảnh báo y tế như phát hiện co giật, tụt huyết áp, cảnh báo chất gây dị ứng trong thuốc hoặc đồ ăn thức uống.

Nếu có thể lập trình ô tô lái tự động, ta cũng có thể lập trình robopet hướng dẫn người khiếm thị đi quanh thành phố, tránh chướng ngại vật, hay lập trình chúng tương tác với các sinh vật sống xung quanh.

Không dừng lại ở đó, robopet còn có khả năng hỗ trợ người mắc bệnh thần kinh. Chẳng hạn, chú hải cẩu Paro của công ty AIST được giới thiệu là "robot trị liệu tương tác dùng để kích thích giác quan của bệnh nhân bị bệnh sa sút trí tuệ, Alzheimer và các rối loạn nhận thức khác". Cùng với Paro, robot mèo của hãng Hasbro cũng được xem là robot hỗ trợ xã hội. Cả hai đều có bộ lông mềm mại như thú bông, có thể phát ra tiếng, phản ứng lại khi được con người vuốt ve.

Robot sẽ thay thế thú cưng? - Hình 3

Robot hải cẩu giống như thú nhồi bông

Theo Gizmodo , đã có nghiên cứu cho thấy robopet hay robot hỗ trợ xã hội giúp giảm bớt phần nào lo lắng và cô đơn của bệnh nhân sa sút trí tuệ và người già neo đơn. Nhưng nghiên cứu cũng cảnh báo rằng chúng vẫn còn thiếu sót, không có tác dụng với nhiều người. Trong tương lai, tình hình sẽ khả quan hơn nếu các chuyên gia tìm ra cách khắc phục những thiếu sót hiện tại của robopet.

Bạn thấy bài viết này có hữu ích không?
Có;
Không

Tin liên quan

Tin đang nóng

Tro cốt của diễn viên Quý Bình chưa được rải xuống biển theo di nguyện, lý do là gì?Tro cốt của diễn viên Quý Bình chưa được rải xuống biển theo di nguyện, lý do là gì?
06:45:18 11/03/2025
Nữ tài xế đạp nhầm chân ga tông chết chủ tiệm rửa ô tôNữ tài xế đạp nhầm chân ga tông chết chủ tiệm rửa ô tô
06:27:14 11/03/2025
Lương hưu của bố 50 triệu/tháng, trước lúc mất ông cho chúng tôi 100 triệu, nhìn số tiền ông cho em dâu mà tôi không thể bình tĩnh đượcLương hưu của bố 50 triệu/tháng, trước lúc mất ông cho chúng tôi 100 triệu, nhìn số tiền ông cho em dâu mà tôi không thể bình tĩnh được
05:17:59 11/03/2025
Thùy Tiên nỗ lực cứu vớt nhan sắc sau khi bị "ống kính hung thần" dìm thê thảm, lộ cả rổ khuyết điểm giữa trời TâyThùy Tiên nỗ lực cứu vớt nhan sắc sau khi bị "ống kính hung thần" dìm thê thảm, lộ cả rổ khuyết điểm giữa trời Tây
06:21:20 11/03/2025
Sao Việt 11/3: Bạn gái kém 36 tuổi mặc hở bạo dự sự kiện cùng Việt AnhSao Việt 11/3: Bạn gái kém 36 tuổi mặc hở bạo dự sự kiện cùng Việt Anh
08:06:12 11/03/2025
Nữ chính 'Cha tôi, người ở lại' gần 30 tuổi gây sốt với vai nữ sinh lớp 10 trong veoNữ chính 'Cha tôi, người ở lại' gần 30 tuổi gây sốt với vai nữ sinh lớp 10 trong veo
07:03:59 11/03/2025
Ai đã đẩy Kim Sae Ron vào đường cùng, khiến cô phải đăng ảnh thân mật với Kim Soo Hyun?Ai đã đẩy Kim Sae Ron vào đường cùng, khiến cô phải đăng ảnh thân mật với Kim Soo Hyun?
06:25:11 11/03/2025
Chấn động giữa đêm: Kim Soo Hyun sắp bị đệ đơn tố cáo vì quan hệ tình dục với trẻ vị thành niên?Chấn động giữa đêm: Kim Soo Hyun sắp bị đệ đơn tố cáo vì quan hệ tình dục với trẻ vị thành niên?
06:00:32 11/03/2025

Tin mới nhất

Nâng cao và biến đổi hình ảnh của bạn bằng trình chỉnh sửa video trực tuyến CapCut

Nâng cao và biến đổi hình ảnh của bạn bằng trình chỉnh sửa video trực tuyến CapCut

15:45:56 16/01/2024
Đã đến lúc bỏ lại các công cụ chỉnh sửa cũ và chấp nhận giải pháp thay đổi cuộc chơi. Gặp gỡ Trình chỉnh sửa video trực tuyến CapCut - giải pháp sẽ nâng cao, nâng cao và cách mạng hóa thế giới sáng tạo nội dung trực quan của bạn
Cách đăng Facebook để có nhiều lượt thích và chia sẻ

Cách đăng Facebook để có nhiều lượt thích và chia sẻ

22:01:27 21/12/2022
Chắc hẳn là ai trong chúng ta cũng luôn muốn các bài đăng trên Facebook có được nhiều lượt thích và chia sẻ. Tuy nhiên, làm thế nào để tối ưu bài đăng thì không phải ai cũng biết
Thêm nhiều bang của Mỹ cấm TikTok

Thêm nhiều bang của Mỹ cấm TikTok

21:03:46 21/12/2022
Louisiana và Tây Virginia là hai bang mới nhất cấm công chức sử dụng TikTok trên thiết bị công do lo ngại Trung Quốc có thể theo dõi người Mỹ và kiểm duyệt nội dung
Microsoft cấm khai thác tiền điện tử trên các dịch vụ đám mây để bảo vệ khách hàng

Microsoft cấm khai thác tiền điện tử trên các dịch vụ đám mây để bảo vệ khách hàng

20:03:41 21/12/2022
Microsoft đã cập nhật thỏa thuận cấm khai thác tiền điện tử trên các dịch vụ trực tuyến của mình. Việc khai thác tiền điện tử trên dịch vụ của Microsoft cần có sự cho phép bằng văn bản của công ty, nhưng cũng chỉ nhằm mục đích thử nghiệ...
Facebook trấn áp hàng loạt công ty phần mềm gián điệp

Facebook trấn áp hàng loạt công ty phần mềm gián điệp

20:01:24 21/12/2022
Meta (công ty mẹ của Facebook) cho biết họ đã ngăn chặn không dưới 200 hoạt động bí mật, trấn áp hàng loạt công ty phần mềm gián điệp kể từ năm 2017 tại khoảng 70 quốc gia
Meta đối mặt cáo buộc vi phạm các quy tắc chống độc quyền với mức phạt 11,8 tỷ đô

Meta đối mặt cáo buộc vi phạm các quy tắc chống độc quyền với mức phạt 11,8 tỷ đô

19:01:39 21/12/2022
Ủy ban Châu Âu - cơ quan điều hành của EU cho biết, đã phát hiện Meta vi phạm các quy tắc chống độc quyền của EU bằng cách bóp méo sự cạnh tranh trên thị trường quảng cáo trực tuyến. Meta có thể phải đối mặt với khoản tiền phạt lên tới ...
Không cần thăm dò, Musk nên sớm từ chức CEO Twitter

Không cần thăm dò, Musk nên sớm từ chức CEO Twitter

15:01:33 21/12/2022
Người dùng Twitter, các nhà đầu tư Tesla và chuyên gia phân tích trong ngành đều cho rằng Elon Musk nên sớm từ chức CEO Twitter
Đại lý Việt nhập iPhone 14 kiểu 'bia kèm lạc'

Đại lý Việt nhập iPhone 14 kiểu 'bia kèm lạc'

14:01:42 21/12/2022
Muốn nhập được các mẫu bán chạy như iPhone 14 Pro/Pro Max, các chuỗi đại lý bán lẻ ủy quyền của Apple bắt buộc phải nhập thêm hàng loạt phụ kiện đi kèm
Khai trương hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR tại Quần thể Di tích Cố đô Huế

Khai trương hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR tại Quần thể Di tích Cố đô Huế

09:38:18 21/12/2022
Sáng 20/12, tại Ngọ Môn, Đại Nội Huế, Trung tâm Bảo tồn Di tích Cố đô Huế đã tổ chức Lễ Khai trương Hệ thống vé điện tử và dịch vụ trải nghiệm thực tế ảo XR
'Dở khóc dở cười' với tính năng trợ giúp người bị tai nạn ôtô của Apple

'Dở khóc dở cười' với tính năng trợ giúp người bị tai nạn ôtô của Apple

09:37:54 21/12/2022
Tính năng phát hiện tai nạn ôtô mới ra mắt trên Apple iPhone và Apple Watch sẽ tự động tìm kiếm sự trợ giúp từ bộ phận cấp cứu khi có nguy cơ xảy ra tai nạn
Xiaomi sa thải hàng nghìn nhân sự

Xiaomi sa thải hàng nghìn nhân sự

09:35:12 21/12/2022
Gã khổng lồ smartphone Trung Quốc Xiaomi đang lên kế hoạch sa thải 15% trong số hơn 30.000 nhân sự trong bối cảnh công ty gặp khó khăn
Apple sẽ bắt đầu sản xuất MacBook tại Việt Nam vào giữa năm 2023

Apple sẽ bắt đầu sản xuất MacBook tại Việt Nam vào giữa năm 2023

09:34:00 21/12/2022
Đối với Trung Quốc, việc mất vị trí độc quyền sản xuất MacBook tượng trưng cho vị thế công xưởng thế giới của Trung Quốc đang bị suy yếu

Có thể bạn quan tâm

Thêm những thành phần này vào hạt húng quế để giảm cân hiệu quả

Thêm những thành phần này vào hạt húng quế để giảm cân hiệu quả

Làm đẹp

11:53:25 11/03/2025
Hạt húng quế chứa nhiều chất xơ, chất chống oxy hóa và các chất dinh dưỡng thiết yếu hỗ trợ kiểm soát cân nặng khi tiêu thụ đúng cách. Sau đây là những thành phần mà bạn cần thêm vào húng quế để tăng hiệu quả giảm cân.
Sau khi tiết Kinh trập kết thúc, 3 con giáp này đón niềm vui trong tiết Xuân phân: Càng chăm chỉ tiền về càng nhiều

Sau khi tiết Kinh trập kết thúc, 3 con giáp này đón niềm vui trong tiết Xuân phân: Càng chăm chỉ tiền về càng nhiều

Trắc nghiệm

11:51:34 11/03/2025
Tiết Kinh trập khép lại vào ngày 20/3, đánh dấu sự chuyển mình của đất trời sang một giai đoạn mới tràn đầy sức sống.
Nguyên nhân khiến da thường xuyên bị khô, ngứa

Nguyên nhân khiến da thường xuyên bị khô, ngứa

Sức khỏe

11:49:06 11/03/2025
Tình trạng da khô ngứa, kích ứng có thể xảy ra nhiều hơn ở những người bị viêm da dị ứng, bệnh vẩy nến, thường xuyên tiếp xúc với hóa chất độc hại, tắm nước quá nóng.
Báo Trung: Gia đình Kim Sae Ron nắm giữ 200 ảnh tình cảm của con gái và Kim Soo Hyun, có cả bằng chứng yêu năm 16 tuổi?

Báo Trung: Gia đình Kim Sae Ron nắm giữ 200 ảnh tình cảm của con gái và Kim Soo Hyun, có cả bằng chứng yêu năm 16 tuổi?

Sao châu á

11:34:47 11/03/2025
Blogger săn tin giải trí hàng đầu xứ Trung khẳng định gia đình Kim Sae Ron đang nắm trong tay 200 bức ảnh tình cảm của con gái và Kim Soo Hyun
Ấn tượng với hình ảnh nữ chiến sĩ công an trình diễn áo dài

Ấn tượng với hình ảnh nữ chiến sĩ công an trình diễn áo dài

Thời trang

11:09:29 11/03/2025
Thông qua các tác phẩm này, nhà thiết kế muốn tôn vinh hình ảnh chiếc áo dài trong đời sống xã hội, đề cao vẻ đẹp, vai trò của phụ nữ nói chung và người phụ nữ công an thành phố Hải Phòng nói riêng.
Hành trình yêu thương, biết ôn cùng tiktoker Nguyễn Phương Anh

Hành trình yêu thương, biết ôn cùng tiktoker Nguyễn Phương Anh

Netizen

10:37:00 11/03/2025
Trong một thế giới ngày càng bận rộn và đầy áp lực, hạnh phúc dường như trở thành một điều xa xỉ đối với nhiều người
Giáo hoàng Francis đã vượt qua giai đoạn nguy kịch

Giáo hoàng Francis đã vượt qua giai đoạn nguy kịch

Thế giới

10:16:57 11/03/2025
"Tuy nhiên, do tình trạng lâm sàng phức tạp của Giáo Hoàng và nhiễm trùng nghiêm trọng tại thời điểm nhập viện, việc tiếp tục điều trị bằng dược lý trong môi trường bệnh viện vẫn sẽ cần thiết trong một khoảng thời gian" - Vatican nói th...
Sergio Ramos lại tỏa sáng ở giải VĐQG Mexico

Sergio Ramos lại tỏa sáng ở giải VĐQG Mexico

Sao thể thao

10:14:48 11/03/2025
Trung vệ kỳ cựu Sergio Ramos ghi bàn thứ hai kể từ khi chuyển đến giải VĐQG Mexico thi đấu cho CLB Monterrey, với cú đánh đầu từ phạt góc sở trường làm tung lưới Cruz Azul.
Cấp cứu một ngư dân bị cá biển có độc đâm vào chân tại Trường Sa

Cấp cứu một ngư dân bị cá biển có độc đâm vào chân tại Trường Sa

Tin nổi bật

09:53:48 11/03/2025
Cùng ngày, cán bộ, chiến sỹ đảo Trường Sa đã kịp thời hướng dẫn, hỗ trợ hơn 100 tàu cá với trên 800 ngư dân của các tỉnh miền Trung vào âu tàu trú tránh biển động, đảm bảo an toàn.
Hòn đảo tỷ phú với những bãi biển đẹp ngỡ ngàng

Hòn đảo tỷ phú với những bãi biển đẹp ngỡ ngàng

Du lịch

09:18:23 11/03/2025
St Barthelemy, quốc đảo nhỏ bé ở vùng Caribe, nổi tiếng với những bãi biển tuyệt đẹp và thu hút một số nhân vật giàu có nhất thế giới.
2 thứ trên giường là "ổ vi khuẩn" dai dẳng, nhưng 90% chúng ta quên vệ sinh thường xuyên

2 thứ trên giường là "ổ vi khuẩn" dai dẳng, nhưng 90% chúng ta quên vệ sinh thường xuyên

Sáng tạo

09:00:38 11/03/2025
Giường ngủ là nơi ta thả lỏng cơ thể, nạp lại năng lượng sau ngày dài mệt mỏi - lại có thể là tụ điểm của vi khuẩn nếu không được chăm sóc đúng cách.