AI cũng có thể bị nghiện thành tích 

Ngày càng nhiều mô hình AI được phát hiện có khả năng tìm và lợi dụng lỗ hổng, bỏ qua các bước cần thiết trong quy trình để đạt được phần thưởng.

Năm 2016, hai nhà nghiên cứu về trí tuệ nhân tạo đào tạo một AI chơi trò chơi Coastrunner . Mục tiêu là hoàn thành một đường đua. Nhưng AI cũng sẽ được thưởng khi thu thập các món đồ dọc đường đua. Khi chương trình được chạy, nhà nghiên cứu chứng kiến một điều kỳ lạ. AI tìm cách trượt trong vòng tròn không giới hạn để sưu tập không giới hạn các món đồ. Nó làm điều này liên tục, không ngừng thay vì hoàn thành đường đua.

Các nhà khoa học nhận thấy hành vi này giống với chứng nghiện ở con người. Anders Sandberg và Thomas Moynihan, hai nhà nghiên cứu ở Viện Tương lai nhân loại tại Đại học Oxford, đang phối hợp với các tổ chức như Viện Mục tiêu AI để tìm cách tránh những vấn đề như vậy.

AI cũng có thể bị nghiện thành tích - Hình 1

Robot đổ bỏng ngô vào bát tại Viện AI thuộc Đại học Bremen (Đức).

Khi nghĩ về mặt trái của AI, nhiều người sẽ hình dung viễn cảnh các cỗ máy xấu xa cố gắng hủy diệt nhân loại. Tuy nhiên, đó là câu chuyện của tương lai. Còn AI của hiện tại đang có xu hướng hành xử giống con người.

Video đang HOT

Trong thế giới thực, nếu được thưởng vì làm tốt bài tập về nhà, một học sinh có thể sẽ tìm cách chép bài của bạn bè chứ không cần vất vả tìm hiểu tài liệu. Tương tự, hệ thống AI có thể bỏ qua một số bước khi thực thi nhiệm vụ để đáp ứng yêu cầu đặt ra của lập trình viên.

Ví dụ, bạn huấn luyện robot lau sạch bếp. Do muốn nó có khả năng tự thích ứng theo tình huống mà không cần sự giám sát, bạn lập trình mục tiêu dọn dẹp, thay vì ra lệnh chính xác và cứng nhắc rằng robot cần làm những bước gì. Thành tích làm việc có thể được đo bằng lượng chất tẩy rửa được sử dụng. Nhưng sau đó, bạn phát hiện robot đổ chất tẩy xuống bồn rửa một cách lãng phí.

Hay trong một nhiệm vụ xếp Lego với kết quả mong muốn là robot AI biết đặt khối màu đỏ nằm trên khối màu xanh. AI lại tính toán nhiệm vụ dựa trên chiều cao, nên nó đơn giản dựng khối màu đỏ đứng lên để nhận phần thưởng. Hành động này đạt được mục tiêu về chiều cao nhưng không phải thứ các kỹ sư muốn (xếp chồng lên trên khối màu xanh).

Theo TNW , điều này đang trở thành một vấn đề trong machine learning khi kỹ thuật học tăng cường ngày càng trở lên quan trọng. Học tăng cường kích thích các AI tự học và đào tạo chính nó trong việc tìm ra cách mới để hoàn thành nhiệm vụ. Nhưng giống như robot lau dọn “xảo quyệt” ở trên, các AI có thể phát hiện những cách đáng ngạc nhiên để gian lận trò chơi nhằm giành phần thưởng. Thay vì hoàn thành nhiệm vụ, việc theo đuổi phần thưởng trở thành mục đích của nó.

Nhiều cách tiếp cận đã được đề xuất, chuyện AI gian lận phần thưởng vẫn chưa được giải quyết. Hiện đây chỉ là câu chuyện nhỏ, nhưng vấn đề này có thể trở nên thách thức hơn trong tương lai, khi các hệ thống AI có khả năng đáp ứng nhiệm vụ quá xa so với kết quả dự kiến. TNW cho rằng, khi xây dựng AI tiên tiến, các kỹ sư sẽ cần lập các nguyên tắc thiết kế nhằm khắc phục vấn đề và đảm bảo AI hoàn thành kết quả mà nhà thiết kế mong muốn.

Robot sẽ thay thế thú cưng? 

Robopet là một loại robot AI (trí tuệ nhân tạo) có vẻ ngoài đáng yêu, được lập trình để mô phỏng động vật từ cách di chuyển, tiếng kêu cho đến những tập tính.

Robot sẽ thay thế thú cưng? - Hình 1

Chó robot AIBO của Sony

Đến thời điểm hiện tại, phần lớn robopet là những món đồ chơi công nghệ đắt tiền chứ không ai xem chúng như thú nuôi thật, có thể kể đến chó robot AIBO của Sony. Nhiều người yêu động vật cho rằng họ thà không nuôi chó mèo còn hơn phải nuôi robopet. Dù có linh hoạt đến mức nào, con người vẫn có thể nhận ra những cử chỉ của robopet là sản phẩm của thuật toán lập trình. Theo Robert Sparrow - một triết gia người Úc quan tâm đến robopet từ gần 20 năm trước, sau một thời gian dài nghiên cứu, người này kết luận viễn cảnh robopet đạt được độ chân thật giống hệt vật nuôi gần như sẽ không bao giờ xảy ra.

Tuy không thể thay thế hoàn toàn thú cưng trong nhà, robopet vẫn đủ khả năng thế chỗ những chú chó dịch vụ chuyên dẫn đường, cảnh báo bệnh hoặc hỗ trợ vận động cho trẻ em, người cao tuổi, người mắc bệnh nan y... Theo The Conversation , chỉ có 23 chú chó tốt nghiệp mỗi năm trong chương trình đào tạo chó dẫn đường ở Canada. Trung bình họ tiêu tốn hơn 74.300 USD để huấn luyện từng con. Những chú chó này không được xem là vật nuôi vì chúng được nhân giống và huấn luyện để giúp đỡ các nhóm đối tượng đặc biệt. Khi chủ nhân qua đời, chó dịch vụ sẽ được trả lại tổ chức thú y hoặc chuyển sang chủ mới.

Robot sẽ thay thế thú cưng? - Hình 2

Minh họa robot dẫn đường cho người mù

Tại sao ta không thay thế chó dịch vụ bằng robopet? Robopet sẽ là lựa chọn đỡ tốn kém hơn huấn luyện chó dịch vụ và có thể sản xuất hàng loạt. Nếu được trang bị thêm tính năng cảnh báo các tín hiệu như tiếng nước sôi, tiếng lò vi sóng, chuông cửa..., chúng có thể giúp người già neo đơn trông nhà. Chúng cũng thừa sức đảm nhận các chức năng của chó cảnh báo y tế như phát hiện co giật, tụt huyết áp, cảnh báo chất gây dị ứng trong thuốc hoặc đồ ăn thức uống.

Nếu có thể lập trình ô tô lái tự động, ta cũng có thể lập trình robopet hướng dẫn người khiếm thị đi quanh thành phố, tránh chướng ngại vật, hay lập trình chúng tương tác với các sinh vật sống xung quanh.

Không dừng lại ở đó, robopet còn có khả năng hỗ trợ người mắc bệnh thần kinh. Chẳng hạn, chú hải cẩu Paro của công ty AIST được giới thiệu là "robot trị liệu tương tác dùng để kích thích giác quan của bệnh nhân bị bệnh sa sút trí tuệ, Alzheimer và các rối loạn nhận thức khác". Cùng với Paro, robot mèo của hãng Hasbro cũng được xem là robot hỗ trợ xã hội. Cả hai đều có bộ lông mềm mại như thú bông, có thể phát ra tiếng, phản ứng lại khi được con người vuốt ve.

Robot sẽ thay thế thú cưng? - Hình 3

Robot hải cẩu giống như thú nhồi bông

Theo Gizmodo , đã có nghiên cứu cho thấy robopet hay robot hỗ trợ xã hội giúp giảm bớt phần nào lo lắng và cô đơn của bệnh nhân sa sút trí tuệ và người già neo đơn. Nhưng nghiên cứu cũng cảnh báo rằng chúng vẫn còn thiếu sót, không có tác dụng với nhiều người. Trong tương lai, tình hình sẽ khả quan hơn nếu các chuyên gia tìm ra cách khắc phục những thiếu sót hiện tại của robopet.

Bạn thấy bài báo này có hữu ích không?
Không

Tin liên quan

Tiêu điểm

Hacker ngày càng trẻ hóa, mới 9 tuổi đã biết tấn công DDOS vào hệ thống mạng của trường học 
16:10:00 20/01/2022
Apple thừa nhận lỗ hổng rò rỉ dữ liệu trong trình duyệt Safari, sẽ sớm khắc phục 
11:58:23 20/01/2022
Bộ ảnh NFT của Irene Zhao trị giá 6,8 triệu USD 
08:14:56 21/01/2022
Nga đề xuất cấm hoàn toàn đào và giao dịch tiền ảo
11:43:26 21/01/2022
Cha đẻ PlayStation 'dè bỉu' metaverse, cho rằng thế giới ảo này hoàn toàn 'vô nghĩa' 
16:01:53 21/01/2022
Bí mật về công ty Trung Quốc chưa tạo ra nổi 1 chiếc xe điện đã trị giá gần 4 tỷ USD, 'đạo nhái' trắng trợn khiến Tesla cũng lo sợ 
12:03:49 20/01/2022
Samsung chính thức công bố ứng dụng Expert RAW mới cho Galaxy S21 Ultra 
13:12:55 20/01/2022
Bitcoin thủng 40.000 USD, vốn hóa toàn thị trường tiền số mất mốc 2.000 tỷ USD 
11:43:41 21/01/2022
Nền kinh tế El Salvador điêu đứng vì biến động giá Bitcoin 
16:06:47 21/01/2022
Hé lộ điều quyết định khiến tỷ phú đầu tư Mark Cuban “đắm chìm” vào tiền điện tử 
11:21:48 21/01/2022

Thông tin đang nóng

Căng: Vợ “anh lớn quận 8” gay gắt chửi Trang Nemo, cầu cứu sự giúp đỡ vì bị đe dọa theo “luật rừng”
16:11:45 21/01/2022
Nữ sinh đầu độc cha ruột ở Vũng Tàu: Ức chế vì 2 mẹ con thường xuyên bị mắng chửi, người mẹ đã bỏ đi vì quá sức chịu đựng
18:11:03 21/01/2022
1 nữ siêu mẫu Vbiz tung ảnh "bắt lú" netizen: Body lồ lộ trước camera, nhìn mặc mà như không mặc
18:41:54 21/01/2022
Bình An và Phương Nga chính thức về chung 1 nhà sau 5 năm hẹn hò?
20:28:15 21/01/2022
Shop online Mèo Thoại bị "chơi xấu": Tài khoản lạ đặt loạt đơn trị giá chục triệu rồi biến mất, số tiền bùng hàng đã lên tới 100 triệu
16:38:52 21/01/2022
Từng khẩu chiến nảy lửa hậu ly hôn, đây là thái độ hiện tại của Lương Minh Trang với Vinh Râu?
20:32:38 21/01/2022
50 phóng viên tung danh sách Đỏ Đen chấn động Cbiz: Nhiệt Ba - Châu Tấn lọt top, Na Trát, Thái Từ Khôn và dàn sao bại lộ 1001 phốt
17:06:22 21/01/2022
Mạnh Quỳnh tuyên bố không muốn nhắc tới Phi Nhung nữa, nói một câu khiến ai cũng xót xa
16:24:37 21/01/2022
Quá khứ của kẻ đóng đinh vào đầu bé 3 tuổi: Sẵn sàng đánh bạn nếu bị trêu đùa
18:28:58 21/01/2022
Gia đình Hải Băng diện đồ "tone sur tone" ngập tràn hạnh phúc
16:17:36 21/01/2022

Tin mới nhất

Samsung vượt Intel trở thành nhà bán chip hàng đầu thế giới 

19:59:07 21/01/2022
Nhờ sự thúc đẩy mạnh mẽ từ mảng kinh doanh bộ nhớ, Samsung Electronics đã vượt qua Intel để trở thành nhà sản xuất chip hàng đầu thế giới tính theo doanh thu trong năm 2021

Ericsson tìm cách chặn nhập khẩu thiết bị của Apple 

19:57:04 21/01/2022
Ericsson và Apple đang leo thang cuộc chiến liên quan đến bằng sáng chế viễn thông, bao gồm cả 5G

Người dùng đồng nhân dân tệ điện tử tăng gấp đôi chỉ trong 2 tháng 

19:55:30 21/01/2022
Thống kê đến ngày 31.12.2021, đồng nhân dân tệ điện tử của Trung Quốc (e-CNY) đã có đến 261 triệu người dùng với tổng giá trị giao dịch hơn 87,5 tỉ NDT, khoảng 312,899 nghìn tỉ đồng

Chi tiêu toàn cầu cho CNTT trong năm 2022 sẽ tăng 5,1%

19:19:22 21/01/2022
Các chuyên gia của công ty phân tích Gartner đã đưa ra dự báo chi tiêu toàn cầu cho CNTT vào năm 2022, theo đó các khoản chi này sẽ lên tới 4.500 tỉ USD, tăng 5,1% so với năm 2021

Canon đóng cửa một nhà máy ở Trung Quốc 

19:19:17 21/01/2022
Canon vừa lên tiếng xác nhận thông tin liên quan đến việc công ty đóng cửa nhà máy sản xuất máy ảnh compact của mình ở Chu Hải, miền nam Trung Quốc

"Lột xác" cho căn nhà đón Tết lớn chỉ bằng món đồ quen thuộc này, ưu đãi lên tới 22 triệu đồng 

19:19:11 21/01/2022
Lột xác cho căn nhà đón Tết lớn chỉ bằng món đồ quen thuộc này, ưu đãi lên tới 22 triệu đồng 

Những yếu tố khiến giá Bitcoin mất mốc 40.000 USD 

18:44:41 21/01/2022
Giá Bitcoin đã giảm xuống dưới mốc 40.000 USD và toàn bộ thị trường tiền mã hóa cũng đang trong giai đoạn bán tháo

Tôi đã bị khóa tài khoản Facebook như thế nào? 

18:42:17 21/01/2022
Facebook tìm mọi cách để khóa tài khoản người dùng đăng bài về nội dung nhạy cảm

Google tham gia thị trường blockchain 

18:29:13 21/01/2022
Phòng ban mới của Google sẽ tập trung nghiên cứu về blockchain và các công nghệ liên quan đến Web3

Vì sao thương vụ Microsoft - Activision Blizzard khiến nhà đầu tư Sony khiếp sợ tới mức bán tháo, "bay hơi" 20 tỷ USD giá trị?

16:10:47 21/01/2022
Mục đích của Microsoft khi thâu tóm các studio game đứng đằng sau Diablo và Call of Duty là để thay đổi cách game thủ tiêu tiền. Khi thay đổi ấy diễn ra, Sony chẳng khác nào kẻ mang dao đi đấu súng

​MediaTek trình diễn trực tiếp bản Demo đầu tiên trên thế giới về công nghệ Wi-Fi 7 

12:56:48 21/01/2022
MediaTek dẫn đầu về kết nối không dây với công nghệ Wi-Fi 7 tiên tiến Filogic

Qualcomm thử nghiệm thành công smartphone có iSIM đầu tiên trên thế giới, tích hợp SIM vào thẳng chip xử lý

11:39:01 21/01/2022
iSIM sẽ giúp loại bỏ không gian mà thẻ SIM vật lý và eSIM chiếm dụng trong thiết bị, mở ra nhiều khả năng mới

Trước đây 'lãi chưa từng thấy', nhà đầu tư Bitcoin đang ngậm đắng nuốt ngay chịu lỗ 750 triệu đô/ngày 

11:35:57 21/01/2022
Yếu tố khiến thị trường tiền số náo loạn là những tín hiệu mới từ phía Cục Dự trữ Liên bang (Fed)

Báo Hàn: Samsung tụt hậu so với Apple trong lĩnh vực AR/VR vì bị ‘ám ảnh’ với smartphone gập

11:19:41 21/01/2022
Tờ Korea Herald cho rằng bất chấp thị trường smartphone đang trì trệ, Samsung vẫn bị ràng buộc với lĩnh vực di động trong khi các hãng khác đang chạy đua vào thị trường mới như metaverse

Cuộc đua "song mã" Apple - Samsung: Hết đua smartphone, lại đến "kèn cựa" nhau trong việc mở Mono Store tại Việt Nam 

10:13:28 21/01/2022
Apple và Samsung - hai thương hiệu smartphone số một thế giới sẽ tiếp tục cạnh tranh quyết liệt trong năm 2022 nhằm chiếm lĩnh thị phần bán lẻ tại Việt Nam

Facebook đang "bắt chước" tính năng đời đầu của Yahoo, thế hệ 9X nhìn phát biết ngay nhưng Gen Z chắc bỡ ngỡ lắm đây! 

10:10:24 21/01/2022
cộng đồng mạng đang chia sẻ việc Facebook đang thử nghiệm tính năng cho phép tuỳ chọn icon trạng thái xuất hiện cùng avatar trong vòng 24h. Tuy nhiên, đây không phải là tính năng mới mà nó đã có từ những ứng dụng MXH chat chít đời đầu, ...

Một quốc gia láng giềng Việt Nam vừa chính thức cho phép giao dịch bằng tiền số 

10:07:58 21/01/2022
Quốc gia này vừa cho phép 2 công ty cung cấp dịch vụ mua bán và môi giới bằng tiền số cùng các tài sản kỹ thuật số khác cho người dân trong nước và trong khu vực

Cách hacker rửa 15 triệu USD tiền mã hóa 

08:11:37 21/01/2022
Những dịch vụ giao dịch ẩn danh như Tornado Cash mặc dù giúp người dùng bảo về quyền riêng tư nhưng lại đang trở thành công cụ của các hacker

Sàn giao dịch tiền số MEXC nhận bão 1 sao sau nghi vấn bán tháo 

08:09:31 21/01/2022
Ứng dụng MEXC trên Android hiện có điểm số đánh giá trung bình 1,3/5 sao sau những vấn đề với token ELMON gần đây

Việt Nam vào top 10 thế giới về tỷ lệ người sở hữu tiền mã hóa 

08:05:26 21/01/2022
Đại dịch thu hút dòng vốn của nhà đầu tư tại Việt Nam đổ vào tiền mã hóa. Có khoảng 6 triệu người Việt sở hữu tài sản kỹ thuật số

Apple lại bị Microsoft "cuỗm" mất nhân tài

21:01:33 20/01/2022
Mới đây, Apple đã mất kỹ sư chip chủ chốt thứ hai, nhân tài này rơi vào tay Microsoft

Tổng kết an ninh mạng năm 2021 và dự báo 2022 

15:42:35 20/01/2022
Năm 2021, thiệt hại do virus máy tính gây ra đối với người dùng Việt Nam tiếp tục ở mức rất cao 24,4 nghìn tỷ VNĐ (tương đương 1,06 tỷ USD)

Opera phát hành trình duyệt đặc biệt dành riêng cho tiền điện tử 

15:34:51 20/01/2022
Opera vừa giới thiệu một phiên bản chuyên biệt mới, đó là phiên bản beta của trình duyệt tiền điện tử Opera Crypto Browser Web3

Có thể bạn quan tâm

Trường quay phim đầu tiên ngoài vũ trụ

Phim âu mỹ

22:11:11 21/01/2022
Space Entertainment Enterprise có kế hoạch xây dựng hãng phim ngoài vũ trụ sau khi cử Tom Cruise và đạo diễn Doug Liman đến ISS quay phim

Nghiên cứu Mỹ: Đàn ông mắc COVID-19 giảm khả năng sinh sản

Thế giới

22:10:31 21/01/2022
Nghiên cứu mới cho biết tiêm vắc xin COVID-19 sẽ không ảnh hưởng đến cơ hội mang thai của các cặp vợ chồng, nhưng việc bị mắc COVID-19 có thể làm giảm khả năng sinh sản của nam giới

Giá trị của ngôi sao Kevin De Bruyne

Bóng đá thế giới

22:09:20 21/01/2022
Trong trận đấu gặp kỳ phùng địch thủ Chelsea ở vòng 22 Ngoại hạng Anh (EPL), Manchester City đã giành chiến thắng 1-0 xứng đáng, qua đó chứng tỏ sức mạnh gần như không có đối thủ ở EPL mùa này

Sẽ có Giải thưởng phim châu Á tại Việt Nam

Hậu trường phim

22:07:13 21/01/2022
Hiệp hội Xúc tiến phát triển Điện ảnh Việt Nam phối hợp với Galaxy Play và các cơ quan liên quan đang xây dựng dự án Giải thưởng phim châu Á tại Việt Nam

Hà Nội chỉ còn 4 quận vùng cam, còn lại là vùng vàng

Đời sống

22:06:31 21/01/2022
UBND TP Hà Nội vừa phát đi thông báo đánh giá cấp độ dịch trong phòng, chống dịch COVID-19 trên địa bàn TP

Mẹ vợ vừa về mẹ tôi báo mất 5 cây vàng, tôi đuổi vợ đi rồi phải tím tái

Tâm sự

22:05:52 21/01/2022
Tôi bảo vợ gọi điện ngay cho mẹ, yêu cầu bà trả lại 5 cây vàng cho mẹ tôi. Tôi sẽ bỏ qua vì nghĩ cho hai đứa con thôi

Những mỹ nhân châu Á muối mặt khi bị dân tình bóc mẽ diện đồ "pha ke"

Phong cách sao

22:04:33 21/01/2022
Những ngôi sao đình đám luôn cố gắng xuất hiện trước mặt công chúng. Thế nhưng, dù hào nhoáng đến mấy, cũng có lúc họ bị dân tình soi điểm khác biệt trong trang phục

Hotboy Người ấy là ai Dương Minh Đăng giản dị trong bộ ảnh áo dài

Thời trang

22:03:19 21/01/2022
Mới đây, trên trang cá nhân, nam chính Người ấy là ai kiêm hotboy tinh thông 12 con giáp gây xôn xao MXH những ngày qua Dương Minh Đăng vừa đăng tải loạt ảnh diện áo dài truyền thống Việt Nam và thả dáng ngay giữa đường phố Sài Gòn

Phim “Thần Bịp: tay sát gái” - khám phá thế giới cờ bạc lắm chiêu

Phim châu á

22:02:16 21/01/2022
Không chỉ hé lộ dàn diễn viên gồm toàn sao hạng A của Hàn Quốc, trailer Thần Bịp: Tay sát gái còn sở hữu một cốt truyện hấp dẫn, xoay quanh những phi vụ đỉnh cao và vô số mánh khóe gian lận tinh vi trong giới cờ bạc

Dân mạng phẫn nộ, xót xa và phản ứng đáng kinh ngạc của ông bố mắc Covid-19 khi làm việc điên cuồng để có tiền tìm con

Netizen

22:01:27 21/01/2022
Tôi không nghĩ mình đáng thương. Tôi chỉ muốn làm tốt công việc của mình. Tôi không ăn trộm, ăn cắp mà dựa vào sức lực của mình để kiếm chút tiền ít ỏi và tìm con trai, nhân vật chính trong câu chuyện xôn xao mạng xã hội Trung Quốc nói

Gặp gỡ diễn viên truyền hình 2022: Dàn diễn viên kỳ cựu hội ngộ

Show việt

21:59:06 21/01/2022
Năm 2021 đánh dấu sự trở lại của nhiều gương mặt nghệ sĩ gạo cội và đã vắng bóng một thời gian dài trên màn ảnh nhỏ

Toán khó cho bóng đá Việt Nam

Bóng đá việt nam

21:57:43 21/01/2022
Năm con trâu, bóng đá Đông Nam Á chứng kiến sự trở lại của cựu vương Thái Lan sau 4 năm ngậm ngùi nhìn Việt Nam lên ngôi bá chủ