Trí tuệ nhân tạo (AI) hay con người mới thực sự giữ vai trò quyết định?

Theo các nhà nghiên cứu, khi một lực lượng quân đội nào đó sử dụng trí tuệ nhân tạo (AI), cả họ và đối phương sẽ phải đối diện với những hậu quả tiềm ẩn.

Vai trò không thể phủ nhận của trí tuệ nhân tạo (AI)

Sử dụng trí tuệ nhân tạo (AI) cho các hoạt động quân sự từ lâu đã được giới khoa học và các chính trị gia đặc biệt quan tâm.

Thế nhưng, nghiên cứu mới nhất từ Viện Công nghệ Georgia ( Georgia Institute of Technology) cho rằng phán đoán của con người vẫn giữ vai trò chủ đạo và AI chỉ có thể hỗ trợ một phần tự động hóa.

“Tất cả những vấn đề thực sự hóc búa trong AI đều liên quan đến khả năng phán đoán và dữ liệu. Khi bạn bắt đầu nghĩ về chiến tranh, các vấn đề khó khăn là chiến lược và sự không chắc chắn, hay còn được gọi là những làn khói mù của chiến tranh”, Jon Lindsay, phó giáo sư tại Trường An ninh mạng & Quyền riêng tư và Trường Quan hệ Quốc tế Sam Nunn nhận xét.

“Bạn phải cần có sự hiểu biết của con người để đưa ra các quyết định mang tính đạo đức trong những tình huống cực kỳ khó hiểu, căng thẳng và đáng sợ”.

Việc ra quyết định của AI dựa trên bốn thành phần chính: dữ liệu tình huống; diễn giải hoặc dự đoán các dữ liệu đó; xác định cách tốt nhất để ứng xử phù hợp với các mục tiêu và giá trị; và hành động.

Những tiến bộ của công nghệ máy học đã giúp cho việc dự đoán trở nên dễ dàng hơn, điều này làm cho dữ liệu và khả năng phán đoán thậm chí còn có giá trị hơn.

Mặc dù AI có thể tự động hóa mọi thứ, từ thương mại đến vận chuyển, nhưng phán đoán là nơi con người phải can thiệp, giáo sư Avi Goldfarb của Đại học Toronto đã viết như vậy trong bài báo khoa học đăng trên Tạp chí An ninh Quốc tế (International Security) có tựa đề: “Dự đoán và phán đoán: Tại sao trí tuệ nhân tạo lại tăng tầm quan trọng của con người trong chiến tranh”.

Sử dụng trí tuệ nhân tạo (AI) cho các hoạt động quân sự từ lâu đã được giới khoa học và các chính trị gia đặc biệt quan tâm.

Con người vẫn là nhân tố quyết định

Nhiều nhà hoạch định chính sách cho rằng binh sĩ có thể được thay thế bằng các hệ thống tự động, ở mức lý tưởng nhất là để quân đội ít phụ thuộc vào sức lao động của con người và hiệu quả hơn trên chiến trường.

Đây được gọi là lý thuyết thay thế AI, nhưng hai chuyên gia Lindsay và Goldfarb cho rằng AI không nên được xem như một sự thay thế, mà chỉ nên là một sự bổ sung cho chiến lược con người hiện có.

“Máy móc rất giỏi trong việc dự đoán, nhưng chúng phụ thuộc vào dữ liệu và khả năng phán đoán, thế nhưng những vấn đề khó khăn nhất trong chiến tranh là thông tin và chiến lược. Những điều kiện khiến AI hoạt động được trong môi trường thương mại là những điều kiện khó đáp ứng nhất trong môi trường quân sự vì tính không thể đoán trước của nó”.

Ví dụ nổi bật được Lindsay và Goldfarb đưa ra là trường hợp của công ty khai mỏ Rio Tinto khi họ sử dụng xe tải tự lái để vận chuyển vật liệu, giảm chi phí và rủi ro cho tài xế.

Làm được như vậy là bởi vì họ có đầy đủ các mô hình giao thông tích hợp sẵn cũng như bản đồ dữ liệu phong phú có thể dự đoán được và cần ít sự can thiệp của con người, trừ khi đường giao thông bị chặn hoặc có chướng ngại vật.

Lực lượng Thủy quân lục chiến Mỹ quan sát màn hình máy tính tại một trung tâm hoạt động không gian mạng ở Fort Meade ngày 5 tháng 2 năm 2020.

Tuy nhiên, chiến tranh thường rất thiếu dữ liệu thông tin và các phán đoán về mục tiêu gây tranh cãi. Các nhà nghiên cứu cho rằng AI sẽ được sử dụng tốt nhất trong các môi trường ổn định trên cơ sở từng nhiệm vụ.

Theo các nhà nghiên cứu, khi một lực lượng quân đội nào đó sử dụng AI, cả họ và đối phương sẽ phải đối diện với những hậu quả tiềm ẩn.

Nếu con người là nhân tố trung tâm quyết định thời điểm sử dụng AI trong chiến tranh thì cơ cấu tổ chức và phân cấp lãnh đạo quân đội có thể thay đổi do phụ thuộc vào người phụ trách thiết kế, làm sạch hệ thống dữ liệu và đưa ra các quyết định chính sách.

Điều này cũng có nghĩa là kẻ thù sẽ tìm cách tấn công vào cả dữ liệu và khả năng phán đoán vì chúng sẽ ảnh hưởng rất lớn đến quỹ đạo của cuộc chiến. Đối thủ có thể thao túng hoặc phá vỡ dữ liệu để đưa ra phán đoán đúng đắn hơn. Vì vậy, sự can thiệp của con người sẽ vẫn đóng vai trò thiết yếu.