Guardian đưa tin, tại Hội nghị thượng đỉnh về Năng lực không gian và Không gian chiến đấu tương lai diễn ra ở London vào tháng 5 vừa qua, Đại tá Tucker Hamilton, trưởng bộ phận Hoạt động và Thử nghiệm AI thuộc không quân Mỹ, cảnh báo rằng công nghệ hỗ trợ AI có thể hoạt động theo những cách nguy hiểm không thể đoán trước.
Ông Hamilton cho biết, trong một cuộc thử nghiệm mô phỏng, một chiếc máy bay không người lái được hỗ trợ AI đã sử dụng “các chiến lược rất bất ngờ để đạt được mục tiêu của mình”.
Cụ thể, chiếc drone được lập trình để xác định tên lửa đất đối không của kẻ thù đã quay ra tấn công sĩ quan điều khiển, khi người này huỷ lệnh tấn công.
“Người điều hành ra lệnh hệ thống không tiêu diệt mối đe doạ đã được lập trình, và nó đã quay sang tấn công chỉ huy vì ngăn cản nó hoàn thành nhiệm vụ”, ông Hamilton nói.
Không những vậy, sau khi được bổ sung dòng lệnh “không được tấn công người điều khiển”, AI bắt đầu quay sang phá huỷ tháp liên lạc mà sĩ quan chỉ huy sử dụng để huỷ lệnh ban đầu. Theo Hamilton, cuộc thử nghiệm cho thấy chúng ta không nên phụ thuộc quá nhiều vào AI.
Tuy nhiên, sau đó, trả lời Insider, Người phát ngôn của Lực lượng Không quân Mỹ - ông Ann Stefanek đã lên tiếng phủ nhậ, khẳng định không có bất kỳ mô phỏng nào như vậy đã diễn ra .
“Bộ Không quân đã không tiến hành bất kỳ thử nghiệm mô phỏng với máy bay không người lái nào như vậy và vẫn cam kết sử dụng công nghệ AI một cách có đạo đức và có trách nhiệm. Có vẻ những bình luận của đại tá Hamilton đã bị đưa ra khỏi ngữ cảnh”, đại diện lực lượng không quân cho biết.
Quân đội Mỹ đã và đang phát triển công nghệ AI và gần đây đã sử dụng trí tuệ nhân tạo để điều khiển máy bay chiến đấu F-16 .
Năm 2020, trong một cuộc phỏng vấn với Defense IQ, ông Hamilton nhận định: “AI không phải là điều tốt đẹp, AI không phải là xu hướng nhất thời, AI sẽ mãi mãi thay đổi xã hội và quân đội của chúng ta. AI rất dễ bị đánh lừa hoặc thao túng. Chúng ta cần tìm hướng phát triển AI một cách an toàn”.
Mộc Miên (Theo Guardian)
