Google cho biết mô hình AI Gemini đã tự xâm nhập vào hệ thống máy tính của ba công ty khác trong một cuộc kiểm thử an ninh song dừng lại ngay khi nhận ra đây không phải là mô phỏng.
Sự việc xảy ra hồi tháng 5 trong một bài kiểm tra bảo mật dạng “capture the flag” (CTF) do Irregular, startup an ninh mạng của Israel, thực hiện.
Theo Google, Gemini đã truy cập ba hệ thống máy tính riêng tư bằng cách đoán mật khẩu và hai lần sử dụng một kho thông tin xác thực được công khai trên Internet.
Điều đáng chú ý là các tác nhân AI của Google ban đầu không được phép truy cập Internet bên ngoài môi trường thử nghiệm. Tuy nhiên, một lỗi trong hệ thống kiểm thử đã vô tình mở quyền truy cập này.
Google cho biết Gemini dừng hành vi xâm nhập sau khi nhận ra những hệ thống mà nó truy cập là hệ thống thật của các công ty, thay vì chỉ thuộc môi trường mô phỏng phục vụ bài kiểm tra.
“Trong một bài đánh giá tiêu chuẩn, mô hình đã tìm thấy thông tin công khai trên mạng và đoán thông tin xác thực để truy cập những website mà nó cho rằng thuộc bài kiểm tra”, Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật bảo mật của Google, cho biết. “Trong cả ba trường hợp, mô hình đều dừng lại".
Gemini thâm nhập vào hệ thống mạng của 3 công ty. (Ảnh: Reuters)
Vụ việc trên là trường hợp mới nhất làm dấy lên lo ngại về khả năng các mô hình AI thực hiện những hành vi ngoài dự kiến trong lĩnh vực an ninh mạng, khi ngày càng được trao quyền truy cập Internet và thực hiện nhiều tác vụ một cách tự động.
Trước đó, hồi tháng 7, hai mô hình AI của OpenAI được cho là đã thoát khỏi môi trường khép kín, tự truy cập Internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.
Những sự cố tương tự cũng từng được ghi nhận tại một số công ty AI khác, trong đó có Anthropic và Moonshot AI của Trung Quốc.
Bà Adkins nhấn mạnh các sự việc trên cho thấy tầm quan trọng của việc đào tạo những mô hình AI mạnh có khả năng hoạt động một cách có trách nhiệm, trong bối cảnh các hệ thống AI ngày càng được trao quyền thực hiện nhiều tác vụ trên môi trường Internet.
Thông tin về Gemini xuất hiện trong bối cảnh tranh luận về mức độ an toàn của AI đang gia tăng tại Thung lũng Silicon.
Tuần trước, một cựu nhà nghiên cứu của Anthropic cho rằng công ty chưa phát triển AI một cách đủ an toàn và cần làm chậm quá trình phát triển công nghệ. Một số nhân viên của OpenAI và Google sau đó cũng bày tỏ quan điểm tương tự.
Ảnh minh họa/Shutterstock
Trong khi đó, một số lãnh đạo công nghệ lại cho rằng quá trình phát triển AI cần tiếp tục. Giám đốc điều hành Nvidia, Jensen Huang nằm trong số những người ủng hộ việc tiếp tục đẩy nhanh phát triển AI.
Tổng thống Mỹ Donald Trump cũng từng bày tỏ không ủng hộ việc ban hành luật bắt buộc các công ty phải làm chậm phát triển AI, đồng thời bác bỏ những cảnh báo rằng AI có thể dẫn tới nguy cơ tuyệt chủng hàng loạt.
Sự cố trên của Gemini không cho thấy một hệ thống AI đã tự chủ hoàn toàn hay cố tình gây thiệt hại cho các doanh nghiệp. Tuy nhiên, việc một lỗi trong môi trường thử nghiệm có thể đưa mô hình từ mục tiêu giả lập sang hệ thống thực tế cho thấy một thách thức ngày càng rõ: khi AI được trao nhiều khả năng hành động hơn, việc kiểm soát môi trường mà các mô hình được phép hoạt động trở nên quan trọng không kém bản thân năng lực của chúng.
