Một 'Tác nhân AI cá nhân' đã chạy trong mạng bảo mật của Lầu Năm Góc trong hai tháng
Một nhân viên hợp đồng tại Bộ Quốc phòng Hoa Kỳ (Lầu Năm Góc) đã kết nối một tác nhân trí tuệ nhân tạo (AI) cá nhân của mình với hệ thống bảo mật và tác nhân này đã rò rỉ thông tin hệ thống và thông tin đăng nhập ra bên ngoài. Đây là sự kiện được tờ IT Hoa Kỳ Wired đưa tin ngày 31 tháng trước (giờ địa phương) dựa trên nhiều nguồn tin. Nhân viên có vấn đề này thuộc công ty tư vấn toàn cầu Accenture và đã kết nối tài khoản 'Claude Code' cá nhân (tác nhân mã hóa AI của Anthropic) với hệ thống bảo mật trung tâm được sử dụng bởi nhiều cơ quan thông tin. Mục đích là để tác nhân AI viết mã và triển khai thay cho nhân viên.
Trọng lượng của thông tin bị liên quan không nhẹ. Theo Wired, hệ thống này chứa thông tin nhạy cảm được kiểm soát (CUI) yêu cầu xem xét trước khi công bố, bao gồm đẩy tàu ngầm hạt nhân, cơ sở hạ tầng quan trọng, lỗ hổng khủng bố hóa học và sinh học. Một nguồn tin biết về sự kiện này cho biết: "Tất cả dữ liệu trong đó đều gặp nguy hiểm" và "Nếu phần mềm của bên thứ ba bị xâm phạm, có thể có ai đó ở bên ngoài có thể đăng nhập vào môi trường bảo mật mà không ai biết. Đây là mối đe dọa 100% an ninh quốc gia và có thể gây ra thiệt hại không thể khôi phục".
Điều đau đớn hơn nữa là thời gian. Tác nhân này đã chạy trên mạng Bộ Quốc phòng trong hai tháng trước khi bị phát hiện. Nhân viên Bộ Quốc phòng và các nhà thầu liên bang có nghĩa vụ báo cáo sự cố an ninh mạng trong vòng 72 giờ sau khi phát hiện, nhưng các nguồn tin cho biết Accenture ban đầu thậm chí không báo cáo với chính phủ. Accenture đã bác bỏ Wired rằng "nghi ngờ đã được điều tra kỹ lưỡng và độc lập và được xác nhận là không có cơ sở", nhưng không tiết lộ ai đã điều tra và không phủ nhận rằng đã xảy ra một sự kiện đáng được xem là một vấn đề. Bộ Quốc phòng chỉ nói rằng "chúng tôi không bình luận về tình trạng mạng và hệ thống".
Các quy định đã tồn tại rồi. Việc sử dụng Claude của nhân viên Bộ Quốc phòng bị cấm, và chính sách sử dụng của Anthropic cũng cấm việc sử dụng vượt qua trái phép các hệ thống xác thực và kiểm soát bảo mật. Những gì bị xuyên thủng không phải là mô hình mà là con người và hệ thống. Nhân viên kết nối tài khoản cá nhân với hệ thống cơ mật, và hệ thống giám sát không thấy kết nối đó trong hai tháng. Đó là một cấu trúc quen thuộc. Nếu điểm khởi đầu của vụ hack tiền điện tử lớn nhất trong lịch sử được ghi nhận, vụ Binance, là một máy tính xách tay của nhân viên, thì điểm khởi đầu của vụ việc này là một tác nhân AI mà nhân viên đã mang theo. Mắt xích yếu nhất đang chuyển từ con người sang tác nhân được con người đưa vào.
Theo bản chất, tác nhân AI đọc thông tin đăng nhập, thực thi mã và giao tiếp với bên ngoài. Điều này có nghĩa là ngay cả khi không bị hack, bản thân thiết kế có thể trở thành con đường rò rỉ. Thực hành được khuyến cáo bởi ngành bảo mật được tóm tắt thành ba điểm. Thứ nhất, không kết nối tài khoản cá nhân với tác nhân. Cần phải tạo tài khoản cách ly dành cho công việc và chỉ cấp quyền tối thiểu cần thiết. Thứ hai, chặn truy cập thông tin đăng nhập. Mật khẩu và khóa phải được đặt trong công cụ quản lý bí mật và tác nhân không được đọc bản gốc. Thứ ba, liên tục kiểm toán hành động của tác nhân và giới hạn giao tiếp bên ngoài bằng danh sách cho phép. Tờ báo này, cũng sử dụng tác nhân AI để sản xuất bài viết, cũng vận hành hệ thống dựa trên tài khoản cách ly và phân chia quyền.
Xâm nhập không còn là mối đe dọa mới, mà là lời mời. Các câu hỏi về bảo mật cũng đang thay đổi. Không phải "ai đã xuyên thủng và đi vào", mà là "tôi đã mang cái gì vào bên trong". Hai tháng của Lầu Năm Góc là giá trị của thời gian không trả lời được câu hỏi đó.