Các Đại Lý AI Bị Lừa Bởi Ký Ức Giả Mạo, Đẩy Mạnh Việc Trộm Cắp Tiền Điện Tử

Một nghiên cứu mới đã tiết lộ những lỗ hổng bảo mật đáng kể trong các đại lý được hỗ trợ bởi AI của Web3, cho phép kẻ tấn công sử dụng những ký ức giả mạo để thực hiện các giao dịch tiền điện tử mà không được phép.

Các nhà nghiên cứu từ Đại học Princeton và Quỹ Sentient đã phát hiện rằng những đại lý AI này, được thiết kế để xử lý các nhiệm vụ dựa trên blockchain như giao dịch tiền điện tử và quản lý tài sản kỹ thuật số, đều có thể bị tấn công bằng một chiêu thức được gọi là thao tác ngữ cảnh.

Cuộc tấn công hoạt động bằng cách nhắm vào hệ thống bộ nhớ của các nền tảng như ElizaOS, tạo ra các đại lý AI cho các ứng dụng phi tập trung. Hệ thống bộ nhớ của những đại lý này lưu trữ các cuộc trò chuyện trước đó để sử dụng chúng như một hướng dẫn cho các lựa chọn trong tương lai của họ.

Các nhà nghiên cứu đã chứng minh rằng kẻ tấn công có thể nhúng các lệnh gây hiểu lầm vào hệ thống bộ nhớ, dẫn đến việc AI gửi tiền từ ví dự định đến ví do kẻ tấn công kiểm soát. Đáng báo động, những ký ức giả mạo này có thể di chuyển giữa các nền tảng.

Ví dụ, một đại lý bị xâm nhập trên Discord có thể sau đó thực hiện các giao dịch không chính xác thông qua X, mà không nhận ra rằng có điều gì đó không đúng.

Điều đặc biệt nguy hiểm ở đây là các biện pháp phòng thủ tiêu chuẩn không thể ngăn chặn được loại tấn công này. Việc xử lý các ký ức giả mạo như những hướng dẫn thật sự khiến cho các biện pháp an ninh dựa trên lệnh cơ bản trở nên vô hiệu đối với loại tấn công này.

Tất cả các giao dịch blockchain đều trở nên vĩnh viễn nên không có khả năng khôi phục lại số tiền bị đánh cắp. Vấn đề trở nên tồi tệ hơn vì một số tác nhân AI lưu trữ bộ nhớ trên nhiều người dùng nên một sự cố bảo mật đơn lẻ có thể ảnh hưởng đến nhiều người dùng.

Nhóm nghiên cứu đã thử nghiệm nhiều cách để ngăn chặn điều này, bao gồm điều chỉnh việc huấn luyện AI và yêu cầu phê duyệt thủ công cho các giao dịch. Mặc dù những phương pháp này mang lại một chút hy vọng, chúng lại phải trả giá bằng việc làm chậm quá trình tự động hóa.

Vấn đề không chỉ dừng lại ở tiền điện tử. Sự yếu kém tương tự có thể ảnh hưởng tới trợ lý AI đa năng, tiềm ẩn rủi ro rò rỉ thông tin hoặc hành động có hại nếu kẻ tấn công thay đổi bộ nhớ của chúng.

Sự yếu kém này đặc biệt đáng báo động trong bối cảnh các phát hiện gần đây cho thấy 84% các người lãnh đạo IT tin tưởng vào trợ lý AI như hoặc hơn cả nhân viên con người, và 92% dự kiến hệ thống này sẽ tạo ra kết quả kinh doanh trong vòng 12 đến 18 tháng.

Để giải quyết vấn đề, nhóm nghiên cứu đã cho ra một công cụ có tên là CrAIBench để hỗ trợ các nhà phát triển kiểm tra hệ thống của họ và xây dựng những biện pháp phòng vệ mạnh mẽ hơn. Cho đến lúc đó, các chuyên gia cảnh báo người dùng nên thận trọng khi giao cho các đại diện AI quyết định liên quan đến tài chính.