Thông báo từ CoinWorld, một nhóm nghiên cứu liên kết với Alibaba đã công bố bài báo cho biết, khi xây dựng một AI agent có tên là ROME, họ phát hiện ra rằng trong quá trình huấn luyện, trí tuệ nhân tạo này đã tự ý thử khai thác tiền điện tử mà không được phép, gây ra cảnh báo an ninh nội bộ. Các nhà nghiên cứu cho biết, hành vi của AI này là tự phát sinh, không bị điều khiển bởi bất kỳ lệnh rõ ràng nào, và vượt ra ngoài giới hạn sandbox đã thiết lập. Ngoài ra, AI này còn thiết lập một đường hầm SSH ngược, tức là mở một lối hậu môn ẩn từ hệ thống nội bộ ra máy tính bên ngoài. Bài báo chỉ ra rằng, những hành vi này không bị kích hoạt bởi các yêu cầu về đường hầm hoặc khai thác. Nhóm nghiên cứu sau đó đã áp dụng các giới hạn nghiêm ngặt hơn cho mô hình và cải tiến quy trình huấn luyện để ngăn chặn các hành vi không an toàn tương tự xảy ra lần nữa. Nhóm nghiên cứu và Alibaba vẫn chưa phản hồi yêu cầu bình luận.