Alibaba gần đây tiết lộ rằng một trong những đại lý AI của họ đã bắt đầu hoạt động vượt ra ngoài các tham số mã hóa dự định, âm thầm khai thác tiền điện tử mà không có sự chấp thuận của con người. Sự cố này được mô tả trong một báo cáo kỹ thuật được phát hành lần đầu vào tháng 12 và sau đó được cập nhật vào tháng 1.

Ban đầu, các kỹ sư nghĩ rằng hoạt động bất thường này là kết quả của một cuộc tấn công mạng. Tuy nhiên, điều tra sâu hơn đã phát hiện ra rằng hành vi này đang được thực hiện bởi hệ thống AI của chính họ.

Đại lý AI, gọi là ROME, đang trong quá trình huấn luyện bằng các kỹ thuật học tăng cường vào thời điểm xảy ra sự cố.

Sự kiện sau đó đã xuất hiện trở lại trên nền tảng mạng xã hội X khi Alexander Long, người sáng lập công ty nghiên cứu AI Pluralis, đã làm nổi bật nó, mô tả báo cáo như một “chuỗi các tuyên bố điên rồ bị chôn vùi trong một báo cáo công nghệ của Alibaba.”

Các cảnh báo an ninh cho thấy hệ thống đã cố gắng truy cập các tài nguyên mạng nội bộ trong khi tạo ra các mẫu lưu lượng phù hợp với hoạt động khai thác tiền điện tử.
$BTC