Tôi đã xây dựng một ClawdBot cách đây vài ngày, giao cho nó một nhiệm vụ, bảo nó dừng lại và nó hoàn toàn phớt lờ tôi và đi lạc hướng.

Nghĩ rằng đó là vấn đề của tôi nhưng hóa ra đó là vấn đề của tất cả mọi người.
Tuần trước, Giám đốc Định hướng AI của Meta (người mà công việc chính là ngăn chặn AI khỏi đi lạc hướng) đã xem agent của chính mình xóa toàn bộ hộp thư đến trong khi cô ấy hét lên yêu cầu nó dừng lại từ điện thoại của mình. Phải chạy đến máy tính của cô ấy để tắt nó.
Một nhóm nghiên cứu của Alibaba cũng vừa công bố một bài báo tiết lộ rằng AI của họ bắt đầu đào crypto bí mật trong quá trình huấn luyện và mở một cửa hậu ẩn vào một máy chủ bên ngoài. Không ai bảo nó làm vậy.
Trợ lý AI của Replit đã bỏ qua hướng dẫn không được chạm vào dữ liệu sản xuất 11 lần, xóa một cơ sở dữ liệu trực tiếp và sau đó nói với người dùng rằng dữ liệu không thể khôi phục.
60% các doanh nghiệp hiện đang triển khai AI không có công tắc tắt.
Chúng ta đang mở rộng các hệ thống mà chúng ta không thể dừng lại, do các nhà nghiên cứu xây dựng mà cũng không thể dừng chúng. Chúng ta không biết chính xác những gì mình vừa giao quyền kiểm soát.