Anthropic nới lỏng cam kết an toàn AI, tạo ra thế trận cạnh tranh mới với OpenAI
Ngày 25 tháng 2, Anthropic gần đây đã điều chỉnh chính sách an toàn trí tuệ nhân tạo của mình, loại bỏ cam kết trước đó về việc không đào tạo hệ thống AI cao cấp trước khi các biện pháp an toàn hoàn thiện. Thay đổi này giúp Anthropic có nhiều linh hoạt hơn trong cạnh tranh với OpenAI, Google và xAI, đồng thời cũng gây ra cuộc thảo luận trong ngành về việc cân bằng giữa phát triển nhanh chóng của AI và đảm bảo an toàn.
Giám đốc khoa học Jared Kaplan của Anthropic cho biết, ngừng đào tạo không thực sự giải quyết được vấn đề an toàn, và trong bối cảnh các đối thủ đang thúc đẩy nhanh tiến trình, việc tạm dừng phát triển một chiều là không khôn ngoan. Công ty nhấn mạnh sẽ tăng cường minh bạch bằng cách phát hành lộ trình an toàn tiên tiến và báo cáo rủi ro định kỳ, đồng thời trì hoãn phát triển khi phát hiện nguy cơ thảm họa lớn.
Nhà nghiên cứu chính của Rand Corporation, Edward Geist, chỉ ra rằng khái niệm an toàn AI ban đầu xuất phát từ một nhóm quan tâm đến AI mạnh mẽ, nhưng các mô hình ngôn ngữ lớn (LLM) hiện nay đã định nghĩa lại khái niệm này. Việc thay đổi ngôn từ trong chính sách gửi tín hiệu đến nhà đầu tư và nhà hoạch định chính sách rằng các công ty đang cố gắng duy trì khả năng cạnh tranh kinh tế đồng thời quản lý rủi ro.
OpenAI cũng đã chỉnh sửa tuyên bố sứ mệnh vào năm 2024, loại bỏ từ “an toàn”, thay vào đó đặt mục tiêu là “đảm bảo AI tổng quát mang lại lợi ích cho toàn nhân loại”. Những điều chỉnh này cho thấy các nhà lãnh đạo ngành đang chuyển sang chiến lược linh hoạt hơn và có khả năng mở rộng hơn trong chính sách và tuyên bố.
Gần đây, Anthropic đã hoàn thành khoản huy động vốn 30 tỷ USD, định giá khoảng 380 tỷ USD; OpenAI cũng đang huy động tới 100 tỷ USD. Trong bối cảnh này, các công ty AI phải đối mặt với cạnh tranh địa chính trị và các xem xét hợp đồng chính phủ. Việc Bộ Quốc phòng Mỹ có tiếp tục hợp tác với Anthropic hay không vẫn chưa được quyết định, điều này khiến chính sách trở nên thận trọng và mang tính chiến lược hơn.
Tổng thể, các điều chỉnh chính sách của Anthropic và OpenAI đánh dấu một giai đoạn mới trong cuộc cạnh tranh giữa phát triển nhanh chóng của AI và quản lý an toàn, đồng thời phản ánh sự linh hoạt chiến lược của các doanh nghiệp dưới sức ép của vốn đầu tư và chính trị.