Meta kiện nhà phát triển AI Nudify vì lạm dụng nền tảng

Meta đã khởi kiện Joy Timeline HK Ltd., công ty có trụ sở tại Hồng Kông đứng sau CrushAI—một ứng dụng AI làm mờ hình ảnh nhạy cảm nổi tiếng với việc tạo ra hình ảnh thân mật không có sự đồng ý. Để tăng cường các nỗ lực thực thi pháp luật, gã khổng lồ mạng xã hội đã đưa ra các thủ tục pháp lý tại Hồng Kông nhằm đối phó với những gì họ mô tả là hành vi tránh né có phối hợp các cơ chế xem xét quảng cáo của Facebook và Instagram.

Vấn đề cốt lõi: Ứng dụng AI làm mờ hình ảnh và lạm dụng hệ thống có hệ thống

Nền tảng CrushAI là ví dụ điển hình cho một loại công cụ AI làm mờ hình ảnh ngày càng phát triển, nhằm thao túng kỹ thuật số các hình ảnh của cá nhân mà không có sự cho phép. Các ứng dụng này chủ yếu nhắm vào phụ nữ và các nhân vật nổi tiếng, tạo ra nội dung thân mật tổng hợp để thúc đẩy các chiến dịch quấy rối, tống tiền, và trong những trường hợp nghiêm trọng hơn, các mạng lưới khai thác trẻ em. Một cuộc điều tra của CBS News gần đây đã phát hiện hàng trăm quảng cáo quảng bá các ứng dụng tương tự vẫn đang lưu hành trên hạ tầng của Meta, làm nổi bật quy mô của vấn đề.

Thách thức thực thi của Meta

Chiến lược của Joy Timeline liên quan đến việc liên tục vượt qua các quy trình phê duyệt quảng cáo của Meta. Công ty này vẫn tiếp tục chạy các chiến dịch quảng cáo mặc dù đã nhiều lần bị gỡ bỏ, theo các hồ sơ pháp lý của Meta. Mẫu hình vi phạm chính sách có hệ thống này đã thúc đẩy phản ứng pháp lý—một bước đi mà Meta mô tả là cần thiết để bảo vệ an toàn người dùng và duy trì tính toàn vẹn của nền tảng.

“Chúng tôi theo đuổi các biện pháp pháp lý chống lại những ai lợi dụng nền tảng của chúng tôi và gây nguy hiểm cho cộng đồng của chúng tôi,” Meta tuyên bố, nhấn mạnh cam kết của mình đối với các giải pháp lâu dài vượt ra ngoài việc loại bỏ nội dung thông thường.

Phản ứng công nghệ và hợp tác

Ngoài các vụ kiện, Meta đã triển khai các hệ thống phát hiện tiên tiến có khả năng nhận diện các quảng cáo độc hại có chứa nội dung AI làm mờ hình ảnh, bất kể chúng có kèm theo hình ảnh rõ ràng hay không. Công ty cũng đang chia sẻ thông tin về mối đe dọa với các đối tác trong ngành để phối hợp các chiến lược phòng thủ rộng hơn chống lại các ứng dụng như vậy.

Nền tảng này cũng đã báo cáo phá bỏ bốn mạng lưới quảng cáo có phối hợp liên quan đến các dịch vụ khai thác này, với sự hợp tác liên tục giữa các nhóm an ninh nội bộ và các nhà nghiên cứu bên ngoài để xác định các kỹ thuật tránh né mới nổi.

Trách nhiệm của ngành công nghiệp rộng lớn hơn

Khi các nhà lập pháp và các tổ chức nghiên cứu tăng cường giám sát công nghệ AI làm mờ hình ảnh và các kênh phân phối của nó, cách tiếp cận đa chiều của Meta—kết hợp hành động pháp lý, phát hiện thuật toán và phối hợp liên doanh—đánh dấu một bước chuyển hướng hướng tới quản trị nền tảng quyết liệt hơn. Các nhà quan sát trong ngành xem các biện pháp thực thi này là các bước cần thiết trong việc chống lại khai thác dựa trên AI quy mô lớn.

Công ty đã nhấn mạnh quyết tâm duy trì cảnh giác trước các chiến thuật tránh né ngày càng tinh vi, đồng thời giữ các biện pháp bảo vệ nhằm bảo vệ người dùng khỏi các ứng dụng AI săn mồi.