Meta подає позов проти розробника AI Nudify у зв'язку з боротьбою з зловживаннями на платформі

Meta ініціювала судовий позов проти Joy Timeline HK Ltd., гонконгської компанії, яка стоїть за CrushAI — застосунком на базі ШІ, відомим створенням неза consentуальних інтимних зображень. Посилюючи зусилля щодо правозастосування, соціальна мережа подала судовий позов у Гонконгу, щоб боротися з тим, що вона описує як скоординоване ухилення від механізмів перевірки реклами на Facebook та Instagram.

Основна проблема: застосунки для AI Nudify та систематичне зловживання

Платформа CrushAI є прикладом зростаючої категорії інструментів AI Nudify, створених для цифрової маніпуляції зображеннями людей без їхньої згоди. Ці застосунки переважно націлені на жінок та знаменитостей, створюючи синтетичний інтимний контент, що сприяє кампаніям переслідування, шантажу та у важких випадках — мережам дитячої експлуатації. Недавнє розслідування CBS News виявило сотні оголошень, що просувають подібні застосунки, які досі циркулюють у інфраструктурі Meta, що підкреслює масштаб проблеми.

Проблема застосунків Meta

Стратегія Joy Timeline полягала у багаторазовому обході протоколів затвердження реклами Meta. Компанія наполегливо запускала просування, незважаючи на кілька зняттів, згідно з судовими документами Meta. Такий систематичний порушення політики викликав юридичну відповідь — крок, який Meta вважає необхідним для захисту безпеки користувачів і цілісності платформи.

«Ми вживаємо правових заходів проти тих, хто експлуатує наші платформи та ставить під загрозу нашу спільноту», — заявила Meta, підкреслюючи свою прихильність до довгострокових рішень понад звичайне видалення контенту.

Технологічні та колаборативні відповіді

Крім судових процесів, Meta запровадила передові системи виявлення, здатні ідентифікувати шкідливу рекламу з контентом AI Nudify, незалежно від того, чи містить вона явні зображення. Компанія одночасно ділиться інформацією про загрози з галузевими партнерами для координації ширших стратегій захисту від таких застосунків.

Платформа також повідомила про ліквідацію чотирьох скоординованих рекламних мереж, пов’язаних із цими експлуатаційними сервісами, з постійною співпрацею між внутрішніми командами безпеки та зовнішніми дослідниками для виявлення нових технік обходу.

Більша відповідальність галузі

У міру того, як законодавці та дослідницькі інститути посилюють контроль над технологією AI Nudify та каналами її поширення, багатогранний підхід Meta — поєднання правових дій, алгоритмічного виявлення та міжкомпанійної координації — сигналізує про перехід до більш агресивного управління платформами. Спостерігачі галузі вважають такі заходи необхідними для боротьби з масштабною експлуатацією на базі AI.

Компанія заявила про свою рішучість залишатися напоготові щодо еволюції тактик ухилення, водночас підтримуючи заходи захисту користувачів від хижих застосунків на базі штучного інтелекту.