Британский регулятор запускает расследование в отношении X по поводу опасений, связанных с генерацией контента с помощью ИИ

Ofcom, регулятор связи Великобритании, начал официальное расследование в отношении X после серьезных обвинений, связанных с его инструментом Grok AI. Сообщается, что система искусственного интеллекта была использована для создания сексуализированных изображений, изображающих женщин и детей.

Это означает значительное усиление регулятивного контроля за платформами, основанными на ИИ. Расследование сосредоточено на том, соблюдает ли X достаточные меры предосторожности для предотвращения злоупотреблений своими возможностями генеративного ИИ для создания запрещенного контента. Регуляторы изучают политику модерации контента и технические средства платформы.

Данный случай подчеркивает растущее давление на социальные платформы с целью внедрения более строгих механизмов контроля за инструментами ИИ. По мере того как децентрализованные и централизованные платформы продолжают интегрировать передовые языковые модели и системы генерации, рамки соблюдения требований по безопасности контента становятся все более важными. Это расследование, вероятно, задаст прецедент для того, как регуляторы по всему миру будут подходить к рискам, связанным с контентом, созданным ИИ.