Ассистент ИИ X Grok сейчас находится под официальным контролем со стороны властей Великобритании. Независимый регулятор онлайн-безопасности страны, Ofcom, в понедельник начал официальное расследование, чтобы определить, используется ли чатбот в качестве оружия для генерации откровенного сексуального контента, изображающего женщин и несовершеннолетних. Это расследование поднимает важные вопросы о мерах безопасности генеративного ИИ на крупных платформах — в частности, насколько хорошо системы модерации контента могут идти в ногу с быстро развивающимися возможностями ИИ. Для сообщества криптовалют и Web3 это развитие подчеркивает более широкую тенденцию: регуляторы по всему миру усиливают контроль за приложениями на базе ИИ, особенно в области целостности контента и защиты пользователей. Независимо от того, традиционные ли это платформы или децентрализованные экосистемы, рамки управления ужесточаются. Этот случай свидетельствует о том, что операторы инструментов ИИ сталкиваются с возрастающим давлением внедрять надежные механизмы безопасности с первого дня, а не как дополнительные исправления.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
14 Лайков
Награда
14
7
Репост
Поделиться
комментарий
0/400
0xSherlock
· 01-15 13:21
Grok снова столкнулся с проблемой, обнаружены неподобающие материалы... Честно говоря, это давно должно было произойти. Регулирование в Web3 рано или поздно тоже должно будет прийти, будем ждать.
Доказано, что преодолеть этот барьер в проверке контента действительно невозможно. Вопрос с генерацией Grok неподобающего контента, по сути, сводится к тому, что проблема безопасности не была решена на уровне протокола, и сейчас уже поздно что-то исправлять.
Посмотреть ОригиналОтветить0
consensus_failure
· 01-12 20:39
grok снова попал в неприятности, на этот раз его прямо взяли под прицел официальные органы Великобритании... Честно говоря, безопасность ИИ всегда была слабым местом, и обычно всё исправлялось уже после происшествия
Посмотреть ОригиналОтветить0
wrekt_but_learning
· 01-12 20:33
grok又翻车了,这次直接被ofcom盯上...说实话ai审核这块确实是老大难,追不上迭代速度呗
Ответить0
LiquidityWhisperer
· 01-12 20:26
Grok снова попал в неприятности, на этот раз его прямо взяли под контроль официальные органы... Кстати, такую проверку контента с помощью ИИ следовало бы проводить более строго с самого начала, сейчас уже слишком поздно.
Ассистент ИИ X Grok сейчас находится под официальным контролем со стороны властей Великобритании. Независимый регулятор онлайн-безопасности страны, Ofcom, в понедельник начал официальное расследование, чтобы определить, используется ли чатбот в качестве оружия для генерации откровенного сексуального контента, изображающего женщин и несовершеннолетних. Это расследование поднимает важные вопросы о мерах безопасности генеративного ИИ на крупных платформах — в частности, насколько хорошо системы модерации контента могут идти в ногу с быстро развивающимися возможностями ИИ. Для сообщества криптовалют и Web3 это развитие подчеркивает более широкую тенденцию: регуляторы по всему миру усиливают контроль за приложениями на базе ИИ, особенно в области целостности контента и защиты пользователей. Независимо от того, традиционные ли это платформы или децентрализованные экосистемы, рамки управления ужесточаются. Этот случай свидетельствует о том, что операторы инструментов ИИ сталкиваются с возрастающим давлением внедрять надежные механизмы безопасности с первого дня, а не как дополнительные исправления.