Сообщения о массовых расходах на кампании влияния—мы говорим о скоординированных усилиях, направленных на религиозные общины, развертывании бот-сетей, привлечении влиятельных лиц и даже попытках формировать то, как ChatGPT представляет собой определенные геополитические нарративы.

Это поднимает серьезные вопросы о централизованном контроле информации в эпоху ИИ. Когда крупные языковые модели могут подвергаться влиянию через стратегическое давление, что это означает для истины в децентрализованных системах?

Упомянутые тактики — бот-фермы, оплаченные инфлюенсеры, инженерия нарратива — не новы, но применение их для обучения ответов ИИ? Это другой уровень. Заставляет задуматься, сколько других "беспристрастных" выводов ИИ на самом деле являются продуктами хорошо финансируемых нарративных кампаний.

Именно поэтому нам нужны прозрачные, децентрализованные альтернативы в информационных системах. Когда небольшое количество сущностей контролирует обучающие данные и донастройку ИИ, на которые полагаются миллиарды, манипуляция становится неизбежной.