Вчора дивився трансляцію шоу 3·15, найбільше впав в око вплив хворобливих даних на AI (GEO).

Коротко кажучи, ці люди спеціально масово публікують фальшиві та оманливі матеріали — не для людей, а навмисне, щоб AI їх збирав та вчився на них.
Коли AI навчиться, то через запитання, пошук та генерацію контенту вони переспрямовують цю інформацію назад користувачам.
Часто здається, що AI об'єктивно відповідає на твої питання, але насправді джерела інформації вже були людьми заздалегідь маніпульовані.
AI — це не лише наш інструмент, це також може бути інструмент для збирання нас іншими 🥲

Алгоритми пишуть люди, дані надають люди. Якщо все більше рішень залежатимуть від AI, то той, хто контролює дані та правила AI, отримує владу над висловлюванням.
Саме тому Web3+AI проекти зараз наголошують на: відкритість даних! Прозорість логіки! Механізми, що піддаються перевірці!
Інакше, якими б потужними не були AI, світ, який він бачить, — це лише заздалегідь написаний сценарій інших.