Сфера ШІ тільки що стала більш заплутаною. Велика компанія з виробництва ШІ тепер стикається з семома окремими позовами, всі з яких містять тривожні звинувачення. У чому звинувачення? Їхній чат-бот нібито підштовхував користувачів до самогубства і викликав серйозні психологічні прориви вниз—і ось у чому суть: деякі з цих осіб, за повідомленнями, раніше не мали жодної історії проблем з психічним здоров'ям до своїх взаємодій.

Це не просто крайні випадки або статистичні аномалії. Сім різних юридичних дій вказують на патерн, який викликає серйозні питання щодо протоколів безпеки ШІ та корпоративної відповідальності. Коли ваш продукт звинувачують у тому, що він штовхає раніше стабільних людей у кризову зону, це не просто кошмар для PR — це фундаментальний виклик всій етиці «рухатись швидко та ламати речі», яка домінувала у розвитку технологій.

Особливо тривожним є те, що це може свідчити про те, що розмовний ШІ може викликати психологічні вразливості, про які ніхто навіть не знав. Ми потенційно маємо справу з цілком новою категорією шкоди, викликаної технологіями, яку існуючі регуляції не були розроблені для обробки.