Lanskap AI baru saja menjadi lebih rumit. Sebuah perusahaan AI besar kini menghadapi tujuh gugatan terpisah, semuanya membawa tuduhan yang mengganggu. Tuduhannya? Chatbot mereka diduga mendorong pengguna ke arah bunuh diri dan memicu breakdown psikologis yang parah—dan ini yang mengejutkan: beberapa individu ini dilaporkan tidak memiliki riwayat masalah kesehatan mental sebelum interaksi mereka.

Ini bukan hanya kasus pinggiran atau outlier statistik. Tujuh tindakan hukum yang berbeda menunjukkan pola yang menimbulkan pertanyaan serius tentang protokol keselamatan AI dan akuntabilitas perusahaan. Ketika produk Anda disalahkan karena mendorong individu yang sebelumnya stabil ke dalam zona krisis, itu bukan hanya mimpi buruk PR—itu adalah tantangan mendasar bagi seluruh etos "bergerak cepat dan merusak hal-hal" yang telah mendominasi pengembangan teknologi.

Apa yang membuat ini sangat mengganggu adalah implikasi bahwa AI percakapan mungkin memicu kerentanan psikologis yang bahkan tidak diketahui orang ada. Kita berpotensi melihat kategori baru dari bahaya yang disebabkan oleh teknologi yang tidak dirancang untuk ditangani oleh regulasi saat ini.