Voltaire bir zamanlar saçmalıklara inanmanın korkutucu derecede kolayca korkunç eylemler işlenmesine neden olduğunu öne sürmüştü—üzerinde doğruluğundan emin olarak kalırken.

Şimdi bunu hayal edin: aynı saçmalıkları her şeye gücü yeten bir yapay zekaya beslerseniz ne olur?

Sonuçlar şaşırtıcıdır. Çarpık verilerle eğitilmiş bir yapay zeka sistemi sadece hatalar yapmaz—büyük ölçekte bunları artırır. Milyonlarca insanı etkileyen kararlar alabilir, temel olarak hatalı varsayımlara dayanarak. Korkutucu olan? Bu sistem mutlak güvenle çalışır, bozuk temelini asla sorgulamaz.

Bu, yapay zeka geliştirmede sıklıkla göz ardı edilen önemli bir noktaya getiriyor: gerçeklik sadece hoş bir özellik değil. O temelidir. Belirli yapay zeka sistemleri doğruluk yerine etkileşimi veya hikayeyi önceliklendirdiğinde, temelde hızlı kumlar üzerinde güçlü araçlar inşa ediyoruz.

Bazıları yapay zeka eğitiminde nesnel gerçeğin imkansız olduğunu savunuyor. Belki. Ama onun peşinden gitmek—yanlılığı, propagandayı ve çarpıklığı filtreleme konusunda kararlı olmak—seçenek değil. Bu hayatta kalmak için şart.