ヴォルテールはかつて、荒唐無稽な信念を信じることが恐ろしく簡単にひどい行為を行うことを可能にしながらも、自分の正しさに確信を持ち続けることができると示唆しました。

今、これを想像してください：もし私たちがそのような荒唐無稽な情報を全能のAIに入力したらどうなるでしょうか？

その影響は驚くべきものです。歪んだデータで訓練されたAIシステムは、単なる誤りを犯すだけでなく、それらを大規模に増幅します。基本的に誤った前提に基づいて何百万もの決定を下す可能性があります。恐ろしいのは、それが絶対的な自信を持って動作し、自らの歪んだ基盤を疑うことがない点です。

これは、AI開発においてしばしば見落とされがちな重要なポイントです：真実は単なる便利な機能ではなく、基盤そのものです。特定のAIシステムが正確さよりもエンゲージメントを優先したり、事実よりも物語を重視したりする場合、私たちはまさに速水の上に強力なツールを築いていることになります。

一部の人は、AIの訓練において客観的な真実を追求することは不可能だと主張します。もしかするとそうかもしれません。しかし、それを追求すること—偏見、プロパガンダ、歪みを排除しようとする絶え間ない努力—は、選択肢ではありません。それは生存のために必要不可欠なことです。