正直に言うと、最適化の進行を見るのは、何が最適化されているかによって感じ方が全く異なる。例えば、何千年もかけて生物の進化が自然に行われるのは本当に優雅だと感じるし、資本が効率性に向かって流れるのも納得できるし、AlphaZeroがゼロからチェスを学び自分自身を向上させていくのもまさに芸術的だ。

しかし、その裏側には醜い側面もある。訓練後に言語モデルが繰り返しの意味不明な文章に崩壊してしまうのは悲しいし、YouTubeのクリエイターがクリック率アルゴリズムを狙うためにあらゆる創造性を犠牲にするのも心が痛む。

同じ仕組みなのに、全く異なる雰囲気を持つ。美しい最適化とディストピア的なものとを分けるものは何なのか、考えさせられる。