Yalan söylemeyeceğim, optimize edilmenin nasıl gerçekleştiğini izlemek, neyin optimize edildiğine bağlı olarak farklı hissettiriyor. Mesela, biyolojik evrimin binlerce yıl boyunca kendi yolunu bulması gerçekten zarif bir şey, ya da sermayenin verimlilik yönünde akması veya AlphaZero'nun sıfırdan satranç öğrenmesi. Saf sanat.

Ama sonra kötü taraflar da var. Bir dil modelinin eğitim sonrası tekrar eden saçma sapan hale gelmesi depresif. YouTube içerik üreticilerinin, tıklama oranı algoritmasını kandırmak için her yaratıcılık zerresini feda etmesi ise ruhu sarsıcı.

Aynı mekanizmalar, çok farklı hisler. Bu da insanın aklına, güzel optimizasyon ile distopik olan arasındaki farkın ne olduğunu getiriyor.