Yazılım için 'zeka' kelimesini kullanmayız. Biz bunu naif bir fikir olarak değerlendiriyoruz. Bunun 'karmaşık' olduğunu söylüyoruz. Bu da onun ne yaptığını her zaman anlamadığımız anlamına gelir.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
Orson Scott Card'ın "Ender's Shadow" adlı eserinde yazar, yazılım yeteneklerini nasıl algıladığımızın sınırlamalarını vurguluyor. Yazılımın 'zeka'ya sahip olduğunu söylemenin aşırı basitleştirici ve yanlış yönlendirilmiş olduğunu öne sürüyor. Bunun yerine, yazılımın çoğu zaman anlayışımızdan kaçan bir karmaşıklık düzeyiyle çalıştığı fikrini savunuyor. Bu karmaşıklık, kullanıcılar tarafından tam olarak tahmin edilemeyen veya anlaşılamayan sonuçlara yol açabilir.
Bu bakış açısı, teknolojiye daha temkinli ve incelikli bir yaklaşımı davet ederek, bizi karmaşık yazılım sistemlerinin tüm inceliklerini kavrama konusundaki beceriksizliğimizi fark etmeye teşvik ediyor. Bu, yazılım dikkate değer görevleri yerine getirebilse de, ona insan benzeri zeka atfetmenin, yetenekleri ve davranışları hakkında gerçekçi olmayan beklentiler yaratabileceği için uygun olmayabileceğini ima ediyor.
