Kami tidak menggunakan kata 'kecerdasan' dengan perangkat lunak. Kami menganggapnya sebagai gagasan yang naif. Kami mengatakan bahwa ini 'rumit'. Artinya, kita tidak selalu memahami apa yang dilakukannya.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
Dalam "Ender's Shadow" oleh Orson Scott Card, penulis menekankan keterbatasan cara kita memandang kemampuan perangkat lunak. Ia berpendapat bahwa menyebut perangkat lunak memiliki 'kecerdasan' adalah hal yang terlalu menyederhanakan dan salah arah. Sebaliknya, ia menganjurkan gagasan bahwa perangkat lunak beroperasi dengan tingkat kompleksitas yang sering kali tidak dapat kita pahami. Kompleksitas ini dapat mengakibatkan hasil yang tidak sepenuhnya dapat diprediksi atau dipahami oleh pengguna.
Perspektif ini mengundang pendekatan yang lebih hati-hati dan berbeda terhadap teknologi, mendesak kita untuk menyadari ketidakmampuan kita memahami semua seluk-beluk sistem perangkat lunak yang canggih. Hal ini menyiratkan bahwa meskipun perangkat lunak dapat melakukan tugas-tugas luar biasa, menghubungkan kecerdasan mirip manusia dengan perangkat lunak tersebut mungkin tidak tepat, karena perangkat lunak dapat menciptakan harapan yang tidak realistis mengenai kemampuan dan perilakunya.
