Bij software gebruiken we het woord 'intelligentie' niet. Dat vinden wij een naïef idee. Wij zeggen dat het 'complex' is. Wat betekent dat we niet altijd begrijpen wat het doet.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
In "Ender's Shadow" van Orson Scott Card benadrukt de auteur de beperkingen van hoe we softwaremogelijkheden waarnemen. Hij suggereert dat het te simplistisch en misleidend is om te zeggen dat software 'intelligentie' heeft. In plaats daarvan pleit hij voor het idee dat software werkt met een niveau van complexiteit dat ons begrip vaak te boven gaat. Deze complexiteit kan resulteren in uitkomsten die niet volledig voorspelbaar of begrijpelijk zijn voor gebruikers.
Dit perspectief nodigt uit tot een meer voorzichtige en genuanceerde benadering van technologie, en spoort ons aan om ons onvermogen te onderkennen om alle fijne kneepjes van geavanceerde softwaresystemen te begrijpen. Het impliceert dat hoewel software opmerkelijke taken kan uitvoeren, het toekennen van mensachtige intelligentie eraan niet gepast is, omdat het onrealistische verwachtingen kan wekken over de capaciteiten en het gedrag ervan.
