Vi använder inte ordet "intelligens" med programvara. Vi ser det som en naiv idé. Vi säger att det är "komplext". Vilket gör att vi inte alltid förstår vad den gör.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
I "Ender's Shadow" av Orson Scott Card betonar författaren begränsningarna för hur vi uppfattar mjukvarukapacitet. Han menar att det är alltför förenklat och missriktat att hänvisa till programvara som "intelligens". Istället förespråkar han tanken att programvara fungerar med en komplexitetsnivå som ofta undviker vår förståelse. Denna komplexitet kan resultera i resultat som inte är helt förutsägbara eller begripliga för användarna.
Detta perspektiv inbjuder till ett mer försiktigt och nyanserat förhållningssätt till teknik, vilket uppmanar oss att inse vår oförmåga att förstå alla krångligheterna hos sofistikerade mjukvarusystem. Det antyder att även om programvara kan utföra anmärkningsvärda uppgifter, kanske det inte är lämpligt att tillskriva den mänskliga intelligensen, eftersom den kan skapa orealistiska förväntningar på dess förmåga och beteende.
