Vi bruker ikke ordet "intelligens" med programvare. Vi ser på det som en naiv idé. Vi sier at det er "komplekst". Noe som betyr at vi ikke alltid forstår hva den gjør.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
I «Ender's Shadow» av Orson Scott Card understreker forfatteren begrensningene for hvordan vi oppfatter programvarefunksjoner. Han antyder at det å referere til programvare som å ha "intelligens" er altfor forenklet og misforstått. I stedet tar han til orde for ideen om at programvare opererer med et kompleksitetsnivå som ofte unngår vår forståelse. Denne kompleksiteten kan resultere i utfall som ikke er fullt forutsigbare eller forståelige for brukerne.
Dette perspektivet inviterer til en mer forsiktig og nyansert tilnærming til teknologi, og oppfordrer oss til å erkjenne vår manglende evne til å forstå alle forviklingene ved sofistikerte programvaresystemer. Det innebærer at selv om programvare kan utføre bemerkelsesverdige oppgaver, kan det ikke være hensiktsmessig å tilskrive menneskelignende intelligens, siden det kan skape urealistiske forventninger til dens evner og oppførsel.
