Non usiamo la parola "intelligenza" con il software. La consideriamo un’idea ingenua. Diciamo che è "complesso". Ciò significa che non sempre capiamo cosa sta facendo.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
In "Ender's Shadow" di Orson Scott Card, l'autore sottolinea i limiti del modo in cui percepiamo le capacità del software. Secondo lui, riferirsi al software come dotato di "intelligenza" è eccessivamente semplicistico e fuorviante. Sostiene invece l’idea che il software operi con un livello di complessità che spesso sfugge alla nostra comprensione. Questa complessità può portare a risultati che non sono completamente prevedibili o comprensibili per gli utenti.
Questa prospettiva invita a un approccio più cauto e sfumato alla tecnologia, spingendoci a riconoscere la nostra incapacità di cogliere tutte le complessità dei sofisticati sistemi software. Ciò implica che, sebbene il software possa svolgere compiti straordinari, attribuirgli un’intelligenza simile a quella umana potrebbe non essere appropriato, poiché può creare aspettative irrealistiche sulle sue capacità e sul suo comportamento.
