Nous n'utilisons pas le mot « intelligence » avec les logiciels. Nous considérons cela comme une idée naïve. Nous disons que c'est « complexe ». Ce qui veut dire qu’on ne comprend pas toujours ce qu’il fait.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
Dans « Ender's Shadow » d'Orson Scott Card, l'auteur souligne les limites de la façon dont nous percevons les capacités logicielles. Il suggère que qualifier les logiciels de « intelligents » est trop simpliste et erroné. Il défend plutôt l’idée selon laquelle les logiciels fonctionnent avec un niveau de complexité qui échappe souvent à notre compréhension. Cette complexité peut donner lieu à des résultats qui ne sont pas entièrement prévisibles ou compréhensibles pour les utilisateurs.
Cette perspective invite à une approche plus prudente et nuancée de la technologie, nous incitant à reconnaître notre incapacité à saisir toutes les subtilités des systèmes logiciels sophistiqués. Cela implique que même si les logiciels peuvent effectuer des tâches remarquables, leur attribuer une intelligence proche de celle de l’humain n’est peut-être pas approprié, car cela peut créer des attentes irréalistes quant à leurs capacités et leur comportement.
