Não usamos a palavra “inteligência” com software. Consideramos isso uma ideia ingênua. Dizemos que é 'complexo'. O que significa que nem sempre entendemos o que está fazendo.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
Em "Ender's Shadow", de Orson Scott Card, o autor enfatiza as limitações de como percebemos as capacidades do software. Ele sugere que referir-se ao software como tendo “inteligência” é excessivamente simplista e equivocado. Em vez disso, ele defende a ideia de que o software opera com um nível de complexidade que muitas vezes escapa à nossa compreensão. Esta complexidade pode resultar em resultados que não são totalmente previsíveis ou compreensíveis para os utilizadores.
Esta perspectiva convida a uma abordagem mais cautelosa e matizada da tecnologia, instando-nos a reconhecer a nossa incapacidade de compreender todas as complexidades dos sistemas de software sofisticados. Isso implica que, embora o software possa realizar tarefas notáveis, atribuir-lhe inteligência semelhante à humana pode não ser apropriado, pois pode criar expectativas irrealistas sobre as suas capacidades e comportamento.
