Nie używamy słowa „inteligencja” w odniesieniu do oprogramowania. Uważamy to za pomysł naiwny. Mówimy, że jest to „złożone”. Oznacza to, że nie zawsze rozumiemy, co robi.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
W „Cieniu Endera” Orsona Scotta Carda autor podkreśla ograniczenia w sposobie postrzegania możliwości oprogramowania. Sugeruje, że określanie oprogramowania jako posiadającego „inteligencję” jest zbyt uproszczone i błędne. Zamiast tego opowiada się za ideą, że oprogramowanie działa na poziomie złożoności, który często wymyka się naszemu zrozumieniu. Ta złożoność może skutkować wynikami, które nie są w pełni przewidywalne i zrozumiałe dla użytkowników.
Ta perspektywa zachęca do bardziej ostrożnego i zniuansowanego podejścia do technologii, wzywając nas do uznania naszej niezdolności do zrozumienia wszystkich zawiłości wyrafinowanych systemów oprogramowania. Oznacza to, że chociaż oprogramowanie może wykonywać niezwykłe zadania, przypisywanie mu inteligencji na poziomie ludzkim może nie być właściwe, ponieważ może stworzyć nierealistyczne oczekiwania co do jego możliwości i zachowania.
