Wir verwenden das Wort „Intelligenz“ nicht im Zusammenhang mit Software. Wir halten das für eine naive Idee. Wir sagen, dass es „komplex“ ist. Das bedeutet, dass wir nicht immer verstehen, was es tut.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
In „Ender’s Shadow“ von Orson Scott Card betont der Autor die Grenzen unserer Wahrnehmung von Softwarefähigkeiten. Er weist darauf hin, dass es zu einfach und fehlgeleitet ist, Software als „intelligent“ zu bezeichnen. Stattdessen vertritt er die Idee, dass Software mit einem Grad an Komplexität arbeitet, der sich unserem Verständnis oft entzieht. Diese Komplexität kann zu Ergebnissen führen, die für Benutzer nicht vollständig vorhersehbar oder verständlich sind.
Diese Perspektive lädt zu einem vorsichtigeren und differenzierteren Umgang mit Technologie ein und drängt uns, unsere Unfähigkeit zu erkennen, alle Feinheiten hochentwickelter Softwaresysteme zu erfassen. Dies impliziert, dass Software zwar bemerkenswerte Aufgaben erfüllen kann, es jedoch möglicherweise nicht angemessen ist, ihr menschenähnliche Intelligenz zuzuschreiben, da sie unrealistische Erwartungen hinsichtlich ihrer Fähigkeiten und ihres Verhaltens wecken kann.
