우리는 소프트웨어에 '지능'이라는 단어를 사용하지 않습니다. 우리는 그것을 순진한 생각이라고 생각합니다. 우리는 그것이 '복잡하다'고 말합니다. 이는 우리가 그것이 무엇을 하는지 항상 이해하지 못한다는 것을 의미합니다.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
Orson Scott Card의 "Ender's Shadow"에서 저자는 우리가 소프트웨어 기능을 인식하는 방식의 한계를 강조합니다. 그는 소프트웨어를 '지능'을 갖고 있다고 언급하는 것은 지나치게 단순하고 잘못된 것이라고 제안합니다. 대신 그는 소프트웨어가 종종 우리가 이해할 수 없는 수준의 복잡성으로 작동한다는 아이디어를 옹호합니다. 이러한 복잡성으로 인해 사용자가 완전히 예측하거나 이해할 수 없는 결과가 발생할 수 있습니다.
이러한 관점은 기술에 대한 보다 신중하고 미묘한 접근 방식을 요구하며, 정교한 소프트웨어 시스템의 모든 복잡성을 파악하는 것이 불가능하다는 점을 인식하도록 촉구합니다. 이는 소프트웨어가 놀라운 작업을 수행할 수 있지만 인간과 유사한 지능을 소프트웨어에 부여하는 것은 적절하지 않을 수 있음을 의미합니다. 소프트웨어의 기능과 동작에 대해 비현실적인 기대를 불러일으킬 수 있기 때문입니다.
