Chúng tôi không sử dụng từ 'trí thông minh' với phần mềm. Chúng tôi coi đó là một ý tưởng ngây thơ. Chúng ta nói rằng nó 'phức tạp'. Điều đó có nghĩa là không phải lúc nào chúng ta cũng hiểu nó đang làm gì.
(We don't use the word 'intelligence' with software. We regard that as a naive idea. We say that it's 'complex.' Which means that we don't always understand what it's doing.)
Trong “Ender's Shadow” của Orson Scott Card, tác giả nhấn mạnh những hạn chế trong cách chúng ta nhìn nhận khả năng của phần mềm. Ông gợi ý rằng việc coi phần mềm là có 'trí thông minh' là quá đơn giản và sai lầm. Thay vào đó, ông ủng hộ ý tưởng cho rằng phần mềm hoạt động ở mức độ phức tạp mà chúng ta thường không thể hiểu được. Sự phức tạp này có thể dẫn đến những kết quả mà người dùng không thể dự đoán hoặc hiểu được đầy đủ.
Quan điểm này mời gọi một cách tiếp cận công nghệ thận trọng và nhiều sắc thái hơn, thúc giục chúng ta thừa nhận sự bất lực của mình trong việc nắm bắt tất cả những điều phức tạp của các hệ thống phần mềm phức tạp. Nó ngụ ý rằng mặc dù phần mềm có thể thực hiện các nhiệm vụ đáng chú ý nhưng việc gán trí thông minh giống con người cho nó có thể không phù hợp vì nó có thể tạo ra những kỳ vọng không thực tế về khả năng và hành vi của nó.
