კომპიუტერებმა არა მხოლოდ შეცვალეს ჩვენი აზროვნება, არამედ აღმოაჩინეს, თუ რა აიძულებს ადამიანებს იფიქრონ - ან ფიქრობენ, რომ ჩვენ ვფიქრობთ. სულ მცირე საკმარისია მასზე პროგნოზირება და თუნდაც გავლენა.
(Not only have computers changed the way we think, they've also discovered what makes humans think - or think we're thinking. At least enough to predict and even influence it.)
ეს ციტატა ხაზს უსვამს ტექნოლოგიების, განსაკუთრებით კომპიუტერებისა და ალგორითმების ღრმა გავლენას ადამიანის შემეცნებასა და ქცევაზე. ბოლო რამდენიმე ათწლეულის განმავლობაში ციფრულმა ტექნოლოგიებმა შეცვალა არა მხოლოდ ჩვენი კომუნიკაციისა და ინფორმაციის მოხმარება, არამედ ჩვენი შიდა აზროვნების პროცესებიც. ერთ-ერთი ყველაზე თვალსაჩინო განვითარება არის ის, თუ როგორ შეუძლიათ ამ სისტემებს გააანალიზონ ჩვენი ქცევები - ჩვენი დაწკაპუნებები, ძიებები, სოციალური მედიის ურთიერთქმედება - და გამოავლინონ შაბლონები, რომლებიც ავლენს ჩვენს პრეფერენციებს, შიშებს და იმედებს. ეს გაგება მათ საშუალებას აძლევს განჭვრიტონ ჩვენი საჭიროებები და გავლენა მოახდინონ ჩვენს გადაწყვეტილებებზე იმ მასშტაბით, რაც ადრე წარმოუდგენელი იყო.
იდეა, რომ კომპიუტერებმა „აღმოაჩინეს ის, რაც ადამიანებს აფიქრებინებს“ ვარაუდობს, რომ ჩვენი აზროვნების ერთადერთი ინიციატორი ვართ სუბიექტებზე, რომელთა აზროვნების მანიპულირება ან მართვა შესაძლებელია გარე ძალების მიერ. ეს ბადებს მნიშვნელოვან კითხვებს ნების თავისუფლების, ავტონომიისა და ასეთი ძლიერი ინსტრუმენტების ეთიკური გამოყენების შესახებ. როგორც ალგორითმები უფრო დახვეწილი ხდება, მათ შეუძლიათ დახვეწილად ჩამოაყალიბონ ჩვენი აღქმა, მოსაზრებები და თვით იდენტობაც კი, ხშირად ჩვენი ცნობიერების გარეშე. ამან შეიძლება გამოიწვიოს ექო კამერები, მანიპულირებული ნარატივები და საზოგადოების პოლარიზაცია.
უფრო მეტიც, კომპიუტერების უნარი „წინასწარმეტყველოს“ ადამიანის ქცევა. კომპანიებსა და მთავრობებს შეუძლიათ გამოიყენონ ეს ცოდნა იმისათვის, რომ მიზანმიმართული იყოს ინდივიდუალური კონტენტი ან შეთავაზება, რაც ეფექტურად იმოქმედებს არჩევანზე, დაწყებული მომხმარებლის ქცევიდან პოლიტიკურ ხმებამდე.
მიუხედავად იმისა, რომ ამ მიღწევებს შეუძლიათ გააუმჯობესონ მოხერხებულობა და ეფექტურობა, ისინი ასევე ქმნიან გადაჭარბების და მანიპულირების რისკებს. მთავარი გამოწვევაა ტექნოლოგიის წარმოუდგენელი სარგებლის დაბალანსება პირადი აგენტურობის შენარჩუნებისა და ექსპლუატაციის პრაქტიკის თავიდან აცილების საჭიროებასთან. ამ დინამიკის აღიარება აუცილებელია ინფორმირებული და გაძლიერებული საზოგადოების ხელშეწყობისთვის, რომელსაც შეუძლია ციფრულ ეპოქაში ცნობიერებითა და პასუხისმგებლობით გადაადგილება.
