Новата сила на манипулацията

Google и Facebook могат да влияят на мнението на своите потребители. Това е опасно.

 Сандро Гайкен

Компютърният учен Сандро Гайкен отдавна е активен член на германската хакерска асоциация, „Компютърен клуб Хаос“. Сега той съветва компании и институции като НАТО по въпросите на киберсигурността.

Връзката между демокрацията и интернет се влошава. Както при тоталитарните, така и при  демократичните нации се наблюдава наблюдава увеличаване на онлайн цензурата и масовото наблюдение на потребителите. Дезинформацията и пропагандата видимо се превръщат в ефективни антидемократични инструменти.

Голямата нова заплаха за свободата на интернет, която в момента е тема на  все повече дискусии, е „Манипулативният ефект на търсачките“ (SEME), нещо, което Робърт Епщайн от Американския институт за поведенчески изследвания и технологии проучва от 2012 г.

Епщайн доказа, че е възможно да се променят политическите възгледи на хората чрез манипулиране на резултатите от онлайн търсенето, връщани от търсачките (докладът може да свалите тук).

Очевидно това е много ефективен метод за влияние на хората – повече от една четвърт от участващите в експериментите на Епщайн променят възгледите си. Методът също така е в състояние да манипулира мнения по отделни въпроси, като фракинг(метод за добив на шистов газ) например, както и общото поведение при гласуване.

И SEME се случва напълно несъзнателно. На практика никой от участниците дори не подозира, че са манипулирани, защото хората приемат, че Интернет и неговите търсачки са изцяло обективни и че резултатите, връщани от Google и Yahoo [търсене] са напълно неутрални.

Никой не знае дали алгоритмите, използвани от търсачките, са наистина безпристрастни. Пазени в строга секретност, те предоставят на компаниите огромна сила, като Google е най-мощният пример за това. Предвид огромния си пазарен дял, изглежда, че Google има де факто монопол върху формирането на мненията в повечето страни по света.

А предполагаемите алтернативи често изобщо не са алтернативи. Цената на обхождането на непрекъснато разширяващата се мрежа и търсенето в нея за термини и контекст се е увеличила толкова драматично, че търсачките често черпят своите данни от Google, вместо да генерират свои собствени. Най-новият пример за това е Yahoo. Ако използвате Yahoo в опит да избягате от манипулативната сила на Google, вие всъщност сърфирате с Google.

Епщайн наскоро спекулира, че Google отдавна манипулира демократичните процеси. През 2015 г. кандидатът за президент на САЩ Хилари Клинтън наема Стефани Ханън от Google и я назначава за главен технологичен директор на кампанията си.

Скоро след това Ерик Шмид, изпълнителен председател на компанията майка на Google – Alphabet, създаде компания, наречена The Groundwork, която е имала за цел да постави Хилари Клинтън на президентския пост. Всъщност малко се знае за The Groundwork, но ако Google приложи силата на своите алгоритми, може да превърне милиони неопределили се избиратели в поддръжници на определен кандидат, без те изобщо да осъзнаят, че са били манипулирани.

Новинарските канали вече се използват успешно за промяна на настроенията на големи групи

Facebook също има своя версия на машината за манипулации. Компанията предлага таргетиран политически маркетинг от известно време. Кандидатът за президент на републиканците на САЩ Доналд Тръмп, например, го използва. Хората, смятани за „политически умерени“ от Facebook, получават значително повече реклами, популяризиращи републиканците – реклами, които са фино настроени за тази целева група. Но има нещо повече от простото показване на реклама или засилването на рейтинга на публикация, с цел да бъде показана по-напред в рубриките.

Перфидните дълбини на Facebook се крият в силата на неговото профилиране и асоциативната манипулация. Неговите собствени тайни алгоритми позволяват на компанията лесно да създава политически профили на своите потребители. Чрез сравняване на профили е възможно да се идентифицират по-дълбоки корелации между интересите на потребителите и впоследствие да се направят допълнителни заключения относно политическите възгледи на потребителите.

Тъй като алгоритъмът на Facebook анализира всички данни, взимайки предвид всички връзки и харесвания, той разкрива гигантски брой корелации. Това може да доведе до хиляди точки от данни, описващи състава и йерархията на политическите интереси с такава прецизност, че на това може да се гледа като на отказ от тайното гласуване. Преди всичко, тези профили предлагат неограничени изтънчени и фини възможности за повлияване на потребителите и предвид динамиката на социалните медии и обратната връзка, тези възможности могат постоянно да се измерват и подобряват.

Технически подходи изобилстват. Newsfeed на Facebook вече се използва успешно в експерименти за повлияване на настроенията на големи групи от хора и може да се използва и за политически манипулиране на потребителите. През май 2016 г. служителите на Facebook съобщиха, че косвено са били задължени да потискат десните новинарски истории, въпреки че тези слухове не могли да бъдат потвърдени.

Най-ефективната техника за манипулиране обаче представляват филтрите, които класират публикациите според предпочитанията на потребителите, предлагат публикации или просто създават поредици от публикации. Дори само познаването на споделените интереси на потребителите прави възможно засилването на специфични нагласи, дори когато информацията е привидно аполитична. Асоциативната манипулация чрез асоцииране автоматично се възползва от добре познати психологически ефекти като ефект на закотвяне, илюзорна корелация или коригиране на мнението, за да се съобрази с референтната група. И както при Google, ние не бихме могли да докажем наличието на някаква незабележима манипулация от страна на Facebook.

В резултат на това Интернет създава нов проблем за демокрацията. Политическата комуникация, както е определена от немския философ Юрген Хабермас, е силно изкривена. Нейерархичният дискурс, с неговите високи стандарти за обективна истина, нормативна правота и субективна истинност, разбира се, никога не е съществувал. Но когато човек чете вестник с определени политически пристрастия или редовно обсъжда политика с група, затворена за външни лица, това все още е личен избор, направен в условия на наличие на достъп до истината. Но новите фини и централизирани възможности за целенасочена, невидима и неконтролируема политическа манипулация всъщност са съвсем различна история – те са зловещо изкривяване на начина, по който се формират мненията в една демокрация.

Демокрацията и нейните институции трябва да отговорят на това. Алгоритмите и бизнес дейностите на корпорациите за данни трябва да бъдат прозрачни и проверими и трябва да има по-независима, проверена информация. За да проработи това, политиката по отношение на Интернет трябва да започне да отчита реалностите във виртуалната среда.

Политическата среда все още е колеблива, когато става въпрос за регулиране на мощните ИТ корпорации. Разбира се, проблемите са сложни. ИТ компаниите разпространяват съмнения и критики относно възможните регулации, а политическият дискурс се задвижва от други теми. Демагогските тролове и различни активисти, също закрещяват в хор за предстоящия Апокалипсис всеки път, когато дори само се спомене за интернет политика.

Но законодателната власт трябва да предприеме действия сега, защото ако не го направи, ние ще загубим основните елементи на демокрацията заради невидимата перфидна злост на машината.

Източник:

Deutsche Welle