Големите езикови модели (LLM) не просто събират съществуваща информация; те я генерират и оформят.

ПАРИЖ – Алгоритмите не са неутрални по отношение на ценностите. И все пак вече повече от десетилетие позволяваме на големите технологични компании да ги използват като пазители на нашата информационна екосистема, без да изискваме прозрачност или отчетност в замяна.

Последиците варират – от засилване на поляризиращо и сензационно съдържание до прикрита персонализирана реклама, разпространение на монополни практики и форми на влияние върху обществения дебат, които противоречат на демократичното обсъждане.

Въпреки че по трудния начин научихме какво се случва, когато критична информационна инфраструктура се предостави на корпоративни интереси без надзор, сега повтаряме същата грешка с AI чатботовете — а залозите могат да бъдат много по-големи. Чатботовете не просто подбират съществуваща информация; те я създават и рамкират. Facebook и Google решаваха кои новинарски статии да ви покажат, докато инструменти като ChatGPT, Claude и Gemini синтезират тази информация в отговори, звучащи авторитетно.

Това разграничение е важно, защото преходът от „куратор“ към „редактор“ прави неправомерното влияние още по-незабележимо и по-вредно. Отново отстъпваме безпрецедентна власт върху информационната инфраструктура на бъдещето на частни корпорации, без дори да изискваме независим надзор. Най-належащата заплаха не е, че тези AI системи могат да излязат извън контрол, а че шепа заинтересовани страни бързо се превръщат в информационни пазители за все по-голяма част от населението.

Сегашните чатботове не са просто големи езикови модели (LLM). Те се основават на няколко непрозрачни алгоритмични слоя, които участват в разработването и внедряването на модела, и всеки от тях може да бъде точка за намеса, чрез която платформи или други участници оформят информацията според своите интереси.

Има поне пет слоя в този „стек на алгоритмично влияние“. Първият е подборът на тренировъчни данни. При определянето кои данни да бъдат включени или изключени, платформите вземат непрозрачни решения за източниците, за тежестта на различните гледни точки и за това кое съдържание да бъде филтрирано. Тези избори оформят светогледа на модела.

Например през октомври 2025 г. Илон Мъск стартира Grokipedia, за да осигури тренировъчни данни за чатбота си Grok. Като корпоративно контролирана енциклопедия, целта ѝ е да предложи „анти-woke“ алтернатива на Wikipedia и нейния модел на общностно управление, който отдавна е широко доверен източник на информация в интернет.

Вторият слой е обучението чрез подсилване чрез човешка и AI обратна връзка – процесът, който превърна LLM от непредсказуеми генератори на текст в използваеми „асистенти“. В този етап човешки оценители класифицират отговорите, за да насочат системата към желано поведение като полезност или учтивост.

Засега тези човешки оценки остават важна, но до голяма степен невидима част от AI индустрията. Все по-често обаче те се заменят от специализирани AI „учители“, които трябва да съгласуват основния модел с предварително зададени принципи, кодирани в своеобразна „конституция“.

Третият слой е уеб търсенето. Когато чатботовете търсят онлайн или използват дигитални бази данни, системите за генериране с допълнено извличане определят кои части от информацията да бъдат включени в отговора. Тази функция наподобява традиционните търсачки, които приоритизират определени източници. А както при тях, въвеждането на реклами в отговорите на чатботовете — което ChatGPT обяви за 2026 г. — поражда допълнителни опасения за обективността.

Четвъртият слой са системните инструкции (system prompts). Те се активират, когато чатботът генерира отговор, и позволяват на платформите да променят поведението му без повторно обучение. Например, тъй като системният prompt на Grok беше публикуван, знаем, че включва указания като „не се въздържай от твърдения, които са политически некоректни“. (ChatGPT, Claude и Gemini също използват такива инструкции, но те остават тайна.)

Последният слой са филтрите за безопасност. Преди заявката да достигне модела, входните филтри решават дали тя е „приемлива“. След генерирането на отговор, изходните филтри могат да променят, цензурират или „изчистят“ съдържанието.

Макар че има легитимни причини да се блокират определени заявки (например инструкции за създаване на бомба), непрозрачността на тези филтри поражда въпроси. Разработчиците могат да създадат инфраструктура за систематична цензура, без ние да знаем. Например „филтрите за безопасност“ на китайските чатботове цензурират всички препратки към събитията на площад Тянанмън.

Политически и корпоративни интереси вече оформят този стек на алгоритмично влияние, докато чатботовете се внедряват глобално. След второто встъпване в длъжност на Доналд Тръмп, Apple актуализира инструкциите си за обучение на AI, за да избегне обозначаването на поддръжниците на MAGA като „радикални“ или „екстремни“.

Миналото лято Reuters установи, че Meta е разхлабила вътрешните си AI правила, премахвайки някои защити срещу расистки изказвания или „флиртуващо“ поведение с непълнолетни. А през май Grok започна да разпространява необосновани твърдения за „бял геноцид“ в Южна Африка(самият Мъск е бял южноафриканец). Макар компанията да говори за „неоторизирани промени“, подобни „грешки“ често съвпадат с възгледите на Мъск.

Политическата манипулация чрез чатботове вече се доказва като ефективна. Проучване в списание Nature от 2025 г. показва, че чатботове, обучени да подкрепят конкретен кандидат, могат лесно да повлияят на умерени и колебаещи се избиратели — именно тези, които решават изборите.

За разлика от авторитарните системи, демокрациите разчитат на множество източници и прозрачна, отчетна информационна среда. Да се позволи централизирана и безотчетна власт върху AI инфраструктурата означава да се отвори път към техно-авторитаризъм, защото всеки слой от алгоритмичното влияние може да бъде използван за подсилване или потискане на определени гледни точки без явна цензура.

През декември миналата година Европейската комисия глоби X със 120 милиона евро за нарушаване на изискванията за прозрачност съгласно Закона за цифровите услуги. Очаквано, компанията и нейните защитници представиха това като атака срещу свободата на словото. Но прозрачността е ключова за защитата на тази свобода. Без нея не можем да знаем кой е цензуриран и какви влияния оформят информацията, която консумираме.

Възходът на социалните мрежи ни показа какво се случва, когато отчетността изостава от внедряването. Не можем да си позволим да повторим същите грешки със системи, които имат още по-голяма власт върху общественото знание.

източник: The Japan Times