Системите с изкуствен интелект, които все по-често се използват за редактиране, обобщаване и преформулиране на текстове, могат неусетно да променят смисъла на публикации по чувствителни обществени теми. Това показва ново международно изследване на учени от Оксфордския институт за интернет и Института „Хасо Платнер“, цитирано от британското издание The Guardian.


Според експертите популярните езикови модели, разработени от компании като xAI, Meta, Google, Alibaba и Mistral, понякога въвеждат политически пристрастия дори когато са инструктирани да запазят първоначалното значение на текста. Анализът обхваща теми като абортите, климатичните промени и религията – въпроси, които често предизвикват силни обществени дебати.


Изследователите предупреждават, че дори минимални промени в съдържанието могат да се натрупват при милиони онлайн взаимодействия и с времето да окажат съществено влияние върху обществените нагласи. Според тях именно този ефект представлява сериозен риск, който все още не е достатъчно отчетен в действащите европейски регулации, включително Закона за изкуствения интелект на ЕС и Закона за цифровите услуги.


В доклада се отбелязва, че досега опасенията относно онлайн пристрастията бяха насочени основно към алгоритмите, които създават т.нар. „информационни балони“. Все по-широкото използване на инструменти за автоматично писане и обяснение на съдържание обаче поставя ново предизвикателство пред надеждността на комуникацията в интернет.


Като пример учените посочват функцията за обяснение на публикации, интегрирана в платформата X чрез Grok. При анализ на публикации, свързани с темата за абортите, системата по-често е представяла аргументи, подкрепящи една от позициите, без да разглежда достатъчно подробно противоположните гледни точки.


Авторите на изследването подчертават, че подобни технологии могат да бъдат ценен помощник в ежедневната работа, но е необходимо тяхното функциониране да бъде по-прозрачно и подложено на по-строг обществен и регулаторен контрол. Според тях само така може да се гарантира, че инструментите с изкуствен интелект ще подпомагат информирания обществен дебат, без да влияят неосъзнато върху мнението на потребителите.