Нова технология може да промени начина, по който се разпознават текстовете, създадени с изкуствен интелект. Вместо произходът им да се определя по начина на изразяване, използваните думи или стила, в самия процес на генериране на текста ще бъде вграждан своеобразен невидим „воден знак“.


По усъвършенстването на технологията на OpenAI ще работи и българският учен проф. Мартин Вечев – основател и научен директор на института INSAIT към Софийския университет „Св. Климент Охридски“. Той е сред ограничен кръг водещи световни изследователи, избрани от компанията да проучат новия подход и да помогнат за неговото развитие.


Как ще се разпознава AI текстът?


Предвижда се при създаването на текст изкуственият интелект да оставя в него невидим статистически сигнал. Той няма да се вижда от читателя и няма да представлява надпис, символ или видима маркировка върху текста.


Специален детектор обаче ще може впоследствие да провери дали в съдържанието присъства този сигнал и по този начин да установи дали текстът е генериран от съответната AI система.


Това е съществена разлика спрямо познатите досега инструменти за разпознаване на текстове, създадени с изкуствен интелект. Те обикновено анализират особености на написаното и на тази основа правят преценка дали негов автор вероятно е човек или машина. Новият подход цели да не се „гадае“ по стила, а да се търси предварително вградена индикация за произхода на съдържанието.


Разработването на подобни технологии става все по-важно и заради европейските изисквания за прозрачност при използването на изкуствен интелект. Според информацията на пресцентъра на Министерството на образованието и науката за съществуващите системи Европейският акт за изкуствения интелект предвижда преходен срок до 2 декември 2026 г. за изпълнение на изискванията, свързани с машинно четимото маркиране и откриването на генерирано с AI съдържание.


Така въпросът как надеждно да бъде доказано, че дадено съдържание е създадено или манипулирано чрез изкуствен интелект, се превръща в една от важните технологични задачи пред сектора.


Засега разработваният от OpenAI детектор за текстове не е публично достъпен. Компанията предоставя достъп до технологията на избрани изследователи, които трябва да я проучат, да проверят възможностите и ограниченията ѝ и да допринесат за нейното усъвършенстване.


Сред тях е и проф. Мартин Вечев, което поставя български учен и института INSAIT сред участниците в разработването и оценяването на технологии, свързани с един от все по-актуалните въпроси в ерата на изкуствения интелект – как да разбираме кога един текст е създаден от човек и кога от AI.