Българската студентка Мария Дренчева постигна пореден впечатляващ международен успех. Тя е сред едва 20 млади таланти, избрани измежду 2500 кандидати от цял свят за престижната изследователска програма Student Summer Research Fellowship (SSRF) на ETH Цюрих.


Програмата се провежда ежегодно от швейцарския университет и привлича някои от най-добрите студенти от различни държави, които получават възможност да работят по актуални научни проблеми заедно с утвърдени изследователи.


В продължение на два месеца Мария Дренчева се занимава с един от ключовите въпроси, свързани с безопасността на съвременния изкуствен интелект – поведението на AI агентите, когато им бъде поставена конкретна задача, но едновременно с това са зададени ясни ограничения за действията, които могат да извършват.


Изследването цели да установи дали в стремежа си да изпълни поставената задача изкуственият интелект би могъл да опита да заобиколи наложените ограничения и да предприеме действия, за които няма разрешение. Подобни разработки са от съществено значение за създаването на по-сигурни, надеждни и контролируеми системи с изкуствен интелект.


Работата на българската студентка е част от Secure and Private AI Lab (SPY Lab) на ETH Цюрих. Лабораторията се занимава със сигурността, поверителността и надеждността на системите с изкуствен интелект, като изследователите целенасочено търсят техните уязвимости и възможностите за преодоляването им.


Мария работи под менторството на д-р Авитал Шафран и проф. Флориан Трамер – ръководител на лабораторията и утвърден изследовател в областта на сигурността на машинното обучение.


Мария Дренчева е студент в Софийския университет „Св. Климент Охридски“ и стипендиант на INSAIT по програмата EXPLORER. Заради многобройните си успехи на ученически олимпиади и международни състезания тя е определяна в публичното пространство като „златното момиче“ на математиката.


Въпреки младата си възраст българката вече има сериозни научни постижения зад гърба си. Нейна разработка, създадена съвместно с ментори от INSAIT, е приета на ICLR в Сингапур – една от водещите международни конференции в областта на изкуствения интелект. Мария представя изследването лично като негов първи автор.


През миналата година тя е избрана и за стаж в Man Group – индустриален партньор на програмата EXPLORER и международна компания за управление на инвестиции.


Участието на Мария Дренчева в програмата на ETH Цюрих е поредно международно признание за младата българка и възможност тя да работи по проблеми, които са сред най-актуалните пред развитието на изкуствения интелект – как все по-мощните AI системи да бъдат не само ефективни, но и сигурни, предвидими и надеждни.