Визуалната система е един от най-важните инструменти, чрез които хората разбират и взаимодействат със заобикалящия свят. За един компютър, обаче, една снимка или видео по подразбиране не е нищо повече от куп числа, съответстващи на последователности от RGB стойности. Компютърното зрение е интердисциплинарна област, която изучава алгоритми, чрез които компютрите могат да получат разбиране на високо ниво на изображенията. С многобройните си приложения в области като автономно шофиране, анализ на медицински изображения, роботика, AI, разпознаване на обекти, анализ на жестове, проследяване и разбиране на сцени, наред с други, компютърното зрение е важен компонент на съвременните AI системи и централна част от изследванията в INSAIT.

Информационната сигурност и криптографията разглеждат въпроса как да се конструират системи, които работят сигурно, дори и в неблагоприятна среда. Освен огромното си практическо значение, това е завладяваща изследователска област с корени в математиката, теоретичната информатика, мрежите и системите.

В INSAIT провеждаме изследвания върху основите на сигурността и неприкосновеността на личния живот, за да подобрим най-съвременното състояние на целия жизнен цикъл на сигурните системи, обхващащ проектиране, анализ, конструиране, експлоатация и оценка. Това включва както криптографските градивни елементи за конструиране на сигурни системи, така и методи и инструменти за комбиниране на тези градивни елементи в мащабни системи и мрежи, които са доказано коректни и добре проектирани, например, имат висока производителност, използваемост и са подходящи за целта.

INSAIT е основен участник в езика за квантово програмиране Silq, първоначално представен в ETH Zurich. Основната теза на Silq е, че квантовите програми могат, в по-голямата си част, да бъдат изградени подобно на класическите програми. За тази цел Silq цели да освободи програмиста от нискочестотни детайли, специфични за квантовото и обратимо програмиране. Езикът разполага с богата система от типове, която елиминира големи класове грешки в класическите и квантовите програми. Освен това има ергономичен синтаксис, който позволява квантовите алгоритми да бъдат изразявани интуитивно и сбито.

В INSAIT изследванията в областта на алгоритмите и теорията са насочени към фундаменталните въпроси на ефективността и границите на изчисленията. Това включва разработване на алгоритми за оптимизация на графи и мрежи, стрингови и паралелни алгоритми, както и изучаване на разпределени изчисления. Изследователите в института работят върху създаването на алгоритми, които могат да се справят с огромни и динамични данни, характерни за съвременните мрежи, комуникации, биоинформатика и логистика. Особено внимание се отделя на моделирането и анализа на реални изчислителни среди — от облачни инфраструктури до блокчейн системи – като се изследват методи за минимизиране на комуникационните разходи и повишаване на устойчивостта и мащабируемостта.

От теоретична гледна точка, INSAIT изследва прецизната сложност, сложността отвъд най-лошия случай, теорията на кодирането и структурите на мрежи и графи, които формират основата за разбиране на границите на ефективното изчисление. Тези направления целят да определят точните времеви и пространствени граници на алгоритмичните решения и да обяснят защо определени методи работят изключително добре на практика, въпреки теоретичните ограничения. Комбинирайки подходи от комбинаторика, оптимизация и вероятност, изследователите в INSAIT не само развиват фундаменталната наука за алгоритмите, но и изграждат теоретични основи, които могат да променят начина, по който се проектират и анализират реални изчислителни системи.

Обучителният процес на машинното обучение (ML) става все по-фрагментиран, тъй като все повече заинтересовани страни (компании, институции, физически лица) се включват в един или няколко етапа от процеса на създаване на модела. Тъй като тези участници имат различни стимули, крайният ML модел може да не е еднакво полезен за всички страни. Освен това, конфликтните стимули могат да доведат до действия, които могат да навредят на ML модела.

В INSAIT работим върху това да направим машинното обучение устойчиво на манипулации и стратегическо поведение. Как може да се гарантира, че собствениците на данни са стимулирани да предоставят своите данни за обучение на модела? Как да модерираме взаимодействията между собствениците на данни и обучителите на модели, за да гарантираме качеството на ML модела? Как да изградим модели, устойчиви на манипулации от потребителите? Това са някои въпроси, по които изследователите в INSAIT работят в момента.

Изследванията в областта на сигурния и надежден изкуствен интелект (ИИ) в INSAIT са насочени към това ИИ системите да бъдат устойчиви, прозрачни и етични в реални условия. Учени от института разработват нови методи за устойчивост на атаки, които да предотвратят манипулирането на ИИ чрез враждебни примери, както и техники за запазване на поверителността на данните при обучение на модели, включително чрез диференциална поверителност и федеративно обучение. Наред с това се изследват въпросите на безпристрастността, като се търсят начини за измерване и премахване на социалните пристрастия в данните и моделите, така че ИИ системите да бъдат по-справедливи и да не увековечават дискриминация. Тези направления обединяват подходи от машинното обучение, сигурността и теоретичната информатика, за да се създадат ИИ технологии, които могат да бъдат надеждно внедрявани в чувствителни области като здравеопазване, финанси и публични услуги.

Друг основен акцент в INSAIT е гарантирането на достоверността и проследимостта на информацията, генерирана от ИИ. Изследователите разработват методи за проверка на факти в големи езикови модели (LLM), които да идентифицират и предотвратяват разпространението на дезинформация, както и технологии за воден знак – вграждане на незабележими цифрови подписи в текст или изображения, създадени от ИИ. Това позволява откриване на злоупотреби, като плагиатство или фалшиви новини, и подпомага проследяването на произхода на съдържанието. Чрез тези изследователски направления INSAIT цели да изгради основите на доверен, прозрачен и етичен ИИ, който е устойчив както на технически заплахи, така и на социални рискове, съчетавайки научна строгост с практическа отговорност.

Наскоро INSAIT представи COMPL-AI, първото приложение в света за оценка на големи генеративни AI модели спрямо Закона на ЕС за изкуствен интелект. COMPL-AI е разработен от INSAIT, ETH Zurich и LatticeFlow AI. Научете повече за COMPL-AI тук: https://compl-ai.org