FEL ČVUT koordinuje výzkum AI podpořený 95 miliony korun od Evropské komise

České vysoké učení technické si připisuje na konto další úspěch: elektrotechnická fakulta se podílí na vývoji spravedlivých algoritmů umělé inteligence.

Umělá inteligence se dnes už skrývá všude

Kdysi jsme si pod pojmem umělá inteligence (AI) představovali jen roboty, kteří za nás budou dělat pomocné nebo jednoduché práce. Potom se pojem přesunul spíše k představě o počítačích… a dnes je umělá inteligence ve skutečnosti program, který nám pomáhá v každodenním životě, aniž bych o tom vůbec věděli.

Umělá inteligence dnes pohání celou řadu systémů od doporučování obsahu na sociálních sítích, přes strojové vidění samořídících aut, až po rozhodnutí o (ne)přidělení půjčky v bance. Tyto příklady jasně demonstrují, jak zásadní dopad AI algoritmy mají. Jejich uspokojivé fungování je proto klíčové pro jednotlivce i pro společnost jako celek.

Centrum umělé inteligence FEL ČVUT přišlo s projektem AutoFair

Mezinárodní projekt AutoFair se bude zabývat návrhem vysvětlitelných a transparentních algoritmů umělé inteligence. Projekt získal v evropském programu Horizon Europe grant ve výši 3 840 846 eur (necelých 95 milionů korun). Z celkového počtu 206 žádostí ve výzvě HUMAN-01 jich uspělo 46.

Tříletý projekt AutoFair byl vybrán k financování jako jediný projekt koordinovaný institucí z České republiky. Jeho hlavním řešitelem je dr. Jakub Mareček z Centra umělé inteligence na Fakultě elektrotechnické Českého vysokého učení technického v Praze (FEL ČVUT). Ta z grantu dosáhne na 15 milionů korun. Zbývajících 80 milionů korun rozdělí mezi dalších sedm členů konsorcia, mezi kterými jsou vědci z prestižních univerzit včetně Imperial College London, izraelského technologického institutu Technion a Národní a kapodistrijské univerzity v Aténách.

Partnerské instituce pak doplní ještě technologické firmy, které poskytnou potřebná data k modelování a nakonec i ověří aplikovatelnost výsledků v praxi. Bude se jednat jak o nadnárodní společnosti, tak o lokální startupy využívající umělou inteligenci.

Spravedlivé algoritmy umělé inteligence

Cílem projektu AutoFair je zaručit, že AI algoritmy nebudou nikomu stranit. Umělá inteligence fungující jako černá skříňka, do jejíhož rozhodování nemáme vhled, totiž představuje značné riziko. Algoritmus může fungovat pro řadu lidí uspokojivě, ale pro některé může tentýž algoritmus fungovat naopak velmi špatně. Jednou ze strategií, jak s tímto rizikem pracovat, je práce s daty. Výběr dat pro učení systému musí být reprezentativní a nesmí přenášet nerovnosti ve společnosti do vývoje algoritmů.

Opačnou strategií je pak důsledně vysvětlovat veřejnosti fungování a omezení AI systémů. Tato strategie se pro změnu týká komunikačních aspektů až po samotné implementaci umělé inteligence.

Projekt AutoFair kombinuje oba tyto extrémní přístupy. Chce vylepšit samotné algoritmy a zároveň vzdělávat koncové uživatele. Opírá se proto o poznatky z počítačových a datových věd, teorie řízení, optimalizace a dalších vědních disciplín, včetně etiky a práva.

Odemykání mobilu obličejem? Pro někoho problém

Otázky související s etikou umělé inteligence se běžně prozkoumávají v počítačovém vidění. „Řada lidí k odemčení mobilu používá systém pro rozpoznání obličeje. Ten však poměrně dlouho fungoval spolehlivě jen pro muže bílé pleti a úspěšnost pro etnické menšiny byla ještě donedávna podstatně nižší. Tento problém daný nereprezentativností dat se již podařilo odstranit. Umělá inteligence má však řadu dalších použití, kde podobné etické problémy dodnes přetrvávají,“ vysvětlil koordinátor projektu dr. Mareček z FEL ČVUT.

Výstupy budou testovány ve třech oborech

Výstupy projektu budou testovány na třech případových studiích průmyslového využití napříč třemi odvětvími.

Prvním z nich je automatizace férového hodnocení při náboru zaměstnanců, druhým je odstranění genderové nerovnosti v reklamě a třetím je oblast finančních technologií, konkrétně eliminace diskriminace klientů bank. Vznik tří případových studií doprovodí expertní skupiny složené ze zástupců byznysu, veřejných orgánů, nevládních organizací i politiků. Pohled všech zájmových skupin bude stěžejní pro výzkumný proces a zvýší potenciál pro praktickou aplikaci výsledků projektu.

Reálná implementace vědeckých poznatků a etické využití umělé inteligence jsou hlavní devizou projektu AutoFair. „Věřím, že se výstupy projektu podaří promítnout také do plánované regulace umělé inteligence, kterou připravuje Evropská komise,“ uvedl Mareček.

Zdroj: FEL ČVUT