František Zeman: Umělá inteligence může lidem pomáhat, ale má i své etické limity

Umělá inteligence je fenomén, který již několik let rezonuje zejména mezi odbornou veřejností a nyní také v byznysové sféře. Avšak aplikace ChatGPT, do které investovala obrovské prostředky společnost Microsoft, přenesla celou problematiku i mezi širokou veřejnost a debata o schopnostech, využití a etických limitech AI se stala věcí celospolečenskou. „Osobně si ale myslím, že jde částečně o nafouknutou bublinu, na druhou stranu jsou oblasti, v níž mohou algoritmy AI lidem výrazně zjednodušit pracovní procesy a přesměrovat je ke kreativnějším činnostem,“ řekl František Zeman, ředitel české technologické společnosti Algotech. 

Průmyslová revoluce i další technologické milníky daly společnosti možnost růstu. Proč si myslíte, že je zrovna fenomén umělé inteligence jen nafouknutou bublinou?  

Je pravdou, že třeba vynález parního stroje, přechod k velkosériové výrobě i první automatizace a příchod výpočetní techniky společnost posunuly a otevřely jí nové obzory, avšak když se podívám na to, čemu se říká umělá inteligence, vidím za tím jen algoritmy, které umí velmi efektivně pracovat s databázemi a daty. A také vidím módní trend a téma, které je mediálně velmi vděčné. To, co se kolem umělé inteligence děje, mi připomíná haló, které se odehrávalo v 60. a 70. letech 20. století ohledně vesmírného programu. Vše bylo najednou kosmické, mnoho firem investovalo nemalé peníze do projektů i technologií, tématu vesmíru se podřizoval i design a kultura jako celek. Ale na Měsíci byl člověk naposledy v roce 1972. AI bude patřit do našich životů a v mnoha oblastech změní naše návyky. Jediné, co mi vadí je ten povyk okolo.  

Nicméně určitě platí, že když tento fenomén redukuji čistě na technologii a odstraním z něj onu trendy vrstvu, máme k dispozici nástroj, který bude mít mezi lidmi své místo. 

Například kde?

Představte si třeba autora textů, ať už jde o muzikanta, copywritera nebo novináře. Jemu může taková aplikace vygenerovat text, vytvořený na základě jeho požadavků. A on pak jen surový text upraví tak, jak potřebuje. Znamená to, že algoritmus, jako je například ChatGPT, může zpracovávat podklady pro další práci. Vědcům i novinářům může připravovat rešerše, i když na druhou stranu, vzhledem k tomu, že algoritmus je stále závislý jen na datech, která do něj člověk vloží, je třeba brát takové výstupy s rezervou, aby se zadavatel nestal obětí konfirmačního zkreslení. Nebo mě napadá další možné využití v oblastech, kde zatím docházelo k rutinním činnostem nebo ruční práci s daty, typicky přepisování, vkládání či filtrování určitých informací. To také může dělat AI. Ale neznamená to, že by lidé, kteří toto všechno dříve vykonávali, přišli o práci. Spíše budou mít prostor pro jinou, smysluplnější a kreativnější činnost.

Napadá mě ještě jedna oblast, kde může AI být člověku k užitku. Mám na mysli péči o zákazníky, zejména při řešení potíží, poruch a podobně. 

Ano, je to tak. I zde může a vlastně se tak už často i děje, umělá inteligence pomoci. Vždyť na kolika internetových stránkách je k dispozici chatbot, který s námi začne komunikovat, představí se a člověk s ním může probrat své potřeby. Takový chatbot pak, když zjistí, že dotaz není schopen vyřešit sám, uživatele přesměruje k operátorovi, který s ním jeho požadavek dořeší. A to je právě ono nahrazení rutinních činností, o kterých jsem hovořil před chvílí. Stejně tak fungují voiceboty a řekl bych, že na mnoha zákaznických telefonních linkách se již upouští od výběru pomocí číselného rozcestníku. Nicméně bych si asi už dal pozor na hlasovou autentifikaci, protože algoritmus bude brzy schopen velmi dobře imitovat konkrétní hlas. V ten moment se hlasové zabezpečení, které se ještě nedávno přirovnávalo svou unikátností k otiskům prstů, stává velmi snadno prolomitelné a zneužitelné. Ale takový je vývoj. Mnoho věcí, které se zdály být ideální, se překoná a skončí v zapomnění. 

Když hovoříme o zákaznické péči, jak moc ji tedy může AI zefektivnit? 

Já se v tomto oboru pohybuji od roku 1996 a byl jsem u budování prvních call center v Česku. Právě proto si myslím, že je třeba se na problematiku dívat trochu jinak. Jednou věcí je efektivita centra, ale tou druhou je user experience. A tyto dvě věci nemohou zůstat rozdělené. Když si vzpomenu na přístup k zákaznické péči, tak ten za těch 25 let prošel snad všemi směry. Nejprve se nehledělo na náklady, protože každý chtěl mít call centrum. V další fázi se uvažování dostalo do bodu přesného opaku, tedy že náklady musejí být co nejnižší a operátoři byli nuceni dodržovat stanovené časy na komunikaci se zákazníkem. Museli být rychlí, jenže v té rychlosti se ztrácela vřelost a snaha o opravdovou pomoc s problémem. Pak se šlo zase cestou, kdy operátoři neustále nabízeli volajícím i jiné produkty a nyní v call centrech začíná rezonovat to, že komunikaci je třeba opravdu zefektivnit, ale zároveň musí zůstat ten rozměr skvělé zákaznické zkušenosti. I proto se mimo jiné upouští od číselných rozcestníků a na linky se nasazují pro ten prvotní kontakt voiceboti. Zákazník s ním hovoří jako s člověkem a algoritmus na základě analýzy klíčových slov buď problém zvládne vyřešit, nebo volajícího předá operátorovi, který ihned ví, kdo volá, jaké má produkty či služby a jaký je jeho problém. AI tedy může pomáhat zákazníkům, aby se cítili komfortně a věděli, že je o ně dobře postaráno, když se vyskytnou potíže. 

Zejména laická veřejnost hovoří o AI s nadšením, ale vidíte třeba vy konkrétně nějaká úskalí této technologie? 

Určitě je tam etický rozměr, který zatím není nijak uchopený a já si myslím, že není v současnosti ani právně uchopitelný. Například v IKEM nyní probíhá výzkum, kdy vědci algoritmu dodali ohromné množství CT snímků a AI má zkoušet je diagnostikovat. Mě k tomu ihned napadá otázka, co když stroj udělá chybu a pacient třeba zemře. Kdo za ni bude zodpovědný? Stejné je to v oblasti autonomních vozidel. V momentě, kdy bude mít takové vozidlo nehodu, tak není nikdo, kdo by nesl za událost odpovědnost. To je problém, zejména v případě, že se srazí s vozidlem, které řídí člověk a dojde ke zranění či úmrtí. Předpokládám, že výrobci softwaru, ani hardwaru se k takové odpovědnosti nikdy neupíšou. Abych to uvedl na nějakém reálném příkladu, představte si třeba situaci, kdy jede autonomní vozidlo po silnici, do které najednou vejde žena s kočárkem a vedle si na chodníku hrají čtyři děti. Do čeho auto vrazí, když zanalyzuje, že už situaci nezvládne vyřešit jinak? AI se bude muset v okamžiku rozhodnout, a protože přemýšlí stále jen binárně, tak si vybere menší zlo, tedy zřejmě matku s kočárkem. Kdežto člověk by pravděpodobně dokázal najít řešení i v takové situaci. A pokud ne, bude člověk za svůj čin zodpovědný, kdežto autonomní vozidlo ne a pasažér uvnitř pravděpodobně také ne, protože do řízení nijak nezasahoval. 

Myslíte si, že by bylo lepší, kdyby se AI dokázala rozhodovat stejně jako člověk?

V současnosti je to tak, že žádný z těchto nástrojů se sám nedokáže rozhodnout k akci, protože nemá touhu a vůli. Člověk má touhu něčeho dosáhnout a stroj vlastně jen reaguje na tyto naše touhy. Zatím to dělá dobře, učí se s každým dotazem a věřím tomu, že část našich tužeb bude schopen na základě dat, která má k dispozici, algoritmicky vyplnit. Nicméně v momentě, kdy se dostaneme technologicky do stavu, že bude chtít stroj sám něco měnit, tak bude mít lidstvo trochu problém. Protože stejně jako člověk bude mít i tento sám sebe si uvědomující stroj okamžitě touhu po moci, kterou pak už nebude mít problém zhmotnit. Takže možná budu rád, pokud se tak daleko náš rozvoj AI nedostane. 

Zdroj: Algotech

Zdroj ilustračního obrázku: Mojahid Mottakin on Unsplash