„České firmy chtějí AI využívat, ale nejsou na ní připravené,“ říká odborník na IT Václav Kocum

AI už dávno není jen pohádkou budoucnosti. V posledních letech se postupně, od počítačových programátorů, propsala do životů všech ostatních. Ať už si to tedy uvědomujeme nebo ne, využíváme ji denně. A stejně tak i firmy, které se čím dál více snaží o implementaci umělé inteligence, jako nástroje pro usnadňování práce, ale především zvyšování zisků. Jak se tedy společnosti na vzestup AI připravují? S jakými problémy se potýkají? A Jaká opatření by měly přijmout v kontextu AI a kybernetické bezpečnosti? Zeptali jsme se odborníka na IT, Václava Kocuma.

Dobrý den Václave, my jsme toho spolu už probrali poměrně dost, od školství až po bezpečnost na sociálních sítích. A dnes tu máme další zajímavé téma, které se týká mnohých, a které je vám velmi blízké, a to: Jak připravit firmu na AI. Jak jste se vůbec k tomuto oboru dostal?

Je to již poměrně dlouho, kdy jsem si s AI začal „hrát”. Tuším, že to bylo někdy okolo roku 2012, kdy jsem si naprogramoval první neuronovou síť, která uměla rozpoznávat objekty jako zvířata atd. A postupem času jsem objevoval další možnosti jejího využití, i když jsem ji měl jen jako vedlejší objekt zájmu.

K první realizaci implementace do společnosti jsem se dostal v době, kdy práce s AI byla spíš takovým pokusem vnést do IT něco navíc, a rozhodně nebyla tak daleko a v hypu jako dnes. Přesto se jednalo o jednu z nejdůležitěhších podmnožin AI, a to Machine learning (umožňuje učit se z dat bez dalšího explicitního programování).

Představte si, že dokážete na základě AI modelu předpovídat potřeby naskladnění a vyskladnění zboží na základě toho, jak vám jde výroba nebo naopak, jak jde prodej produktů. To má přímý dopad na související oblasti a ve všem jsou peníze. A to byl rok - tuším - 2018.

Co si přesně máme pod tímto pojmem představit? A jak se AI ve firmách implementuje?

AI je digitální produkt. Je tedy součástí oboru IT, který se zabývá vývojem těchto produktů schopných provádět úkoly vyžadující lidskou inteligenci, jako zmíněnou práci s daty, rozpoznávání řeči, rozhodování, učení, a tak dále. Jednoduše řečeno, AI je dílem programátorů, kteří aplikují různé matematické modely (např. stochastiku pravděpodobnostní, statistické modely) a převádí je do algoritmů.

Implementace ve firmách je možná na několik způsobů. K dnešnímu dni je nejčastější model ten, že se použije existující robot, který je již naprogramovaný k určité činnosti. Což má výhodu v tom, že ho rychle dokážete nasadit a můžete říct: „Máme AI”! Podle mne se však jedná o hype. Drtivá většina robotů, kteří se pořizují za šílené ceny jsou vlastně jen jednoduché programátorské úkony, které se dají udělat za zlomek ceny. zde je příklad:

Je to pár měsíců zpátky, kdy mi byl nabídnut robot do naší společnosti, který by dokázal predikovat vývoj přesunu našich prostředků mezi bankami tak, abychom jednoduchým nastavením paramentrů automatizovali práci lidí. Stačilo zaplatit pouze 70 000 USD a počkat si 9 týdnů. Což je samozřejmě hloupost. Ještě pořád si z univerzity něco pamatuji, tak jsem si načrtl problém na papír, napsal pár vzorečků, které problematiku řeší (konkrétně 3) a vyšlo mi, že reálně by mi trvalo 2 týdny práce s nákladem 100 000 CZK, abychom si toho bota napsali sami.

Ale je nutné si uvědomit, že největší problém současnosti (při nasazení AI do firem) tvoří firemní data, která jsou zřídka začištěná a je jich takové množství, že je extrémní práce je začistit. Přece ale nechcete, aby se AI učilo na špatných datech, a dávalo tak zkreslené výsledky.

Jak tuto změnu pocítí běžný zaměstnanec, manažer, majitel?

Dejme tomu, že narazíte na opravdu slušného bota. Pak jsou dopady obrovské. Odstraní se rutinní práce a zjednoduší se proces a vlastně se zvýší produktivita, protože bot pracuje neúnavně 24/7, kdežto zaměstnanec (jen) 8 hodin denně.

A co pak s takovým zaměstnancem? Ideálně jej posunout výše, aby dokázal vymyslet kreativnější způsoby práce, aby svůj nově získaný „volný čas” využil ke zlepšení procesu a zvýšení efektivity. No a nebo přijde o práci pro nadbytečnost, což znamená snížení fixních nákladů a odvodů.

Toto zhodnoti je zase úkol manažera. Ten samozřejmě získá výstupy, které jsou mnohem komplexnější, a nad kterými se pak mohou ve zvýšeném množství indikovat další příležitosti nebo rizika. A to opět pomocí AI, která tyto korelace dokáže najít.

A majitel? Jeho úkol je rozhodnout, zda AI nástroj zakoupí a bude dodavateli následně platit za každou, byť malou, úpravu. Dodavatelé se většinou specializují, nebo si najmou interní tým, který bude AI vyvíjet in-house, a to přesně na míru, bez kompromisů. A bude ji také dále rozvíjet. Rozdíly jsou tedy jasné: jiná evidence v účetnictví. Buď máte investici a jednorázové náklady na úpravy nebo si zvyšujete fixní náklady na interní tým.

Jak jsou na tom české firmy? Je jejich vývoj v této oblasti dostatečně rychlý? A od koho se mohou případně učit? Kdo je na v tomto ohledu na vrcholu?

České firmy by chtěly, to je zapotřebí říci. A co tak sleduji pracovní portály, je docela vysoká poptávka po lidech, kteří se AI zabývají.

Ale signifikantní věcí je, že nejsou připraveny. Většinou si neprošly digitální transformací nebo alespoň digitalizací, nemají připravená data, a pokud mají více produktů, tak ta data jsou separovaná a chybí digitální platforma, která data agreguje. Tím nemyslím data warehouse, ale vrstvu, ve které propojujete znalosti zaměřené na uživatele. Z nich těžíte znalosti o jejich chování a personalizujete nebo propojujete nabídky. A z této sítě máte opět mnohem více informací. Ze všeho přitom tečou peníze.

Celkově platí, že nejrychleji rostoucí segment jsou finanční služby, což je jasné. Ve financích se točí finance. A oni jich chtějí točit víc, mít vyšší zisky i dostatečné prostředky na investice.

Kupodivu blízko vrcholu je i zdravotnictví, kde se aplikuje právě oblast rozpoznávání lékařských obrazů, predikci nemocí, správu záznamů, a hlavně diagnostik, ve které AI předběhla lékařské oko. Například rakovinotvornou tkáň objeví AI v mnohem ranější fázi než lékař.

A od koho se učit? Za mě jednoznačně banka JP Morgan Chase nebo Goldman Sachs. A ze zdravotnictví IBM Watson Health a Google Health. Ti do toho „dupou” a získávají ohromný náskok. A i když jsou to zaběhlé společnosti, v tomto smyslu jsou to štiky v práci s AI, které jsou v tzv. ofenzivním módu, tedy určují trendy.

Jaké jsou největší slabiny, se kterými se firmy potýkají, v souvislosti s používáním umělé inteligence? Přináší AI i nějaká rizika?

Největší slabinu jsem již zmínil. Je to čistota dat, nad kterými se AI učí. Když nemáte v pořádku data, AI se na nich naučí špatně a dodá vám zkreslené, či špatné informace. Ve výsledku vám tedy spíše uškodí.

AI přináší ale i spoustu dalších rizik. Jedním z velmi známých je tzv. Bias, tedy AI, která je neúmysleně zaujatá. Nejznámějším případem se několik let zpátky stala jistá společnost v USA, která implementovala AI do HR systému, a ten poté vybíral kandidáty. V USA fungují kvóty a jiná (ať už psaná či nepsaná) pravidla o diverzitě. Systém se ale naučil takto zaujatě chovat a výsledkem toho bylo, že preferoval takřka čistě afro-američany a hispánce na úkor lidí bílé pleti či asiatů.

Dalším rizikem je samozřejmě bezpečnost. AI je pouze nástroj. Ve své podstatě je ale jednoduchý a sám o sobě ne příliš zabezpečený. Proto je cílem hackingu, který se snaží do něj proniknout a získávat data. A to se samozřejmě i stává. Dnes jsou tak AI využívány i k dezinformacím a deepfakům. Představte si například, že díky vaší profilové fotografii na sociálních sítích, se objevíte v porno snímku a na první pohled to nikdo nerozezná.

Samozřejmě AI v regulovaných prostředích je kapitola sama pro sebe. Umělou inteligenci musíte aditivně naučit tato právní, regulační a další nařízení. ta pak musí ve svých výstupech zohledňovat. A přidejte k tomu i riziko, že se vám to nemusí povést adekvátně a buď o data přijdete nebo je naopak vypustíte ven.

Jaké jsou naopak největší výhody, které implementace AI do firem přinese? Těmi hlavními jsou tedy časová úspora, minimalizace lidského pochybení a vyšší finanční zisky. Jsou zde i další výhody?

Ano, trefila jste to přesně. Toto jsou jedny z naprosto zásadních inovativních přínosů AI ve firmách. K tomu není moc co doplnit, až na několik souvisejících bodů.

Například zlepšení rozhodovacích procesů. Společnost se může stát data-driven díky tomu, že získává již předvyhodnocená data, na základě kterých může činit zcela jiná rozhodnutí, než jaká by činila bez této oblasti.

Dalším souvisejícím bodem je personalizace zákaznických zkušeností, kdy AI umožňuje poskytovat personalizované služby a produkty na základě analýzy chování zákazníků, jejich preferencí, historie i sentimentu.

nemůžeme opomenout ani zákaznickou podporu, která běží 24/7, aniž byste museli mít najaté pracovníky na tři směny. To je signifikantní rozdíl.

A pak tu máme včasnou identifikaci rizik, kdy AI dokáže identifikovat riziko mnohem dříve, než by se člověk všemi daty prohrabal a odhalil by tyto souvislosti, které mohou být zásadní pro assesment a práci s rizikem.

Máte tušení, jak je na tom AI v ohledu na legislativu? Ptám se proto, že například některé generátory textů využívají již vzniklý obsah z internetu. Nemůže se stát, že využitím AI firma odcizí data nebo know-how někoho jiného?

Toto je velký problém především u LLM modelů jako ChatGPT, Claude atd. Tyto modely jsou učené na základě veřejně dostupných informací z internetu. Cokoliv co je tedy na internetu umístěno, mohou tyto modely pojmout, dále reprodukovat. A vy samozřejmě nemáte šanci to odhalit.

Například dnes je poměrně časté, že se vývojáři s AI radí o dalších postupech nebo hledají konkrétní řešení. AI však čerpá například z GITu (to je prostor, kam si vývojáři ukládají data ke svým projektům, aby k nim měli přístup odkudkoliv a mohli je sdílet s kýmkoliv). Jenže spoustu vývojářů si svá data nechrání, a tak se občas stane, že AI při řešení problému získá API klíč nějakého programátora k systému, se kterým pracuje. A vy ten AI klíč můžete využít a do systému se „nabourat”.

V jednom z předchozích článků jsme spolu mluvili o kybernetické bezpečnosti.. Jak vnímáte současný stav kybernetických hrozeb v kontextu AI? A Jaká opatření by měly firmy přijmout?

Trochu výše jsem zmínil právě to, že AI je docela častým cílem hackingu. Že je hrozba, pokud „nesedí” v zabezpečené infrastruktuře, což by měl být cíl společností. Bohužel se bezpečnost často podceňuje, protože stojí nemalé peníze, a firmy ji tak podhodnocují. Protože na ně by přece nikdo neútočil. Teprve když takový útok proběhne, firma začne investovat do bezpečnosti. Ale to už bývá pozdě.

Jistým řešením jsou offline AI, které nejsou vystaveny do internetu, což je výrazná překážka pro útočníka. A tak se k nim útočník buď nemůže dostat nebo jen velmi složitě.

Spojení AI a firem jistě mnoho lidí těší, ale některé dost možná i děsí, a to především v souvislosti s nahrazováním zaměstnanců. Jaké jsou vyhlídky do budoucna? A kdo by se měl nejvíce „bát”?

Za posledních 300 let proběhly již tři průmyslové revoluce. Nyní jsme v tzv. čtvrté průmyslové revoluci. Každá taková „pracovní” revoluce s sebou přináší to, že lidé o práci přicházejí. A buďme upřímní, kdo si dnes pamatuje rozsvětlovače lamp, budičku, či dílenské čtenáře?

Zároveň s sebou však každá revoluce přinesla i mnoho nových profesí, které bylo zapotřebí obsadit. A nová pracovní místa vznikala jako houby po dešti. V dnešní digitální době a sociální společnosti to bude navíc jednodušší, než kdy dřív.

Máme přístupy k podpoře při nezaměstnanosti, v rámci které se můžete rekvalifikovat. Internet je plný zdrojů, na kterých se sami můžete naučit využívat nové technologie. Neustále probíhají workshopy o změnách a využití moderních nástrojů mezi firmami.

Nejvíc se ale musí - jako při každé pracovní revoluci - bát ti, kteří dělají repetitivní práci a méně ti, kteří dělají kreativní práci.

Jaký je časový horizont nahrazování jednotlivých profesí? Vím, že budete muset asi tak trošku hádat, ale jako odborník na IT odborník jistě víte, jak rychle se pracuje na vylepšování těchto modelů.

Ono se to již děje. Nejvíce ohroženi jsou administrativní pracovníci, zákaznické podpory, datoví analytici, skladoví pracovníci, pokladní, finanční analytici, a tak dále. Tyto všechny profese již začínají být přežité a během několika let podle mě zcela vymizí.

A otázka na závěr.. Co vy a AI? Používáte umělou inteligenci v práci nebo ve škole často?

Já jsem velký fanoušek AI. Konkrétně letos v květnu jsem založil startup, ve kterém budujeme „systém budoucnosti”. V něm budou použity takřka všechny podmnožiny AI. Je to sice hudba budoucnosti, ale již nyní nějakou AI zapracovanou máme.

Podle mě je jedním z nebezpečí AI právě to, že lidé, díky promptingu, dostanou výstup, který vlastně chtějí. Poté jej vydávají za jasné tvrzení či pravdu, přičemž v daném tématu vskutku nejsou odborníci.

Samozřejmě sám AI nástroje využívám, a mám také několik předplatných. Pomáhám si především tím, když dohledávám kontext věcí, které řeším. Nicméně si udržuji odstup, nástrojům zcela nedůvěřuji a informace, které mi poskytnou, si ještě ověřuji.