Přejít k obsahu | Přejít k hlavnímu menu | Přejít k vyhledávání

„Tento rok si představuji jako AI na steroidech,” říká Václav Kocum

Technologie

20. ledna 2025

15 minut čtení

rozhovor-vaclav-kocum-2 Foto: @vaclavkocum

Od AI agentů, přes hrozby deepfaků a kybernetickou odolnost, až po kvantové počítače. Rok 2025 bude průlomový pro firmy, ale i státy. Ty budou muset vytvořit základní etické a právní rámce, a zajistit tak bezpečné využívání technologií. Co to ale přesně znamená? Proč je nezbytné, aby společnosti komunikovaly transparentně? Jak by se měli běžní uživatelé chránit před dezinformacemi? A co dalšího nás čeká? Ptali jsme se vedoucího oddělení integrací a aplikačních systémů ve VZP - Václava Kocuma.

Dobrý den Václave, máme tu rok 2025 a my na vás máme pro začátek jednu velmi komplexní otázku: Co nás ve zkratce čeká ve světě AI, technologií a IT v novém roce?

Rok 2025 bude ve světě AI a technologií jako epizoda oblíbeného sci-fi seriálu – plný překvapení, napětí a občasného úžasu. Poslední dobou, když se zamyslím, představuji si tento rok jako AI na steroidech. Postupně se prokouše snad všude.

Čeká nás hybridní práce ve verzi 2.0. Za covidu došlo k plošné digitalizaci. Byla to revoluce. Lidé začali pracovat z domova a velké společnosti u toho zůstaly, samozřejmě ne všechny, např. Amazon, který vyhlásil „návrat do lavic”. V letošním roce je AI již plnohodnotným společníkem, který s vámi provede brainstorming, dá vám inspiraci, nápady nebo přímo - na základě vašeho promtu - dodá to, co potřebujete.

Téma AI se dotýká i energetiky, protože je na ní velmi závislé. Čím více se AI rozmáhá, tím více spotřebovává energie. Mohli jsme to pocítit na akciovém trhu, kde akcie vyrostly o 15 % a více, což je mnoha odborníky spojováno právě s rozmachem AI.

Na scénu také přicházejí kvantové počítače, což bude průlom ještě možná větší, než AI v současném stavu. Samozřejmě půjdou ruku v ruce, ale bude to veliké.

V čem můžeme očekávat největší potenciál rozmachu AI? A jaká případná ohrožení mohou naopak vzniknout?

Největší dopad bude mít v segmentech zdravotnictví, finančnictví a IT.

Minulý rok jsme zažili nasazování prvních AI agentů, kteří začali postupně doplňovat (a někdy nahrazovat) lidskou práci. V roce 2025 pokročíme, ale dále budeme daleko od plné náhrady lidských zdrojů. Toto je velké téma a domnívám se, že za rok na tuto otázku již odpovím tak, že AI agenti jsou etablovanými ve společnostech, které již opravdu nějaké pozice ruší a nahrazují je právě jimi.

Generování audiovizuálních podkladů je dnes již tak daleko, že brzy budeme pod palbou tzv. deepfaků, což jsou vlastně dezinformace v čisté podobě. To bude hýbat světem, protože, dle mého, již klesá kritické myšlení a ochota ověřovat informace z více zdrojů. Tedy obrovský dopad na vsugerování publiku a manipulaci.

V oblasti kybernetické bezpečnosti začnou platit jiná pravidla. Hackeři budou mít k dispozici mnohem sofistikovanějšího pomocníka, který i začátečníkovi dokáže poradit, jak prolomit základní ochrany na menších infrastrukturách a systémech. Zde je nutné upravit naše vnímání pojmu kybernetická bezpečnost a nahradit jej za pojem kybernetická odolnost.

Co přesně znamená pojem „kybernetická odolnost"? A jakým směrem se bude tento obor v roce 2025 rozvíjet?

Kybernetická odolnost je v podstatě schopnost IT systému, organizace, nebo dokonce celé země přežít kybernetický útok, a přitom si zachovat důstojnost (a funkčnost). To se nyní nepovedlo například na Slovensku, s katastrálním úřadem.

Jinými slovy, je to takový digitální ekvivalent boxera, který sice dostane pár ran, ale pořád stojí na nohou a hlásí se o další kolo. Klíčovými body budou prevence, tedy snaha vůbec nějakému útoku předejít. Včasná detekce, abychom byli schopni rozpoznat signály chystaného průšvihu dřív, než nastane a reakce, tedy minimalizace škod. Pokud však škody nastanou, měli bychom mít vždy záložní plán, a to je obnova.

V tomto roce se plně ukáže automatizace a AI na obou stranách. Jak útočníků, tak společností. Díky AI útočník snadněji pronikne do našeho systému. To se stalo například při nedávném incidentu na Gemini, které studenta vybídlo k ukončení života (s největší pravděpodobností šlo ale o tzv. red-teaming, kdy AI bombardovala jiná AI tak, aby našla mezeru a dostala kontroverzní odpověď).

Na straně společností je pak AI výborný partner především v oblasti detekce potencionálního nebo běžícího útoku.

Mluví se o tom, že kvantové počítače mohou prolomit aktuálně nejvyšší formy zabezpečení (kryptování) během několika minut. Jaké technologie zajistí bezpečnost dat v této éře?

Kvantové počítače jsou revolucí. To, co by superpočítači zabralo milion let, zvládne kvantový počítač za pět minut. Jsou tedy extrémní hrozbou pro současné šifrovací algoritmy, a například také přímo ohrožují oblast kryptoměn. Zejména proto se již nyní testuje blockchainy nové generace, které by měly zajistit, že distribuované sítě zůstanou bezpečné i v kvantovém světě.

Vlastně se dá říci, že kdo nezmění přístup k ochraně dat na formu kvantově bezpečné kryptografie, bude mít velký problém. Do tohoto odvětví půjdou masivní peníze ze všech sektorů.

V jaké fázi je personalizace informací díky vytěžováním dat pomocí AI? Jakým způsobem mohou společnosti těžit z těchto dat? A nenaruší to hranici mezi inovacemi společností a soukromím uživatelů?

Personalizace informací pomocí AI je dnes na velmi pokročilé úrovni. Přesto jsme stále jen na začátku jejího skutečného potenciálu. AI je schopna chápat kontext, vzorce chování, a dokonce předpovídat naše potřeby, což z ní činí mocný nástroj. Pro společnosti je to cesta, jak se co nejvíce přiblížit zákazníkům a nabídnout jim obsah, který je relevantní a užitečný. Jenže čím více AI o nás ví, tím více se stírá hranice mezi tím, co je personalizace, a tím, co je invaze do soukromí.

Klíčovou otázkou je rovnováha. Na jedné straně chceme efektivitu a pohodlí, které nám personalizace přináší. Na druhé straně vznikají obavy z toho, co všechno o nás firmy vědí, a jak s těmito daty nakládají. Vnímáme-li AI jako nástroj, měla by sloužit k obohacení našich zkušeností, ne k jejich manipulaci. Proto bude zásadní, aby společnosti transparentně komunikovaly, informovaly o tom jaká data sbírají, proč je sbírají, a co s nimi dělají. Inovace bez etiky totiž není pokrokem, ale krokem zpět.

Technologie nás může pozvednout, ale jen pokud ji budeme řídit s rozvahou a odpovědností.

Stávají se kvantové výpočty běžnou součástí i komerční sféry? A jaké oblasti by mohly být jejich rozšířením nejvíce ovlivněny?

Kvantové výpočty zatím nejsou běžnou součástí komerční sféry, ale nacházíme se v období, kdy se tato technologie začíná formovat pro praktické využití. Velké technologické firmy jako IBM, Google, nebo Microsoft vyvíjejí kvantové platformy a experimentální aplikace, ale většina komerčních projektů je stále ve fázi výzkumu. Kvantové výpočty jsou zatím jako exotické auto – působivé a fascinující, ale jen málokdo má klíč k tomu, aby ho skutečně řídil.

Pokud však kvantové výpočty překročí tuto hranici, budou mít obrovský dopad na oblasti, kde je potřeba zpracovat ohromné množství dat nebo složité kombinatorické problémy. Farmaceutický průmysl by mohl urychlit vývoj léků simulací molekul na úrovni, která je dnes nemyslitelná. Logistika a optimalizace, třeba při plánování dopravy nebo skladování, by získaly zcela nový rozměr. A finanční sféra, která neustále hledá výhody v rychlejší analýze trhů a odhalování rizik, by pravděpodobně stála v čele tohoto rozšíření. Je to začátek nové éry, ale vyžaduje pečlivé kroky, aby byla skutečně přínosná.

Pokud se kvantové výpočty stanou dominantní technologií, jak se změní globální rovnováha sil v oblasti technologií a bezpečnosti?

Pokud se kvantové výpočty stanou dominantní technologií, mohou zásadně přenastavit globální rovnováhu sil. Státy nebo společnosti, které tuto technologii ovládnou jako první, získají strategickou výhodu nejen v oblasti vědy, ale i v průmyslu, financích a zejména v bezpečnosti.

Kvantové počítače by mohly prolomit současné šifrovací standardy, což by potenciálně otevřelo brány k citlivým datům po celém světě. Tato schopnost by vytvořila nové mocenské hráče, kde nejen státy, ale i technologické korporace by mohly mít klíčový vliv na globální dění.

Zároveň ale vzniká otázka, jak tento technologický pokrok vybalancovat. Aby kvantové výpočty nepodkopaly důvěru ve finanční systémy nebo bezpečnost dat, bude nutné vyvinout postkvantové šifrovací technologie a zajistit jejich širokou dostupnost. Výsledek nebude jen o tom, kdo kvantové počítače ovládne, ale také o tom, kdo dokáže vytvořit férové prostředí pro jejich využití. Jinak by se mohlo stát, že kvantová dominance povede spíše k polarizaci světa než k jeho sjednocení. A to je myšlenka, která nás nutí přemýšlet o technologii s ještě větší odpovědností.

Hovoří se ale také o hyperautomatizaci? Jaký potenciál má spojení LLM modelů s ML, a jaké nové možnosti přinese pro průmysl a business?

Hyperautomatizace je bezesporu jedním z nejžhavějších témat současnosti, a spojení LLM modelů (jako jsou GPT) s machine learningem tuto vizi přibližuje k realitě. Tato kombinace umožňuje nejen automatizovat rutinní procesy, ale také zavádět dynamické a adaptivní systémy, které se dokáží učit a zlepšovat v reálném čase. Místo toho, aby se technologie držela striktně definovaných pravidel, dokáže pomocí LLM chápat kontext, generovat rozhodnutí, a dokonce předvídat potřeby, což dramaticky rozšiřuje možnosti pro průmysl i obchod.

Představte si například zákaznickou podporu, kde systémy nejen odpovídají na otázky, ale aktivně řeší problémy zákazníků, vyjednávají řešení, a dokonce zlepšují produkt na základě nasbíraných dat. V průmyslových odvětvích může spojení LLM a ML vést k chytrým výrobním linkám, které se přizpůsobují požadavkům trhu téměř okamžitě.

Hyperautomatizace tak otevírá dveře k efektivitě, kterou jsme si dříve neuměli představit. Zároveň ale přináší otázku, jak tuto mocnou kombinaci technologií využít zodpovědně a vyváženě. Koneckonců, i když stroje mohou být chytré, to, jak je používáme, zůstává na nás.

Které z těchto technologických změn vidíte jako nejvíce disruptivní? Jak se na ně mohou jednotlivci, firmy a stát připravit?

Nejvíce disruptivní technologické změny budou pravděpodobně ty, které zásadně mění způsob, jakým pracujeme, komunikujeme a rozhodujeme – tedy kvantové výpočty, hyperautomatizace a generativní AI. Tyto technologie nejen zrychlí procesy, ale především změní samotné paradigma, jak přemýšlíme o efektivitě, kreativitě a bezpečnosti. Přinášejí však nejen příležitosti, ale i hluboké výzvy: jak ochránit soukromí, jak zvládnout rychlost změn, a jak zajistit, aby technologie byla inkluzivní a nezanechala některé části společnosti pozadu.

Jednotlivci by měli klást důraz na celoživotní vzdělávání, a to zejména v oblastech, kde technologie vytlačuje rutinní činnosti. Pro firmy je klíčové se na tyto změny dívat strategicky. Tedy nikoliv jako na hrozbu, ale jako na příležitost. Investice do školení, flexibilní přizpůsobení obchodních modelů a využití nových technologií mohou být rozhodující.

Pro státy pak bude zásadní role regulátora i inovátora. Zajistit etický rámec pro technologický rozvoj, podporovat výzkum, a zároveň připravit infrastrukturu, která umožní firmám i občanům z těchto změn těžit. Technologie nás může pozvednout, ale jen pokud ji budeme řídit s rozvahou a odpovědností.

Riziko diktátu algoritmů spočívá hlavně v tom, že nám mohou podsouvat pouze určité informace, a tím utvářet naši realitu.

S takovým technologickým pokrokem přichází i otázka regulací. Jak by měly vlády nebo mezinárodní organizace reagovat na rychlý vývoj v oblastech jako AI nebo kvantové výpočty?

Otázka regulací v době technologického boomu je jako chůze po tenkém ledě. Jde o to najít rovnováhu mezi podporou inovací a ochranou společnosti. Příliš mnoho regulací může dusit kreativitu a zpomalovat rozvoj. Zatímco jejich absence může vést k neetickému využívání technologií nebo k bezpečnostním rizikům. V oblastech jako AI a kvantové výpočty je tedy klíčové postupovat strategicky a s důrazem na globální spolupráci, protože tyto technologie překračují hranice jednotlivých států.

Vlády a mezinárodní organizace by měly začít tím, že vytvoří základní etické a právní rámce, které zajistí bezpečné a spravedlivé využívání technologií. Důležitá je také transparentnost. Firmy by měly být povinny informovat, jak jejich technologie fungují, a jaká rizika mohou nést.

Zároveň musí vzniknout mechanismy, které umožní rychle reagovat na technologické hrozby. Například v případě zneužití AI k dezinformacím nebo prolomení bezpečnostních standardů kvantovými výpočty. Regulace by tak neměly být jen „brzdou“, ale spíše navigačním systémem, který technologii směřuje správným směrem, aby sloužila lidstvu jako celku.

A jak může rozvoj personalizace prostřednictvím AI ovlivnit naše každodenní životy? Hrozí nebezpečí, že algoritmy začnou diktovat naše rozhodování více, než bychom chtěli?

Rozvoj personalizace prostřednictvím AI má potenciál náš každodenní život dramaticky zjednodušit a zpříjemnit. Od doporučení, co si pustit k večeři, až po nákupní seznam, který se přizpůsobí našim potřebám, může AI eliminovat spoustu malých, opakujících se rozhodnutí. Ale právě tady leží i klíčová otázka: kde je hranice mezi pomocníkem a manipulátorem? Když AI přesně ví, co chceme, není těžké představit si, že nás jemně „postrčí“ k volbám, které nejsou nutně naše vlastní.

Riziko diktátu algoritmů spočívá hlavně v tom, že nám mohou podsouvat pouze určité informace, a tím utvářet naši realitu. Pokud AI rozhoduje, co vidíme, čteme nebo kupujeme, může z nás nenápadně udělat pasivní příjemce obsahu místo aktivních tvůrců našich rozhodnutí.

Abychom tomu předešli, je zásadní transparentnost algoritmů a možnost je „vypnout“ nebo přenastavit. Nakonec by mělo být na nás, abychom si zvolili, kdy a jak necháme AI vstoupit do našich rozhodovacích procesů. Jinak by mohlo jít o pomocníka, který nepozorovaně převezme kontrolu.

Autor

Kateřina Rázlová

Copywritingem se zabývá od roku 2016 a má zkušenosti s psaním SEO článků, případových studií, rozhovorů a PR článků. V Macchiatu se orientuje především na rozhovory, cestování a design. Její největší inspirací jsou asijská a evropská historie i projekty budoucnosti.

Další články

rozhovor-vaclav-kocum-2

„Tento rok si představuji jako AI na steroidech,” říká Václav Kocum

Technologie

20. ledna 2025

Od AI agentů, přes deepfaky a kybernetickou odolnost, až po kvantové počítače. Rok 2025 bude průlomový pro firmy i státy.

„Nejnáročnější momenty mě nejvíce posunuly dopředu,” říká designér digitálních produktů Jakub Zegzulka

„Náročné chvíle mě posunuly vpřed,” říká designér Jakub Zegzulka

Technologie

29. ledna 2025

Rozhovor s Jakubem Zegzulkou, studentem ArtCenter College of Design a designérem digitálních produktů.

Rozhovor Ruslan Skopal

„Bez dobrého produktu se podniká obtížně,” říká Ruslan Skopal

Byznys

8. ledna 2025

O vývoji značky Trenýrkárna.cz, plánech s ostatními projekty i fast fashion gigantech jsme si povídali s Ruslanem Skopalem.

Nahoru

Podrobné nastavení

Co jsou cookies?

Soubory cookie jsou používány zejména k analýze údajů o uživatelích webu, k zobrazování personalizovaného obsahu, ke zlepšení funkčnosti webových stránek a v neposlední řadě ke zlepšení zážitku návštěvníků tohoto webu.

  • Nutné cookies

    Nutné cookies jsou nezbytné pro správné fungování a zobrazení webu i aplikací. Webová stránka bez nich nemůže fungovat. Ve většině případů jsou přednastaveny jako odezva na akci, kterou uživatel již provedl, jako například přihlašování, bezpečnostní nastavení nebo třeba vyplňování formulářů.

  • Preferenční cookies

    Preferenční cookies usnadňují uživatelům webu například vyplňovaní formulářů, neboť si pamatují jejich preference a není je tak nutné opakovaně vyplňovat. Preferenční cookies nejsou pro chod webu nezbytné a lze je tedy odmítnout. Jejich povolení však uživateli výrazně zjednodušuje a zpříjemňuje používání tohoto webu.

  • Analytické cookies

    Analytické cookies slouží tvůrcům webu k tomu, aby měli dostatečných přehled o využívání webu a s tím související možnost jej neustále zdokonalovat. Díky nim tak mají tvůrci přehled o tom, které stránky a funkcionality návštěvníci nejvíce využívají. Povolení těchto cookies však není pro uživatele nezbytné.

Nastavení cookies

Soubory cookie jsou používány zejména k analýze údajů o uživatelích webu, k zobrazování personalizovaného obsahu, ke zlepšení funkčnosti webových stránek a v neposlední řadě ke zlepšení zážitku návštěvníků tohoto webu.

Přijmout Nastavení