„Ne vše, co se za AI vydává, je skutečně AI,” upozorňuje odborník Václav Kocum

Umělá inteligence je v posledních letech čím dál více skloňovaný pojem, který se týká všech bez ohledu na věk, pohlaví či zaměstnání. O jejím vývoji, výhodách i rizicích ví mnohé Václav Kocum, který ve společnosti Akcenta zastává pozici Head of digital product delivery. Co to přesně znamená? Jak se budou na trhu práce vyvíjet jednotlivé pozice? A co si o nás vlastně AI myslí?

Na svém Linkedinu uvádíte, že jste Head of digital product delivery. Co si pod tím můžeme přesně představit?

Pracuji ve finanční společnosti, která je svého typu největší ve střední Evropě a dlouhodobě prosperuje. Většina práce však stojí na lidských zdrojích a starších systémech, které nejsou automatizované. Představte si například oddělení, jehož hlavní náplní práce je rutinní a manuální zpracovávání excelu, který se jednou za čas aktualizuje.

Naši společnost v roce 2021 koupila Raifeissen Bank International a byl připraven strategický plán rozvoje do roku 2027, který počítá s násobným zvýšením počtu klientů a finančních transakcí. Protože to již reálně není v silách lidských zdrojů a stávajících systémů naplnit, jedním z pilířů strategického rozvoje se stala digitální a agilní transformace.

Moje role znamená, že jsem odpovědný za realizaci vzniku digitálního produktu, jehož myšlenka a zadání vznikla na business části naší společnosti. Pro tuto realizaci mám k dispozici několik technologických oddělení. Zároveň navrhuji aplikační architekturu a starám se o security development, abychom naplňovali podmínky jak našeho vlastníka, tak Centrální Evropské banky nebo přímo Evropské unie.

Reálně tedy funguji jako člen Agilního tribu, což je pracovní tým, který je zastoupen hlavním businessovým vlastníkem, produktovým vlastníkem digitálního produktu a analytiky digitálního produktu. Jsem ten, kdo na businessové a analytické vstupy dává technologickou zpětnou vazbu a vymýšlí řešení.

Podle jakých kritérií jste si vybral svou profesi? Co vás na této oblasti nejvíce lákalo?

V tomto případě to bylo velice jednoduché. Oslovil mne přímo ředitel pro digitalizaci se svou vizí o transformaci společnosti ve střednědobém horizontu a představil mi nosný projekt celé transformace s tím, že jej vybudujeme od základů, který si budu moci od začátku architektonicky navrhnout a sestavit vlastní tým.

To pro mne znamenalo tři klíčové věci – absolutní svobodu s vysokou mírou odpovědnosti, zúročení dosavadních zkušeností a možnost přivést si „svůj“ zkušený tým. Taková příležitost se neodmítá.

Které dovednosti považujete za klíčové pro úspěch v oblasti IT a digital?

Za nejdůležitější považuji komunikaci. A to jak směrem k představenstvu, tak u svých týmů, protože nejlepší technologové jsou ti, kteří dokáží komunikovat mezi sebou i mezi týmy svoje nápady na zlepšení navržené realizace, a především svoje obavy, na kterých pak zapracujeme.

Zásadní je podpora vrcholového managementu společnosti a jeho důvěra v tým, který vizi digitálního produktu realizuje – bez toho by to prostě nešlo. Schopnost předat rovným dílem důvěru, ale zároveň i odpovědnost za svěřený digitální produkt.

Samozřejmě nemohu opomenout technologické dovednosti týmu realizátorů, bez kterého by nebylo možné digitální produkt realizovat tak, aby naplnil očekávání. Jeho schopnost kriticky přemýšlet je zcela zásadní. Vybral jsem si tým, který je schopen konzultovat, ne pouze tupě programovat podle zadání, protože žádné zadání není dokonalé.

AI je v posledních letech často skloňovaný pojem. Jak se vlastně dá AI popsat?

Chtěl bych říct, že ne vše, co se za AI vydává, je skutečně AI. Dnes stačí napsat do nadpisu své aplikace AI a veřejnost to přijme jako fakt, ale není tomu tak.

Existuje zhruba šest typologických AI zaměření, a ne všechny nástroje poskytují „plnou palbu“ svých možností. Většina poskytuje pouze jistou podmnožinu – jednoduše proto, že vývoj AI nástroje není jednoduchá záležitost a teoretické modely jsou neustále inovovány. 

1. Zpracování přirozeného jazyka
2. Obrazová a vizuální analýza
3. Strojové učení
4. Rozpoznávání řeči
5. Robotika a autonomní systémy
6. Analýza dat a prediktivní modelování

Vezměme si možná nejpopulárnější nástroj ChatGPT. První verze v roce 2018, druhá verze 2019, třetí verze 2020 – ale ta nejdůležitější a nejvíce přínosná až o tři roky později v roce 2023.

Začalo to u předtrénovaných transformačních modelů, které mohly generovat přesvědčivý text na základě podnětů. Pokračovalo jako významnější upgrade o mnohem větší dataset, který dokázal vytvářet ještě přesvědčivější a koherentnější texty. Až třetí verze přinesla obrovský skok od psaní článků, přes programování, až po umění a vedení smysluplných dialogů a reagování na uživatelské vstupy s vysokou mírou relevanci a přesnosti. No a poslední verze, to už je něco. Přinesla iteraci svých modelů a každý nový přináší zlepšení v pochopení jazyka, generaci textu a schopnosti interakce.

Dokázal byste predikovat, jakou podobu bude mít AI za rok?

Samozřejmě, že predikovat se na základě nějakých současných informací dá, především na jeden rok. Dá se odhadnout, kam se AI může posunout.

Zcela jistě dojde k evoluci generativních modulů, které budou nerozeznatelné od toho, co vytvořil člověk, a budou mít lepší schopnost kontextového porozumění a zpracování jazyka. AI se určitě v mnoha profesích dostane do každodenního života. Můžeme očekávat nové produkty a služby, které budou využívat AI pro zlepšení kvality života. Pokrok proběhne v oboru autonomních systémů jako autonomní vozidla, drony a roboti, kteří se budou zlepšovat a integrovat do různých aspektů společnosti – od dopravy po zemědělství. Ve společnostech generujících zisk dojde k částečně automatizovanému strojovému učení, které bude dominovat v prediktivní analýze, přípravě dat pro ni, textovou analýzu atd.

A jak by mohla AI vypadat například za pět let?

Predikovat vývoj AI v pěti letech už by upřímně chtělo křišťálovou kouli. Avšak stejně jako v každém projektu existují cíle, tak i AI má cíle, kam by se chtěla posunout. Některé z nich dnes ještě není možné technologicky realizovat, ale když se podíváme, jak se lidstvo posouvá, dá se usuzovat, že ultimátní kroky v další pětiletce budou následující:

1. Obecná umělá inteligence (AGI), která může pochopit, učit se, a vykonávat intelektuální úkoly na úrovni člověka nebo překonat. To zahrnuje adaptabilitu, kreativitu a schopnost učit se z neznámých situací.
2. Integrace AI do řešení výzev na globální úrovni jako změny klimatu, udržitelnost, zdravotní péče a ekonomika.
3. Skokový pokrok v autonomních systémech včetně vozidel, dronů a robotů – dosáhnou vyspělejších úrovní funkčnosti a bezpečnosti. To by mohlo vést k širšímu nasazení v komerčním, průmyslovém a osobním použití.
4. Revoluce v osobních asistentech a virtuálních agentech – to, k čemu nám dnes slouží kalendář, různé remindery a asistentky. Jistě bude možnost umožnit vytvoření osobních asistentů, kteří nabízejí bohatší a více personalizovanou interakci, a tím výrazně zlepšit každodenní produktivitu a pohodlí.

Jaký je časový horizont nahrazování jednotlivých profesí umělou inteligencí? Víme, že opět chceme, abyste „věštil z křišťálové koule”, ale jako člověk z oboru máte jistě představu…

Už to začíná – ne přímo nahrazování, ale přímá interakce a vylepšování v mnoha oborech. Mohu uvést i konkrétní případ z mého týmu. Ve vývojářském světě existuje technika programování, která se nazývá „párové programování“. Jde o to, že nad jednou částí technologického řešení sedí dva vývojáři, střídají se v psaní kódu a diskutují další postupy. Upřímně, jde o velice přínosnou techniku, ale znamená to, že využíváte dva zdroje na jednu činnost, přičemž druhý programátor by mohl řešit jiné zadání. Někteří z našich programátorů již používají tzv. GitHub Copilot. Funguje jako inteligentní asistent pro programování, který navrhuje kód v reálném čase. Může generovat celé funkce, psát testy, a dokonce i pomáhat s opravami chyb a optimalizací existujícího kódu. Jde tedy vlastně o párové programování s tím, že nepotřebujete druhého programátora. Ale byla by chyba říct, že je samospásný. Programátor musí dokonale rozumět své profesi, aby si nenechal zanést do svého kódu nepřesnosti, které je pak peklo ladit.

Zcela nahradit člověka nyní AI může pouze ve velmi specifických situacích a spíš na malých úkolech jako je tvorba datových reportů, zápisů ze schůzky a při správném využití automatizace aktivit. Ale nejde o nic, co by se zatím nedalo řešit běžnou prací programátora.

V dalších letech to začnou mít jednotlivé profese složitější. Osobně to ale nevidím na náhradu člověka. Vezměme si například copywriting. Dnes AI dokáže napsat článek vyladěný na SEO optimalizaci a uhodit hřebíček na hlavičku. Ale sama to neudělá, je k tomu zapotřebí přesný prompting – pokyn AI, který dává množství vstupních údajů pro to, co má vzniknout. Osobně to beru tak, že zmíněný copywriter se posune na pozici konzultanta a člověka, který bude muset AI dát přesné zadání na základě svých dovedností, a protože AI není přesná, pouze přesvědčivá, bude muset text projít korekturou a daný člověk bude tématu muset rozumět.

Pravá revoluce přijde se zmíněnou Obecnou AI (AGI), která již skutečně bude schopna profesi takřka plně zastoupit. Obráběcí CNC stroj dokáže vyrobit předmět během chvilky, což člověk s takovou přesností a rychlostí nikdy nedokázal. Přesto ale opět musí být lidé, kteří vytvoří zadání a modely, musí existovat operátor CNC stroje atd. Přirovnal bych to k průmyslové revoluci mezi 18. a 19. stoletím.

Jaký vliv může mít umělá inteligence na tvůrčí profese a kreativitu jako takovou?

Obrovský, ale ne majoritní. Vždy bude muset existovat rovnováha mezi využitím AI k rozšíření lidské kreativity a například zachování etických standardů. To bude záviset na těsné spolupráci mezi technologickými inovátory a kreativní komunitou.

Existují profese, které budou i do budoucna AI nenahraditelné?

Zcela jistě ano, protože i v době AI existují jedinečné lidské schopnosti, které jsou neocenitelné.

Například ve zdravotnictví může AI provést diagnostiku, což dělá již dnes v jistých situacích s vyšší mírou úspěšnosti než lékaři, ale nikdy neposkytne pacientovi empatii, sociálně kulturní interakci nebo podporu. Psychoterapii AI dělat neumí, protože nerozumí, a zřejmě ani nikdy nebude, lidským emocím. Ve vzdělávání by měl učitel působit nejen jako předávač informací, ale měl by studenty inspirovat, motivovat a rozumět jejich individuálním potřebám. A ve strategickém řízení se sice jistě optimálně rozhodujeme se na základě dat, ale neobejdeme se bez „šestého smyslu“ intuice, přenesení a aplikace lidských hodnost, inspirace a vedení týmů.

Které profese jsou naopak již dnes vysoce nahraditelné?

Již dnes, především v USA, se některé pozice AI nahrazují, nebo minimálně jejich část. AI se neunaví, nepracuje na směny, a pokud je správně natrénovaná, prakticky nedělá chyby.

Například na pozici datového analytika má AI zvýšenou efektivitu a sníženou chybovosti ve zpracování a analýze dat. Dokáže rychle a přesně tvořit reporty a různé predikce, a to nad obrovskými datasety. Ve skladování a logistice již existují plně automatizované sklady, kde neuvidíte skladníka, ale pouze mašinky se základní AI, které byly natérovány k rutinním úkolům. A v oblasti účetnictví a finanční analýzy je to podobné jako u datových analytiků. AI umí vytěžit data z faktury, efektivně a rychle je zpracovat a vytvořit finanční reporty.

Jaké jsou největší výhody, které AI přináší pro běžné občany?

Jednoznačně největší výhodou je přístup k informacím, jejich zpracování a generování obsahu – ať už psaného či audiovizuálního.

Další výhodou jsou osobní asistenti, a tím pádem zvýšení pohodlí. Já běžně používám Siri. Chci něco přidat do kalendáře? Požádám ji o to a schůzka je vytvořena. Chci napsat SMS? SMS nadiktuji a odešlu adresátovi.

Také existuje personalizované vzdělávání. Chcete se něco naučit, dozvědět, nastavit dietní nebo tréninkový plán, abyste za určitou dobu shodili očekávané množství kilogramů? Jednoduše AI sdělíte svoji současnou situaci, popíšete ji a požádáte, aby vám vytvořila plán realizace. A to nejlepší je, že pokud něčemu nerozumíte, prostě se doptáte na více detailů.

V neposlední řadě je výhodou zvýšení bezpečnosti díky pokročilé analýze obrazu a rozpoznávání vzorců chování. Používá se to například v obchodech pro identifikaci krádeží.

Jaká jsou bezpečnostní rizika, která s sebou AI přináší?

Ve špatných rukách má stejné dopady jako jakákoliv jiná technologie. Prostě se dá využít k vlastnímu obohacení na úkor druhých nebo zkrátka k „destruktivnímu“ chování pro vlastní použití.

Poslední skloňované kauzy jsou tzv. deep fake, kdy z běžné fotografie krásné mladé ženy pomocí technologie odstraníte oblečení a její nahou fotografii umístíte na sociální sítě nebo kamkoliv chcete. Stejně tak to funguje interaktivně – do scény z porna vložíte obličej dívky nebo muže a opět šíříte. Oběť nemá šanci se bránit.

Jedním z hlavních rizik jsou samozřejmě silné kybernetické útoky nebo šíření dezinformací velice přesvědčivou textovou formou s pečlivě vygenerovanými fotografiemi.

Dalším rizikem je diskriminace, pokud je AI trénovaná na nějakém vzorku dat, který není, řekněme, vyvážený. Několik týdnů zpátky bylo zveřejněno zjištění z USA při náboru zaměstnanců, kdy AI mělo za úkol první check životopisů, zda odpovídají představám zaměstnavatele. Výsledek byl, že AI preferovala Afroameričany, ale prakticky zcela zamítala Hispánce a kandidáty bílé pleti.

A samozřejmě na AI vzniká jistý druh závislosti – a jednoho dne, za delší dobu, se na ní závislí staneme, a to povede ke ztrátě, nebo minimálně snížení, lidských dovedností v určitých oblastech, což může mít velmi negativní dopady na společnost.

V dnešní době existují technologie, které dokáží rozpoznat práci vytvořenou člověkem nebo AI. Ať už se jedná o text, nebo například grafické výstupy. O jakých dalších „bezpečnostních” nástrojích bychom měli vědět?

Ony to ve skutečnosti jsou spíše indikativní nástroje. Pokud jste znalí AI promptingu, dokážete nechat vygenerovat článek, který ani nástroj na rozpoznání textů, které vytvořila umělá inteligence, nerozpozná a bude jej považovat za lidský výtvor. Například pokud máte dostatečný počet vlastních textů, ze kterých AI dokáže rozpoznat váš styl psaní, není nic lehčího než dát pokyn, aby AI článek napsala ve stejném stylu jako je ten váš

Co se dnes hodně propaguje, jsou nástroje, které přímo nabízejí možnost psát text, aby nebylo rozpoznatelné, že jej sestrojila AI. Osobně jsem jej nezkoušel, takže nedokážu potvrdit ani vyvrátit, jestli fungují. Toto každopádně bude patrné hlavně ve školství, kdy studenti, kteří by měli získat hlubší porozumění problematice, získat informace z několika zdrojů, ty extrahovat a být schopni je vhodně akademicky formulovat, prostě generují. Ale když to řeknu upřímně, kdo by dnes zkoumal, zda text napsala AI, když se stává běžným pomocníkem lidí, kteří se textty živí?

Co se týká grafických výstupů, je situace trochu jednodušší. I lidským okem se dá v mnoha případech poznat, že obraz byl vygenerován umělou inteligencí. Prompt pro takové zadání je velice komplexní a tvrzení, že AI má potenciál nahradit fotografie, je dle mne v dnešní době zavádějící. Schválně si zkuste nechat vygenerovat obrázek lidí, kteří si podávají ruce. To jsou doslova bizarní situace.

Jaký máte názor na využívání AI, jako například ChatGPT, přímo ve školách? Jedná se o nezadržitelný pokrok, nebo spíše způsob, jak dát technologickým gigantům vydělat?

Jedná se o nezadržitelný pokrok, který by do českého školství měl být co nejrychleji zaveden, ale s jasnou koncepcí a přístupem. Když žáka naučíte správně promptovat, může vést diskusi o jakémkoliv tématu přímo s ChatGPT a dostávat takřka neomezený a detailní přehled o všem, co ho zajímá. Co by školství mělo udělat, je vzbudit zájem žáků o tyto technologie, protože období na škole je přípravou do života. A bez těchto znalostí do života připraveni nebudete.

Biflování a důraz na klasický styl výuky je tedy podle vás už passé?

I to je důležitou součástí procesu. Trénuje mozek k zapamatování věcí, se kterými si pak vybavujeme různé asociace. Zmizet by nemělo, ale nemělo by být prováděno tak tupě, jak já si pamatuji ze svých školních let.

V jaké fázi je teď vývoj AI v Evropě, USA a Asii? Kdo jednoznačně vévodí a kdo zaostává?

Toto je velmi složité zodpovědět. Tahounem inovací je samozřejmě USA. Jenomže když to řeknu trochu nepřesně, ty hlavní mozky nejsou z USA – ano, jsou tam možná narozeni a prošli vzdělávacím systémem, který se, na rozdíl od Asie a Evropy, kde je školství postaveno především na memorování, soustředí na získání kritického rozvoje, analytického myšlení a dovedností na těch nejlépe hodnocených univerzitách na světě. Jenže USA o tyto mozky přichází a ony budují další Silicon Valley za vysoké podpory investorů, kteří mají takřka neomezený kapitál, což jsou především Číňané a Indové.

V Evropě jsme ve složité situaci. Ne, že bychom se nesnažili držet krok – je zde spousta nadějných společností, které prorazily, ale postupně nás, a to víme asi všichni, začíná brzdit Brusel, který roku 2020 začal vydávat směrnice o regulaci AI v Evropě, což nás, bohužel, v mých očích posouvá v žebříčku dozadu, protože se dá předpokládat, že byrokraté budou dále přitvrzovat.

Pokud bych měl seřadit tyto tři regiony, pak bych řekl, že stále vévodí USA, následuje Asie a na třetím místě je, s prohlubujícím se dluhem, Evropa.

Pokud bychom dělali interview s umělou inteligencí, co by si o nás myslela? O lidstvu? O světě?

Umělá inteligence, se kterou bychom interview vedli, by byla nejspíš tzv. Large Language Model, což je součástí pokročilých modelů pro analýzu textu a jiných sériových datových sad. AI jako taková dnes nemá vlastní názor – ten podle mne bude mít až Obecná umělá inteligence.

Každopádně se domnívám, že AI by vyzdvihla dobré vlastnosti jako obrovský potenciál dosáhnout velkých věcí, schopnost inovovat díky inteligenci a překonávat překážky, a především by vyzdvihla to, že pokud bychom spolupracovali jako lidstvo, dosáhli bychom neuvěřitelného.

Vyzdvihla by i to špatné jako otázky, na které se sice zaměřujeme, ale možná jen tak, aby se neřeklo, nebo je naopak ženeme do extrémů. Určitě by vyzdvihla nadměrné zneužívání technologií, sociální a ekonomickou nerovnost, probíhající konflikty a možnosti jejich eskalace a dopadů. Nezapomněla by na environmentální a sociokulturní hrozby, kterým čelíme.

K tomu dodám já to, že ve světě je mnoho inspirativních příkladů toho, čeho lidstvo dosáhlo od jeho počátku. Disponujeme rozmanitostí, ale umíme být solidární. Měli bychom hledat rovnováhu mezi individuálními potřebami a kolektivním blahem. Pak by o nás v budoucnosti Obecná umělá inteligence řekla, že jsme harmonický celek, který je součástí vzrušujícího, ale složitého ekosystému, který je třeba chránit a rozvíjet.

---

LinkedIn