Co když AI zabije pacienta? Právo v tom stále tápe, varuje v Rozstřelu expert

Kdo odpovídá za fatální chybu umělé inteligence? Třeba ve zdravotnictví nebo v dopravě? Evropské ani české právo zatím nemá jednoznačnou odpověď. V Rozstřelu na iDNES.cz před tím varoval prorektor Masarykovy univerzity v Brně a odborník na technologické právo Radim Polčák.

Máme se bát umělé inteligence?
Není důvod se jí vyloženě bát. Má určitá rizika a způsob, jakým ji společnost používá, vždycky nějaké riziko vyvolá. Existuje pravděpodobnost, že katastrofa nastane v důsledku zneužití nástrojů založených na strojovém učení. Ještě mnohem větší je ale pravděpodobnost, že si ji způsobíme vlastní hloupostí, zcela bez AI. Problematické je vyvolávat ve společnosti vlny úzkosti jen proto, abychom k této technologii přitáhli pozornost.

Mohou stát za voláním po zastavení vývoje AI komerční zájmy?
Komerční motiv tam určitě bude. Do vývoje se investovaly obrovské peníze a investoři očekávají výsledky. Najednou se ale objevují reálná bezpečnostní rizika. Firmy možná budou muset platit náhrady škody a vysoké pojistky. Také se očekávalo, že tyto systémy začnou vytvářet daleko větší zisky, než generují nyní. Pokud velmi úspěšní podnikatelé, o jejichž morálním profilu můžeme pochybovat, začnou hovořit o morální ochraně lidstva, určitě za tím nebude jen snaha lidstvo chránit.

31 fotografií

Co když autonomní systém způsobí nehodu nebo AI při operaci zabije člověka? Kdo ponese odpovědnost?
To je jednoduchá otázka s velmi složitou odpovědí. Řešilo se to už před příchodem velkých jazykových modelů u autonomních aut. Do jejich fungování vstupuje mnoho subjektů. Záleží na tom, na čem se systém učí, jak je naprogramovaný a jaká data získává při provozu. Systémy založené na strojovém učení jsou navíc takzvaně nevysvětlitelné. Jejich fungování není pro člověka transparentní. Obtížně se proto určuje, kdo a jakou měrou přispěl k tomu, že něco udělaly.

Právo na to nemá odpověď?
Akt o umělé inteligenci odpovědnost neřeší. Vznikl návrh směrnice, která se jí měla zabývat, ale ani tam se nepodařilo najít jednoznačné řešení. Částečně se to podařilo v předpisech o odpovědnosti za vadu výrobku. Zásadní je také důkazní břemeno: zda musí odpovědný subjekt prokázat, že nic špatně neudělal, nebo mu někdo jiný musí dokázat opak. V nevysvětlitelném systému se důkaz hledá velmi obtížně. Je proto dost pravděpodobné, že ten, kdo ponese důkazní břemeno, prohraje.

AI už často lidem píše smlouvy. Kdo odpovídá za chyby? Třeba Elon Musk, pokud použiju Grok?
Záleží na systému a oprávněných očekáváních uživatele. U velkého jazykového modelu uživatel nemá oprávněné očekávání, že bude fungovat v expertní oblasti. Podobá se to situaci, kdy vám Google nabídne špatný odkaz při hledání odborné záležitosti. I tehdy je velmi těžké hnát ho k odpovědnosti. Advokátní komora navíc řekla jednoznačně, že pokud takový nástroj používá advokát, musí výstup vždy zkontrolovat. Stejně to platí pro novináře.

Řadu právních úkonů už dnes zvládne AI. Jako právníka a prorektora se vás musím zeptat, jestli se nebudou právníci brzy bez práce? Má smysl studovat právo?
Možná to má větší smysl než dřív. Je pravda, že některé advokátní kanceláře začaly omezovat juniorské pozice, protože jejich práci zastane stroj. Ty chytré ale vědí, že juniory potřebují, aby z nich jednou byli senioři. Mladší kolegové navíc pomáhají starším zvládat technologie. Právník nemá být písař. Jeho hodnota spočívá v kreativitě, invenci, kontaktu s klientem, empatii a komunikaci. Klient nepotřebuje dvacet nebo třicet stránek, ale skutečný obsah. Ten může být ve třech odstavcích.

Chtěl byste, aby vás soudila umělá inteligence?
To se nestane. Nedožijeme se toho, že za nás bude rozhodovat umělá inteligence. V demokratickém právním státě tam vždycky musí být člověk. Nemusí ale dělat všechno, co dělá dnes. Hodnota soudce nespočívá v kontrole doručenek nebo datlování na počítači. Když na spis nasadíte velký jazykový model, může se ho soudce zeptat a dostat odpověď.

Už se to u soudů používá?
Ve velmi omezené míře ano. Musíme dávat pozor, aby neunikala data. Je tam také problém s dělbou moci. Zavádění technologií do justice u nás řídí ministerstvo spravedlnosti, tedy orgán výkonné moci. Hrozí, že tím určitým způsobem získá nad soudní soustavou navrch.

Hostem pořadu Rozstřel je Radim Polčák, expert na technologické právo a prorektor Masarykovy univerzity. Pořad moderuje Vladimír Vokál.

Dokážete na univerzitě poznat, že student nechal práci napsat umělou inteligencí?
Neexistuje systém, který by generované výstupy spolehlivě automaticky rozpoznal. Vodoznaky mohou pomoci, stoprocentní ochrana to ale nebude. Osobně bych tyto nástroje nezakazoval. Studujícím je potřeba vysvětlit, že se musejí naučit formulovat a srovnat si myšlenky. Když to obejdou tak, že to vyučující nepozná, nic nevyhrají. O něco přijdou a jednou se to projeví.

Okrádají nás tvůrci AI, když své modely učí na našich textech a fotografiích? Měli by autoři dostávat podíl ze zisku? Proč studenti protestovali proti nasazení AI na Masarykově univerzitě? A jak mohou autonomní taxíky sloužit jako pojízdné místo pro milence? I na tyto otázky odpovídal odborník na technologické právo Radim Polčák v Rozstřelu.