Umělá inteligence Právo a etické otázky Ing. Tereza Pražáková ÚVOD • AI je stále důležitějším prvkem v oblastech podnikání a každodenního života. • Proto je důležité rozumět nejen technickým aspektům, ale i etickým a právním důsledkům. AI ACT (přijet v červnu 2024) • Legislativní rámec přijatý Evropským parlamentem a Radou Evropské unie • Stanovuje harmonizovaná pravidla pro vývoj, uvádění na trh a používání systémů umělé inteligence v Evropské unii. • Cíl: zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv, přičemž zároveň podporuje inovace v oblasti AI. • Vztahuje se na uživatele v EU, poskytovatele uvnitř EU, kteří na trh uvádí AI systémy. Vztahuje se na poskytovatele a uživatele i mimo EU, pokud se výstup jejich AI systému používá na trhu EU (např. obrázky, videa atd.) • Vztahuje se na soukromou i veřejnou sféru (podle pravidel se budou řídit i orgány veřejné moci). Zdroj: https://www.akcisek.cz/blog/ai-act-kdo-co-a-jak ROZDĚLENÍ AI DLE AI ACT • Systémy s minimálním rizikem – většina již dnes dostupných systémů, se kterými se každý z nás za poslední roky setkal. • Systémy s vysokým rizikem – systémy potenciálně zasahující do základních práv a bezpečnosti jednotlivců (např. biometrická identifikace osob, kritická infrastruktura) • Systémy s nepřijatelným rizikem – systémy, které představují zvláště škodlivé způsoby využití umělé inteligence (zneužívání zranitelnosti osob, biometrická identifikace osob mimo povolené výjimky atd.). • Systémy se specifickým rizikem – vybrané systémy, u kterých existuje riziko netransparentnosti a zneužití (např. chatboti). Zdroj: https://www.akcisek.cz/blog/ai-act-kdo-co-a-jak PŘÍKLADY SYSTÉMŮ DLE KATEGORIE Zdroj: https://www.akcisek.cz/blog/ai-act-kdo-co-a-jak Minimální riziko Vysoké riziko - Spamové filtry - Videohry využívající AI - Biometrické systémy, které nejsou mezi zakázanými - Systémy využívané pro profilování - Kritická infrastruktura (řízení dopravy) - Hodnocení výsledků studia Nepřijatelné riziko (zakázané) Omezené riziko - Biometrická indentifikace (na dálku v reálném čase na veřejnosti) - Social scoring - Vše, co nás manipuluje a podprahově ovlivňuje - Chatboti a virtuální asistenti - AI generovaný obsah POŽADAVKY Systémem řízení rizik • Nepřetržitý cyklus prevence, vyhodnocení a nápravy situací ohrožujících základní práva a bezpečnost jednotlivce. Správa dat • Kontrola správnosti a úplnosti dat používaných při tréninku a testování. • Dodržování požadavků GDPR při využívání osobních dat. Transparentnost • Vytváření uživatelských návodů pro správné vykládání a používání výstupů systémů. Kvalita a kyberbezpečnost • Zajištění integrity dat a výstupů, prevence zneužití systémů. ETIKAA MORÁLKA • Etika – Vědní disciplína – součást filosofie. Věnuje se hodnocení lidského jednání. Zajímá ji, zda ho můžeme popsat jako správné, či nesprávné. Kriticky hodnotí principy a normy správného jednání. • Morálka - soubor norem různého původu (kultura, náboženství apod.), kterými se lidé skutečně řídí. Různé společnosti (a dokonce i jednotliví lidé) mohou vyznávat odlišné morálky. • Etika je (či by měla být) schopná určit ty principy a normy, které jsou platné obecně. • Morálka je podmíněna celou řadou faktorů, může se měnit a být nesprávná (stačí pomyslet na otroctví, které se někdy obhajovalo prostřednictvím tehdy panujících morálních norem), etika by měla mít alespoň určité jádro trvale platných principů a norem. Zdroj: https://aidetem.cz/etika/ ETIKA UMĚLÉ INTELIGENCE • Mladá vědní disciplína • Jádrem etiky AI je snaha o vytvoření souboru etických pravidel, která všem systémům umělé inteligence umožní rozhodovat se správně. Principy - Základní etické principy, kterými by se inteligentní systémy a stroje měly řídit. Jedná se o těchto pět principů: • princip neškození, • princip prospívání, • princip respektu k lidské autonomii, • princip spravedlnosti • princip vysvětlitelnosti. Zdroj: https://aidetem.cz/etika/ ETIKA UMĚLÉ INTELIGENCE • Podaří-li se nám nějakým způsobem začlenit tyto principy do rozhodovacích mechanismů umělé inteligence (alespoň taková je základní představa), výsledkem budou stroje a systémy, které se rozhodují eticky správně. Existují tři přístupy, jak umělou inteligenci „obohatit“ o etické principy: • přístupy „shora“ (naprogramujeme obecné rozhodovací procedury), • přístupy „zdola“ (necháme umělou inteligenci, aby se eticky správné jednání naučila), • kombinace obou postupů. Zdroj: https://aidetem.cz/etika/ AI AAUTORSKÁ PRÁVA • Tvorba loga – kdo je autor a komu náleží autorská práva? • 3 potenciální možnosti • vývojář AI systému • Vy jako uživatel AI systému • AI systém samotný https://www.pravniprostor.cz/clanky/pravo-it/ai-autorske-pravo-ohrozeni-anebo-prilezitost AI AAUTORSKÁ PRÁVA • Tvorba loga – kdo je autor a komu náleží autorská práva? • 3 potenciální možnosti • vývojář AI systému • Vy jako uživatel AI systému • AI systém samotný • Zákon striktně říká, že autorem jakéhokoliv autorského díla je fyzická osoba. AI není fyzickou osobou. • Vývojář či uživatel umělé inteligence by podmínku právní osobnosti splňovali, ale určení autorství zde také není jednoznačné. • Bez tvůrčího přístupu vývojářů AI by nevznikla žádná umělá inteligence a potažmo ani žádné logo či obrázek. Vy jako uživatel se zase na druhou stranu aktivně podílíte na celém tvůrčím procesu umělé inteligence. https://www.pravniprostor.cz/clanky/pravo-it/ai-autorske-pravo-ohrozeni-anebo-prilezitost AI AAUTORSKÁ PRÁVA Významný rozsudek Městského soudu v Praze • Rozsudek tohoto sporu nám bude vodítkem na cestě za správnou odpovědí, kdo by byl autorem loga. • Žalobce pomocí programu DALL-E vygeneroval s určitým promptem obrázek a umístil si jej na web. • Žalovaný si jej okopíroval a vložil na své stránky. • Žalobce se považoval za autora vygenerovaného díla a požadoval stažení obrázku z webu žalovaného a zákaz šíření obrázku bez jeho souhlasu. • Soud ve svém rozsudku došel k závěru, že obsah vygenerovaný umělou inteligencí nelze považovat za autorské dílo, jelikož nesplňuje pojmové znaky dané autorským zákonem. Jedná se zejména o to, že není jedinečným výsledkem tvůrčí činnosti autora. https://www.pravniprostor.cz/clanky/pravo-it/ai-autorske-pravo-ohrozeni-anebo-prilezitost AI AAUTORSKÁ PRÁVA Významný rozsudek Městského soudu v Praze • Vy totiž logo sami nevytvoříte, vzniká pouze prostřednictvím umělé inteligence. • Pokud jde o samotné zadání a podklady pro logo vytvořené AI, dalo by se hovořit o námětu díla či eventuálně myšlence, které však samy o sobě nejsou autorským dílem podle autorského zákona. • Pokud logo nevytvoříte osobně, ale bylo by ztvárněno umělou inteligencí, nemůže se již z podstaty věci jednat o autorské dílo a tím pádem k němu nemáte autorská práva a ani je nemůžete vykonávat. • Podle rozhodnutí soudu nemáte k logu vygenerovaným umělou inteligencí žádná práva, což znamená, že nemáte kontrolu nad jeho dalším šířením. https://www.pravniprostor.cz/clanky/pravo-it/ai-autorske-pravo-ohrozeni-anebo-prilezitost CO NA TO PRÁVNÍCI Autorské právo (Petra Stupková) https://youtube.com/shorts/zZtAtH1FoVg?si=Ts3m5XSqbavMQYDo Je AI dílo skutečně moje? https://youtube.com/shorts/g0tOr4JN1Rk?si=ISt_3V4bMhcNR42g ATD. Proč umělci nemají rádi AI https://www.youtube.com/watch?v=5Viy3Cu3DLk DEEPFAKE Technologie, která umožňuje vytváření falešného digitálního obsahu (převážně videí) pomocí algoritmů strojového učení. Dokáží realisticky nahradit tváře a hlasové stopáže v existujících videích, fotografiích anebo zvukových nahrávkách. Upravuje se především mimika obličeje a řeč jednotlivých aktérů. https://www.youtube.com/watch?v=3wVpVH0Wa6E DEEPFAKES Zpřístupnění AI nástrojů pro tvorbu deepfakes se dostalo na seznam největších rizik pro rok 2024. Největší hrozby zneužití zahrnují techniky, které ohrožují značku organizace, napodobují vedoucí pracovníky a používají podvodnou komunikaci k získání přístupu k sítím, komunikaci a citlivým informacím organizace. Phishing (typ kybernetického útoku zneužívající falešnou identitu) • napodobení hlasu nadřízeného v telefonu • deepfakes v on-line schůzkách a pohovorech • zveřejnění falešného firemního prohlášení • vydírání zaměstnanců falešnými snímky s nahotou Aktivita BOD KE ZKOUŠCE https://1url.cz/@vyzkum-pw2024