Jedným z najlepšie zdokumentovaných etických zlyhaní AI je algoritmické zaujatie, sklon systémov produkovať nespravodlivé výsledky voči určitým skupinám. Zriedka ide o zlý úmysel; častejšie o chybné tréningové dáta a optimalizáciu na efektivitu.
Príklady z praxe
- Nástroj Amazonu na triedenie životopisov sa naučil z historických dát (prevažne mužských) penalizovať životopisy obsahujúce slovo „ženský“ a systematicky znevýhodňovať ženy. Projekt bol zrušený.
- Reklamný systém Facebooku aj bez cielenia podľa pohlavia zobrazoval ponuky práce stereotypne, opatrovateľské pozície ženám, manuálne mužom. Nešlo o naprogramovaný sexizmus, ale o optimalizáciu nákladov za klik.
Tu je jadro problému: samotný akt optimalizácie pre komerčný úspech môže nechtiac viesť k diskriminačným výsledkom, ktoré prehlbujú existujúce nerovnosti.
AI Act v štyroch úrovniach
Európsky AI Act (2024) zavádza prístup podľa rizika: neprijateľné riziko (zakázané praktiky ako manipulatívne techniky), vysoké riziko (prísne pravidlá, ľudský dohľad, dokumentácia, napr. triedenie životopisov či hodnotenie úverov), obmedzené riziko (povinnosť transparentnosti, používateľ musí vedieť, že komunikuje s AI a že obsah je umelý) a minimálne riziko. Pokuty môžu dosiahnuť až 35 miliónov eur alebo 7 % obratu. Práve povinnosť označovať AI obsah priamo zodpovedá požiadavke publika (89,4 %).
Autorské právo
Pre tvorcov je dôležité, že výstup čisto generovaný AI podľa súčasného výkladu nemá ľudské autorstvo, a teda nemusí byť chránený. Logo či vizuál vytvorený výhradne modelom môže konkurencia voľne použiť, riešením je významný ľudský zásah do finálneho diela, čo opäť potvrdzuje model synergie človeka a technológie.