Lana Kosmač

UVOD

Eno od večjih vprašanj našega časa je ali umetna inteligenca pripomore k okrepitvi človekovih pravic ali jih spodkopava. Tehnologija, ki uporablja umetno inteligenco, je že danes v življenjih mnogih posameznikov, javni organi pa jo uporabljajo tudi za odločitve, ki imajo resne in velike posledice za človekove pravice, kot na primer ocenjevanje posameznikovih sposobnosti ali pa razdeljevanje sredstev posameznikom po presoji umetne inteligence.

RAZPRAVA

Zaradi prej naštetih razlogov, je nujno najti pravo ravnovesje med tehnologijo, ki uporablja umetno inteligenco in človekovimi pravicami. Komisarka za človekove pravice opozarja na posledice, ki jih lahko umetna inteligence prinese in da večja kot je možnost za kršenje človekovih pravic, tem bolj stroge bi morale biti pravne zahteve za uporabo umetne inteligence. Po njenih besedah morajo vsi, ki so neposredno ali posredno povezani z razvojem sistemov umetne inteligence, imeti razumevanje in znanje o možnih posledicah umetne inteligence za in na človekove pravice, zagotavlja pa tudi smernice o tem, kako ublažiti oziroma preprečiti negativne posledice na človekove pravice.

Komisarkin urad OHVHR je izdal poročilo, ki analizira, kako umetna inteligenca vpliva v večini na pravice ljudi do zasebnosti, med drugim pa tudi na pravico do zdravja, izobraževanja, pravico do svobode gibanja, svobode mirnega zbiranja in združevanja ter svobode izražanja. V poročilu je vključena ocena profiliranja, avtomatiziranega sprejemanja odločitev in drugih strojno učenih tehnologij. Po beseda varuha človekovih pravic, Tima Engelhardta, so razmere grozne. Razmere se skozi leta niso izboljšale, temveč poslabšale. Peggy Hicks, direktorica tematskega angažmaja OHCHR, pa je k Engelhardtovemu opozorilu dodala naslednje:

»Ne gre za tveganje v prihodnosti, ampak za današnjo realnost. Brez daljnosežnih premikov se bo škoda pomnožila z obsegom in hitrostjo in tako sploh ne bomo vedeli, kakšen je problem«. (Hicks, 2023)

Prej omenjeno poročilo je med drugim navajalo, da države in podjetja prehitro vključijo aplikacije umetne inteligence v sisteme, brez da bi prej preučili morebitne posledice. Omenjeno je bilo, da je napačna uporaba aplikacij umetne inteligence že prej pogosto pripeljala do nepravičnega obravnavanja ljudi, primer so zavrnjeni prejemniki socialne pomoči zaradi napačno uporabljene umetno inteligentne tehnologije ali aretacija zaradi pomanjkljive programske opreme za prepoznavanje obrazov.

Na to temo bi rada izpostavila konkreten primer aplikacije, ki uporablja umetno inteligenco ter prinaša grožnjo človekovim pravicam ob napačni uporabi. Omenila bi kontroverznosti, ki se dogajajo okoli aplikacije SoraAI. SoraAI je aplikacija, ki jo je ustvarilo podjetje OpenAI, isto podjetje, katero je ustvarilo ChatGPT. SoraAI generira realistične videe iz podanega izhodiščnega besedila z minimalnimi napakami. Prototip slednje je na voljo ljudem za uporabo prav od šestnajstega februarja letos. Čeprav je aplikacija še vedno v stanju razvoja in izpopolnjevanja, so njene kreacije, kot že prej omenjeno, hiperrealistične. To seveda pripomore k hitrejšem izdelovanju animacij ali filmov, a prinese tudi številne težave.

SoraAI je brezplačna aplikacija namenjena uporabi ljudem. Čeprav je aplikacija lahko koristna, lahko ogroža človekove pravice. Kot primer, izdelovanje umetnih posnetkov, uporabljenih na sodišču: sodišče ne verjame podanim dokazom, ki so resnični, saj bi lahko bili generirani z umetno inteligenco. Poleg tega pa lahko ljudje z umetno inteligenco ustvarijo videe z eksplicitnimi temami brez privoljenja udeležencev, kar pa tudi šteje za zlorabo človekovih pravic. Slednji video posnetki so lahko uporabljeni tudi kot material za izsiljevanje.

ZAKLJUČEK

Za zaključek bi podala moje lastno mnenje o umetni inteligenci in človekovih pravicah. Zdi se me, da je razvoj umetne inteligence pomemben in da je umetna inteligenca uporabna stvar, a moramo biti z njo previdni saj lahko z njo nekomu omejimo človekove pravice in jih spravimo v neprijeten položaj. Z hitrim razvojem umetne inteligence, slike in videi postajajo vse bolj realistični in mogoče v naslednjem desetletju, morda že v naslednjih nekaj letih, razlike med pravim in umetnim posnetkom ali fotografijo ne bo več in to bi poslabšalo varnost človekovih pravic zaradi že prej omenjenih dogodkov.

Pri pisanju seminarske naloge nisem uporabila nobenega UI sredstva za pomoč.

BESEDILNI VIRI:

Artificial intelligence and human rights, 2023, Council of Europe, citirano 26. 2. 2024; 18.42, dostopno: Artificial Intelligence and Human Rights – Commissioner for Human Rights (coe.int)

Urgent action needed over artificial intelligence risks to human rights, 2021, United nations, citirano 28. 2. 2024; 18.30, dostopno: Urgent action needed over artificial intelligence risks to human rights | UN News

Realism of OpenAI’s new Sora video generator raises security concern, 2024, New Scientist, citirano 28. 2. 2024; 19.25, dostopno: Realism of OpenAI’s Sora video generator raises security concerns | New Scientist

SLIKOVNI VIRI:

Slika 1: 2020, Umetna inteligenca, cenjeni svetovalec ali krvnik človeštva? – Tehnozvezdje, citirano 28. 2. 2024; 19.27, dostopno: https://tehnozvezdje.si/umetna-inteligenca-cenjeni-svetovalec-ali-krvnik-clovestva/

Slika 2: 2020, Dunja Mijatović takes up office as Council of Europe Commissioner for Human Rights, citirano 28. 2. 2024; 19.30, dostopno: https://www.coe.int/

Slika 3: 2023, ai-video-creator · GitHub Topics · GitHub, citirano 28. 2. 2024; 19.32, dostopno: https://github.com/topics/ai-video-creator