Evropska unija je leta 2024 glede uporabe sistemov umetne inteligence na različnih področjih sprejela Uredbo o umetni inteligenci (Uredba o UI). Evropska komisija (EK) zdaj pripravlja smernice kot pojasnilo, kako posamezne določbe uredbe uporabljati v praksi. Ena od smernic obravnava tako imenovane visokotvegane sisteme umetne inteligence – sisteme, katerih uporaba lahko pomembno vpliva na pravice posameznikov. Pred dokončnim sprejetjem smernic je EK odprla javno posvetovanje, v katerem so lahko sodelovali strokovnjaki, organizacije in posamezniki.
Zakaj se to tiče prevajalcev in tolmačev?
V DPTS nas skrbi, ker Uredba o UI prevajanja in tolmačenja z umetno inteligenco ne uvršča med visokotvegane dejavnosti. Vemo, da je kakovost programske opreme na tem področju vse boljša, vemo pa tudi, da njeni rezultati niso tako točni kot delo prevajalcev in tolmačev. Prepričani smo, da mora na občutljivih področjih, kot so npr. pravo, upravni postopki, medicina, pregon kaznivih dejanj ali azilni postopki, osredotočenost ostati na tveganjih. Že najmanjša netočnost pri prevajanju ali tolmačenju lahko povzroči veliko škodo, negativno vpliva na poštenost sodnih postopkov, ogrozi spoštovanje načel pravne države in vsem stranem onemogoči poln dostop do pravnega varstva.
Pri prevajanju imajo sistemi UI težave s kompleksnim kontekstom ter niso dovolj dosledni in natančni. Včasih spremenijo trdilne stavke v nikalne ali obratno. Lahko dodajo besedne zveze (halucinacije oz. konfabulacije) ali izpustijo ključne dele stavka ali izjave, imajo težave s slengom in narečji, ne razumejo čustvenega konteksta, v katerem je izjava izrečena, itd. Pri tolmačenju se lahko pri računalniški obdelavi človeškega govora pojavljajo težave, kot so nenaravna prozodija, slaba segmentacija stavkov, nenavaden ritem govora ter nezmožnost razumevanja kontekstualne in čustvene celovitosti občutljivih pripovedi. Sistemi umetne inteligence imajo lahko tudi težave pri razumevanju govorcev z govornimi motnjami, pa tudi govora, na katerega vplivajo močna čustvena stanja, kot so jok, strah, stres, šok ali panika, ki lahko znatno vplivajo na govorjenje in razumljivost.
Kot poklicni jezikoslovci v DPTS zato menimo, da je ključnega pomena, da smernice EK v zvezi z Uredbo o UI pri točkah 6, 7 in 8 Priloge III jasno določijo, da sta prevajanje in tolmačenje z umetno inteligenco visokotvegani dejavnosti.
Kaj je storilo DPTS?
Izvršni odbor (IO) DPTS se je odločil, da bo društvo aktivno sodelovalo v javnem posvetovanju EK. Za pravno analizo osnutka smernic je k sodelovanju povabil zunanjega strokovnjaka za pravo umetne inteligence (Gregor Strojin, Deloitte), nato pa je delovna skupina IO pripravila pripombe z vidika prevajalcev in tolmačev. Poleg skupnega prispevka društva so bili člani organov društva povabljeni, da po želji sodelujejo tudi kot posamezniki in oddajo svoje pripombe.
Kaj smo predlagali?
V svojih pripombah smo predvsem poudarili, da bi morale smernice več pozornosti nameniti uporabi umetne inteligence pri prevajanju in tolmačenju. Med drugim:
1) predlagamo, naj se pojem »avtonomije« iz Uredbe razlaga široko, tako da je uporaba orodij UI za prevajanje in tolmačenje v postopkih preprečevanja, odkrivanja in pregona kaznivih dejanj, azilnih in čezmejnih postopkih, upravnih in sodnih postopkih ter demokratičnih procesih vključena med visokotvegane dejavnosti. Sistem umetne inteligence lahko samodejno prevede izjavo, izdela prepis zaslišanja ali pripravi povzetek razgovora. Če tak dokument postane del uradnega spisa, lahko morebitne napake vplivajo tudi na nadaljnje faze postopka, saj se nanj opirajo poznejše odločitve. Tehnologija tako vpliva na pomembne odločitve o ljudeh in odpira resna vprašanja glede varstva osebnih podatkov in zaupnosti, torej gre za orodja z nesprejemljivim tveganjem, ki jim mora evropska zakonodaja postaviti stroge omejitve.
2) Predlagamo, naj se upošteva namen uporabe umetne inteligence. Če prevod, prepis ali povzetek postane del uradnega spisa, lahko vpliva na razumevanje dejanskega stanja in posledično na odločitev v postopku, tudi če gre za »pripravljalne« naloge. Napačen prevod se lahko prenese v nadaljnje faze postopka, kjer se nanj opirajo ključne odločitve.
3) Pozivamo Urad za umetno inteligenco, naj upošteva metodologije ocenjevanja tveganj za človekove pravice (npr. HUDERIA), ki na strukturiran način ocenjujejo tveganja za človekove pravice, demokracijo in vladavino prava. Uporaba takšnih metod pri analizi orodij UI za prevajanje in tolmačenje kaže na veliko verjetnost nastanka in resnost škode v primeru točk 6, 7 in 8 Priloge III k omenjenim smernicam ter podpira izrecno obravnavo teh orodij kot visoko tveganih, ker obstaja velika verjetnost napak in resnih posledic za pravico do poštenega sojenja, pravico do enake obravnave in pravico do zasebnosti. Isto orodje UI za prevajanje ali tolmačenje je lahko pri vsakdanji uporabi netvegano, v kontekstih iz Priloge III pa visokotvegano. Podobno se lahko stopnje tveganja znatno razlikujejo glede na uporabljene jezikovne pare. Smernice bi zato morale obravnavati prevajanje in tolmačenje z umetno inteligenco kot paradigmatičen primer tega, kako kontekst določa stopnjo tveganja.
4) Zato predlagamo, da sta v smernicah prevajanje in tolmačenje z umetno inteligenco, kadar se uporabljata pri pregonu kaznivih dejanj, izrecno obravnavana kot visoko tvegana v skladu s 6. točko Priloge III. Če se uporabljata pri migracijah, azilu in nadzoru meja, ju je treba obravnavati kot visoko tvegana v skladu s 7. točko Priloge III, če se uporabljata v pravosodju in demokratičnih procesih, pa kot visoko tvegana v skladu s točko 8(a) Priloge III.
5) Poleg tega predlagamo, naj bo uporaba umetne inteligence pri prevajanju in tolmačenju pregledna, vključno s podatki o stopnjah natančnosti za posamezne jezikovne pare in vrstah napak, ki naj bodo naročnikom, uvajalcem in končnim uporabnikom teh tehnologij dostopni v ustrezni tehnični dokumentaciji.
V DPTS menimo, da je bilo posvetovanje EK o osnutku smernic priložnost, da smo opozorili na praktične dileme, nejasne primere uporabe in vprašanja, ki bi lahko vplivala na to, kako se bodo pravila uporabljala v praksi. Hkrati ostaja dejstvo, da je umetna inteligenca lahko samo pomožno orodje. Ključne naloge je namreč treba prepustiti strokovnjakom, ki razumejo ne le jezike, temveč tudi ljudi, kulture in kontekst, v katerem komuniciramo.
DPTS bo tudi v prihodnje spremljalo razvoj evropske zakonodaje na področju umetne inteligence in si prizadevalo, da bodo pri njenem oblikovanju upoštevane tudi posebnosti prevajalskega in tolmaškega poklica. Razvoj umetne inteligence prinaša nove možnosti, hkrati pa odpira pomembna strokovna in etična vprašanja, pri obravnavi katerih želimo kot strokovno društvo dejavno sodelovati.
Ko bo EK javno objavila odgovore na posvetovanje, bomo povezavo objavili na spletni strani DPTS.
