Dirbtinio intelekto (DI) pagalba parengtos ataskaitos, sutartys ir teisiniai dokumentai tapo įprasti, tačiau kartu su didėjančiu DI naudojimu kyla ir rizikos. Teisės firmos „Sorainen“ ekspertė Irma Kunickė pabrėžia, kad netinkamai neįvertintos DI sukuriamos klaidos, vadinamos „AI workslop“ ir didžiųjų kalbos modelių „haliucinacijomis“, gali brangiai kainuoti tiek įmonėms, tiek asmenims.
Teisės srityje vis daugiau kalbama apie DI „haliucinacijas“ – klaidingą, tačiau įtikinamai pateikiamą informaciją. Anglijos ir Velso teisininkų reguliavimo institucija per metus gavo 42 pranešimus dėl netinkamo DI panaudojimo, įskaitant netikslias teisinių nuostatų citatas, išgalvotus precedentus ir konfidencialios informacijos atskleidimą.
Lietuvoje taip pat daugėja atvejų, kai remiamasi DI parengtais teisiniais dokumentais, kuriuose yra klaidinančių teiginių ar neteisingų formuluočių. Tai lemia „mėgėjišką teisės praktikavimą“ (angl. vibe lawyering), kai neprofesionalai DI pagalba rengia teisinius dokumentus ir kliaujasi jo patarimais. Aklas pasitikėjimas DI gali lemti ne tik prastai parengtų dokumentų peržiūrėjimą, bet ir sutarčių pripažinimą negaliojančiomis, nes jos tinkamai neapsaugo interesų. Kaip pastebi I. Kunickė, net ir įtikinamai skambantys DI sukurti argumentai gali greitai būti paneigti patyrusių teisininkų, jei jie remiasi „haliucinacijomis“.
DI „haliucinacijų“ problema nėra išskirtinė tik teisininkams. Viena didžiojo ketvertuko verslo konsultacijų bendrovė buvo priversta atšaukti ataskaitas dėl neegzistuojančių šaltinių ir prieštaringų teiginių. Laiku nepastebėtos DI klaidos gali lemti prastus sprendimus, finansinius nuostolius ir sugadintą reputaciją. Net ir atpažinus nekokybišką DI medžiagą, gali prireikti daug laiko ją taisyti.
Europos Sąjungos (ES) DI aktas, įsigaliojęs 2024 m. rugpjūtį, iš dalies sprendžia šias rizikas. Jo 4-asis straipsnis įpareigoja užtikrinti pakankamą DI naudotojų raštingumą, o 15-asis – aukštos rizikos DI sistemose pasiekti tinkamą tikslumo, atsparumo ir kibernetinio saugumo lygį. 14-asis straipsnis numato žmogaus priežiūrą (angl. human oversight), ypač aukštos rizikos sistemoms, kad naudotojai suprastų sistemos galimybes ir ribas bei vengtų „automation bias“ – polinkio pernelyg pasitikėti DI rezultatais.
Nors įprasti pokalbių robotai nepatenka į aukštos rizikos kategoriją, tokie sprendimai kaip automatinio kandidatų vertinimo sistemos, vizų ar prieglobsčio prašymų nagrinėjimas ar DI sprendimai teismams jau gali būti priskiriami aukštos rizikos DI sistemoms.
Organizacijos, naudojančios DI, turi skirti išskirtinį dėmesį konfidencialios informacijos ir asmens duomenų apsaugai. Žiniasklaidoje pasitaikė atvejų, kai DI naudojimas lėmė neteisėtą duomenų atskleidimą, įskaitant dideles korporacijas kaip „Amazon“ ir „Microsoft“. Rekomenduojama nenaudoti asmens duomenų ar konfidencialios įmonės informacijos viešai prieinamose DI sistemose ir nustatyti aiškias DI naudojimo taisykles, atitinkančias ES Bendrojo duomenų apsaugos reglamento (BDAR) reikalavimus.
DI vis plačiau taikomas, tačiau svarbu tinkamai valdyti kylančias rizikas, tvirtinant geras DI naudojimo praktikas ir kiekvieno naudotojo atsakomybę, nepamirštant ES DI akto ir BDAR reikalavimų.
