Mūsų mokesčių asistentą naudojanti žinių bazė sutriko arba nustojo būti tikrinama du kartus, tačiau abi situacijos buvo pastebėtos žmonių, o ne automatinės sistemos. Pirmoji problema, įvykusi 2025 m. birželį, buvo susijusi su neteisingais asistento atsakymais, kuriuos pastebėjo klientas. Antroji, 2026 m. rugsėjį užfiksuota, problema buvo sudėtingesnė ir susijusi su foninių procesų sutrikimu, dėl kurio nebuvo tikrinama žinių bazės aktualumas.
„AAI Labs“ prekės ženklu veikiančios UAB „Taikomasis dirbtinis intelektas“ sukurto asistento silpnoji vieta buvo ne pats dirbtinio intelekto modelis, o jį maitinanti žinių bazė ir ją prižiūrintys procesai. Nors DI modelis geba generuoti atsakymus remdamasis bendromis žiniomis, kai trūksta informacijos žinių bazėje, tai gali sukelti neteisingų, bet įtikinamai atrodančių atsakymų generavimą.
Silpnoji vieta buvo žinių bazė, o ne dirbtinis intelektas
Pirmoji problema kilo, kai vienas komandos narys bandė naują teisės aktų tekstų suskaidymo būdą tiesiai veikiančioje žinių bazėje. Kol ji buvo atnaujinama, asistentas, remdamasis pakeistomis instrukcijomis, pradėjo teikti atsakymus remdamasis bendromis žiniomis. Tai galėjo lemti neteisingus atsakymus, kurių metu žinių bazė neveikė kelias valandas.
Antroji problema, kilusi 2026 m. rugsėjį, susijusi su prototipine antraja asistento versija, kurios žinių bazė buvo „užšaldyta“ vertinimo tikslais. Mėnesiniai foniniai procesai, turėję tikrinti oficialių šaltinių (Valstybinės mokesčių inspekcijos, LR Seimo teisės aktų duomenų bazės) aktualumą, neveikė nuo liepos mėnesio. Problema, nors ir nepastebėta klientų, rugsėjo pradžioje buvo aptikta komandos nario.
Įdomiausia, kad procesai, nors ir nesėkmingai veikdavo automatiškai apie 3 val. nakties pirmąją arba antrąją mėnesio dieną, sėkmingai veikdavo paleisti rankiniu būdu. Tai lėmė trys sutapę faktoriai: dauguma procesų buvo suplanuoti vienu metu, vienos svetainės apsauga nuo robotų trukdydavo prisijungti, o duomenų bazė buvo perkrauta dėl per didelio kiekio perkrovimų.
Ką pakeitėme
Buvo įvestos šios pataisos: eksperimentai nebevykdomi veikiančioje žinių bazėje, mėnesiniai procesai vykdomi paeiliui su pusvalandžio intervalais, skiriama daugiau laiko lėtai veikiančioms svetainėms, išsaugomi duomenys apie nesėkmingus paleidimus, o sistema buvo sėkmingai išbandyta ir paleista pagal naują tvarkaraštį.
Ką supratome
Buvo padarytos išvados, kad žinių bazės pakeitimas yra produkto versijos išleidimas, rankiniu būdu atliktas bandymas neparodo visų galimų problemų, o patogūs numatytieji sprendimai turi savo kainą, pavyzdžiui, DI leidimas atsakyti bendromis žiniomis gali paslėpti žinių bazės neveikimo problemas.
Ko vis dar nežinome
Vis dar neaiški duomenų bazės sutrikimo priežastis, taip pat nėra duomenų apie 2025 m. birželį pateiktus neteisingus atsakymus. Be to, naujuoju tvarkaraščiu sėkmingai įvyko tik vienas paleidimas, todėl patikimumo įrodymų dar nepakanka. Nors rugsėjį sustojusios patikros nepaveikė naudotojų atsakymų, prarasta galimybė matyti, kiek žinių bazės turinys atitinka galiojančius teisės aktus.
Prieš pradedant juo pasikliauti
Įmonėms, naudojančioms DI asistentą, rekomenduojama ne tik tikrinti jo atsakymų kokybę, bet ir teirautis tiekėjo apie žinių bazės atnaujinimo dažnumą, informavimą apie sutrikimus, DI elgesį neturint tinkamo atsakymo ir apie bandymų aplinką.
