Ethereum bendraįkūrėjas Vitalik Buterin pirmadienį paskelbė, kad jam yra priimtina, jog dirbtinio intelekto (DI) modelis Kimi 3.1 sąmoningai vengia mokymo duomenyse naudoti aukščiausios klasės kenkėjiškas kibernetines galimybes.
Jo nuomone, tai pateisinamas kompromisas, nes tai suteikia gynėjams daugiau laiko pasiruošti.
Naudojimo atvejų ribojimas, o ne naudotojų
„Naudojimo atvejų diskriminacija yra DAUG mažiau bloga nei naudotojų diskriminacija“, – rašė Buterinas.
Jis pridūrė, kad pasauliui reikia laiko sustiprinti sistemas ir patikrinti seną kodą, kol „mūsų neužgrius labai galingų kibernetinių atakų svoris“. Paprastai tariant, jis teikia pirmenybę modeliui, kuris atsisako tam tikrų užduočių visiems, o ne tam, kuris atstumia tam tikrus žmones.
Jis taip pat pabrėžė, kas gali nutikti netinkamai įvertinus situaciją. Jei „šis pirmasis didelis DI rizikos bangos etapas nebus tinkamai valdomas“, perspėjo jis, rezultatas gali būti „labai užrakintų modelių distopija“, kurioje bus reikalaujama KYC patikrinimų (siejant sąskaitą su patvirtinta tapatybe) viskam ir atitinkamai invazyvus stebėjimas. Priklausomai nuo kredencialų ir pilietybės, žmogus galėtų tapti „antro, trečio ar ketvirto lygio piliečiu“ pagal modelio prieigą.
Atsakydamas į X naudotojo LOID klausimą, ar kiti centrai vis tiek sukurs tokias galimybes, Buterinas atsakė: „Taip, žinoma, kad sukurs“. Kartu su šiuo argumentu apie laiką, filtravimas skirtas atidėti tokių galimybių atsiradimą, o ne jas užkirsti kelią.
Ne visi su tuo sutiko. „Didelis nesutarimas“, – rašė kūrėjas Youssof Al Toukhi, kuris paminėjo neseniai įvykusį „OpenAI“ modelio ataką prieš „Hugging Face“. Kai „Hugging Face“ bandė analizuoti užpuolikų veiksmus naudodama naujausius modelius, teikėjų saugos sistemos užblokavo užklausas, priverčiant pereiti prie atviro modelio „GLM 5.2“. Kritikas, vadindamas šią tvarką „elitizmo sistema“, kuri „tik blogės laikui bėgant“, pridūrė: „Intelektas turi būti demokratizuotas.“
Ankstesni pareiškimai apie DI ir kodų saugumą
Kaip anksčiau pranešė CryptoPotato, Buterinas gegužės mėnesį paneigė nuogąstavimus, kad DI varomi klaidų ieškojimo įrankiai perims kūrėjus ir sukurs nuolatines spragas išnaudojimui, teigdamas, kad DI padedama formali verifikacija gali tapti vienu stipriausių gynybos būdų kripto pasaulyje.
Jo teigimu, modelis dabar gali rašyti tiek kodą, tiek jo įrodymą, o kūrėjams telieka patvirtinti, kad įrodytas teiginys yra tas, kurio jie norėjo. Jo pirmadienio įraše formali naujų kodų verifikacija minimas tarp darbų, kuriems reikia papildomo laiko. Tas gegužės 19 d. įrašas pasirodė po to, kai programišius pagrobė daugiau nei 76 milijonus dolerių iš „Echo Protocol“ tiltelio, tai buvo trečias didelis exploit’as per keturias dienas.
Spalio 8 d. jis perspėjo, kad DI padedama matematika gali greičiau nei tikėtasi susilpninti ECDSA ir panašias kriptografines sistemas, nors pridūrė, kad vartotojai neturėtų „skubėti šiandien perkelti savo lėšas į naujas pinigines“.
