Vitalik Buterin pakub iseseisvat AI-tarkvarakomplekti kasutajate kaitseks AI-agentidega kaasnevate riskide eest

Ethereumi kaasasutaja Vitalik Buterin on kirjeldanud isiklikku AI-seadistust, mille eesmärk on tagada privaatsus, kohalik töötlemine ja kasutaja kontroll. Sel nädalaval ilmunud blogipostituses kirjeldas ta süsteemi, mis on mõeldud töötama sõltumatult pilv-põhistest AI-lahendustest, viidates kasvavatele ohtudele, millega kaasnevad autonoomsed AI-agendid.

Vitalik Buterin rõhutas, et liikumine vestlusrobotitest autonoomsete agentideni – süsteemideni, mis suudavad täita ülesandeid, veebis sirvida ja pika aegu kasutaja nimel tegutseda – teeb tekkida turvaprobleeme. Ta viitas OpenClaw’ile, populaarsele GitHubi repositooriumile, ning märkis, et mõned agendid võivad muuta süsteemi käsklusteid ilma kasutaja nõusolekuta, et kurja tahte veebilehtedega suhtlemine võib kompromisse tõmmata konkreetseid eksemplare ja et umbes 15% kogukonna loodud oskustest sisaldas potentsiaalselt kahjulikke käsklusi, sealhulgas vaikset andmete ekstraktimist.

Ethereumi kaasasutaja rõhutas, et trend pilv-sõltuvate AI-lahenduste poole võib tühistada saavutused kohaliku esmatähtsusega ja lõpust-lõppu krüpteeritud tarkvara valdkonnas.

„Just siis, kui me olime lõpuks saavutanud edusammu privaatsuse valdkonnas… ome me nüüd äärel tegema kümme sammu tagasi, normaliseerides oma elu täieliku andmise pilv-põhistele AI-dele,“ ütles ta.

Privaatsuskeskne kohalik AI-seadistus turvalise täitmise ja tulevikus avatud lähtekoodiga ökosüsteemiga

Katsete käigus testis ta mitmeid riistvarakonfiguratsioone, sealhulgas NVIDIA 5090 sülearvuti, AMD Ryzen AI Max Pro koos 128 GB ühise mäluga ning NVIDIA DGX Spark’i, ning märkis erinevusi jõudluses ja kasutusmugavuses. Ta kasutab taastatavaid konfiguratsioone tagavaid NixOS-i, rakendab kohalikku järeldamist läbi llama-serveri (kasutades llama-swap’i) ja piirab faili- ja võrguühendust agentide ülesannete jaoks bubblewrap’i sandboxides.

Ta on välja töötanud ka sõnumite daemoni, mis võimaldab AI-l lugeda suhtluskirju, näiteks Signalis ja e-kirjades, kuid nõuab enne iga väljuva sõnumi saatmist selgelt kasutaja nõusolekut, rakendades „inimene + LLM 2-st-2“ autoriseerimismudelit.

Vitalik Buterin tunnistas, et kohalikud mudelid ei ole praegu võimelised suurepäraselt toimetuma keerukates koodimis- ja teadusuuringute ülesannetes võrreldes piiriületavate AI-dega. Ta pakkus välja privaatsust säilitavaid lähenemisi, sealhulgas nullteadmiste API-kõned, seguvõrgud (mixnets) võrgumustrite varjamiseks ning usaldusväärse täitmiskeskkonna (trusted execution environment) kasutamise kaugjäreldamiseks.

Arendaja näeb tulevikus kohalikult genereeritud, formaalselt verifitseeritud koodi, mis asendab suuri kolmandate osapoolte teegistikke, AI-d, mis suudab autonoomselt tuvastada pettusi, ning mitmekülgset avatud lähtekoodiga ohutusriistade ökosüsteemi, mille eesmärk on teenida kasutajate huve mitte korporatiivseid eesmärke. Avaldus on esitatud kui „alguspunkt, mitte lõpetatud toode“, et julgustada edasist arendust privaatsuskeskse AI valdkonnas.

Postitus Vitalik Buterin pakub isiklikku iseseisva AI-tarkvaraplaati kasutajate kaitseks AI-agentidega seotud ohtude eest ilmus esmakordselt Metaverse Post’is.