Suursündmuse avapaneelis arutlesid justiits- ja digiminister Liisa Pakosta ning California Berkeley ülikooli arvutiteaduste professor Stuart Russell tehisaru agentide reguleerimise ja ohjamise üle.
Minister Pakosta rõhutas arutelus, et avalik sektor peab olema nii tõhus ja pakkuma nii häid teenuseid, et inimesed ei pane riigi olemasolu isegi tähele, kuid tehisaru kasutuselevõtul riiklikes teenustes tuleb alati esikohale seada riiklik suveräänsus ja eelarveline kontroll.
„Kui riik ostab teenuseid välismaistelt tehnoloogiaettevõtetelt, kelle käes on tehisaru agentide täielik kontroll, tekib oht kaotada sõltumatus,“ märkis Pakosta.
Ta tõi näite ohtudest: kui riik palkab kellegi enda heaks tööle, sõlmitakse leping ning raha jääb põhimõtteliselt Eestisse, ent tehisaru agendi puhul makstakse iga liigutuse eest eraldi ning teenuse hind võib juba järgmisel päeval olla kahe täiendava nulli võrra kõrgem. Selline olukord ohustab ministri sõnul riigivalitsemise vabadusi ja riigieelarvet uuel tehnoloogiaajastul.
Eesti on tehisaru praktilises kasutamises maailmas esirinnas, pakkudes juba ligikaudu 260 tehisarul põhinevat avalikku teenust. Ometi kinnitas Pakosta, et tundlike andmete töötlemisel ei saa riik valimatult tugineda välismaistele lahendustele, millel lasuvad potentsiaalsed turvariskid. Seetõttu on Eesti otsustanud ehitada tundlike andmete töötlemiseks oma süsteemid ja läheneda suveräänsusele eeskätt reeglite ning turvalisuse kaudu, kus iga uue lahenduse kasutuselevõtt eeldab riigis ülimalt karmi riskihindamise läbimist.
„Usalduse tagamiseks rakendatakse avalikus sektoris agentide puhul äärmiselt kitsast tunnelit, mis tähendab, et tehisaru agendid on piiratud tegema vaid seda, mis on neile rangelt lubatud,“ kinnitas minister. Automaatika küll lihtsustab protsesse – sarnaselt pankadele, kus väikesi makseid ei pea enam käsitsi allkirjastama –, kuid tehisarule ei anta riigis kunagi õigust panna inimese eest digiallkirja.
Rahvusvahelist turvalise ja eetilise tehisaru assotsiatsiooni juhtiv professor Stuart Russell maalis laiematest ohtudest kõneldes hoiatava pildi. Ta meenutas iidseid lugusid masinatest, mis väljuvad inimeste kontrolli alt, võrreldes tänapäevast olukorda nõiaõpilasega, kes loitsis luuad vett kandma, kuid ei osanud neid hiljem enam peatada.
Russelli sõnul ei piisa tänapäeval enam lihtsast stopp-nupust, sest sarnaselt olukorrale, kus kaheaastane laps käsib kiirteel sõitval autonoomsel sõidukil jäätiseauto peale peatuda, peab masin suutma tegutseda laiemalt inimkonna, mitte iga üksiku ja potentsiaalselt ohtliku käsu huvides.
„Praegused tehisaru agendid on aga juba võimelised iseseisvalt läbi viima riikliku taseme küberrünnakuid või viima ellu keerulisi väljapressimisi,“ ütles professor.
Võrdlus tuumaenergiaga
Nii Pakosta kui Russell tõmbasid tehisaru arendamisel paralleeli tuumaenergiaga, rõhutades, et tehisaru reguleerimisel tuleks eeskuju võtta tuumajaamade karmidest ohutusnõuetest.
„Reeglite vajalikkusest rääkides võib tuua paralleeli tuumaenergiaga, millel on nii positiivseid kui ka äärmiselt kahjulikke külgi, kuid inimkond on suutnud seda edukalt reguleerida ning usalduse tagamiseks tuleb sarnaseid õiguslikke ja tehnilisi kaitsemeetmeid rakendada ka tehisaru puhul,“ sõnas Pakosta.
Professor Russell täiendas seda mõtet, rõhutades, et kui tuumajaama käivitamiseks tuleb tõestada, et tõsine tõrge võib esineda vaid kord miljoni aasta jooksul, siis tehisaru arendavatel ettevõtetel puudub sageli reaalne arusaam, mis nende loodud süsteemides tegelikult toimub.
„Mudelid õpivad inimesi matkides, omandades seejuures ka inimlikud vead, olles sageli isekad, laisad, petlikud või soovides iga hinna eest meeldida.“ Seetõttu ei pea Russell tehnoloogiaettevõtete eneseregulatsiooni toimivaks lahenduseks ning nõuab kohustuslikku väljalaskeelset testimist, mis tooks ohtliku tulemuse korral kaasa toote turule toomise range keelu.
Minister Pakosta nõustus teadlasega kiirete ja rahvusvaheliste reeglite vajalikkuse osas.
„Kuigi Euroopa Liidu tehisaru akt sisaldab puudujääke ja ebaselgusi – näiteks on lahtine, kas see, kui nõudepesumasin juhendab last säästlikumalt nõusid masinasse panema, liigitub juba keelatud manipuleerimise alla –, ei saa riigid selgete reeglite nõudmisest loobuda,“ ütles Pakosta. Seadused peavad andma tehnoloogiainseneridele tema sõnul juba eos selge sisendi, et protsessid oleksid algusest peale läbipaistvad ja hiljem kontrollitavad.
Olgugi et mõned suurriigid võivad alguses regulatsioonidest kõrvale jääda, tuleb ministri sõnul uute globaalsete standarditega asuda tööle kohe, sest panused on ühiskonna turvalisuse tagamisel liiga kõrged.
TDSi paneele saab otse ja järele vaadata siin: https://www.tds.icds.ee/stream