Kako bosta velesili krotili umetno inteligenco

Najbolj konkreten izid septembrskega srečanja ameriškega predsednika Donalda Trumpa in kitajskega predsednika Xi Jinpinga je bil dogovor o uvedbi kanala med državama za poročanje o incidentih na področju umetne inteligence. Toda tudi če bo katera od vlad dejansko uporabljala to neposredno povezavo ali začela pošiljati podatke čez Tihi ocean, morata rešiti bolj nujno vprašanje: kako sploh do informacij. Vodilna podjetja tako v ZDA in kot na Kitajskem trenutno namreč ne zagotavljajo informacij, ki bi jih potrebovali.

V ZDA noben zvezni zakon ali predpis ne zahteva, da podjetja, ki razvijajo UI, vladi poročajo o varnostnih incidentih in nevarnih zmogljivostih. Čeprav so nekatere države sprejele take zakone, je zvezna zakonodaja – na primer predlog zakona o poročanju o incidentih na področju umetne inteligence in predlog zakona o nadzoru nad razvojem in uvajanjem naprednih modelov UI – v kongresu zastala. Panoga se še vedno večinoma regulira sama.

ZDA in Kitajska sta velesili tudi na področju UI: težava je, da nobena od držav nima vzpostavljenega dobrega nadzora. Foto Evan Vucci Reuters

Čeprav sporazum Bele hiše o superinteligenci zavezuje k prepoznavanju in odpravljanju varnostnih težav, ne predpisuje obveščanja regulatorjev niti ne določa rokov za poročanje. Ločena Trumpova delovna skupina »Super Intelligence Force« razvija vladne mehanizme poročanja o kršitvah, hekerskih napadih in drugih incidentih na tem hitro spreminjajočem se področju. Vendar ta skupina ni regulativni organ.

Hkrati vlada ne namenja sredstev za nadzor in testiranje. Po poročilu Stanfordovega indeksa umetne inteligence za leto 2026 so ameriški razvijalci lani izdali 59 pomembnih modelov umetne inteligence, britanski pa le enega. Vendar ima glavna ameriška agencija za testiranje umetne inteligence, center za spodbujanje inovacij in standardov za superinteligenco (CAISSI) pri ministrstvu za trgovino, letni proračun le 15 milijonov dolarjev, medtem ko ima britanski inštitut za varnost umetne inteligence (AISI) proračun skoraj 90 milijonov dolarjev.

Glede na to, da sporazum Bele hiše očitno predvideva, da bodo pionirski laboratoriji večino varnostnih testiranj opravili sami, ostaja odprto, kakšno vlogo bi imela vlada pri potrjevanju takšnih testiranj in ali bi moral neki vladni organ imeti dostop do zadostne računske moči za izvajanje lastnih testiranj.

Obsežna kitajska regulativna mreža

V nasprotju z ZDA kitajska vlada nima političnih ovir in je že postavila obsežno regulativno strukturo, pri čemer je uprava za kibernetski prostor (CAC) nedavno pozvala k nadzoru vedenja, sledljivosti modelov, varnostnemu testiranju ter zaščitnim ukrepom proti ranljivostim sistema in izgubi nadzora. Ni pa država ustanovila specializiranega, centraliziranega organa za varnost umetne inteligence. Vlada ima veliko pooblastil nad tehnološkimi podjetji, vendar je nadzor razpršen med CAC, ministrstvo za industrijo in informacijsko tehnologijo, nacionalno komisijo za razvoj in reforme (NDRC), ministrstvo za znanost in tehnologijo ter druge agencije.

Ocenjevanje tveganja najnaprednejših modelov umetne inteligence zahteva tehnično strokovno znanje in usklajevanje med vsemi ustreznimi kitajskimi vladnimi oddelki, vključno z varnostnimi službami. Vendar nekatere kitajske vladne agencije nimajo zadostnih tehničnih zmogljivosti, mnogi strokovnjaki z največjim tehničnim znanjem pa delujejo v zasebnih raziskovalnih inštitutih, ki nimajo pooblastil, da bi od podjetij zahtevali dostop do njihovih najnaprednejših modelov, kaj šele, da bi pregledovali njihove notranje dnevnike ali jih prisilili k spremembam.

Za zdaj je vlada v kitajske laboratorije napotila predstavnike CAC in NDRC, da bi razpravljali o morebitni omejitvi izdaje najnaprednejših modelov. Vendar bodo oblasti na koncu morale določiti notranje ekipe za testiranje varnosti, dostop do zadostne računske moči ter testiranje najnaprednejših modelov pred izdajo.

Glede na to, da je naslednji kitajsko-ameriški dialog o varnosti umetne inteligence predviden novembra, bi se morale ZDA in Kitajska osredotočiti na to, kako bi lahko zagotovili boljše delovanje kanala za poročanje o incidentih. Ameriška vlada potrebuje pregledno in obvezno politiko za testiranje najnaprednejših modelov. Bela hiša bi morala bodisi razkriti svoj sedanji okvir in ga narediti zavezujočega bodisi sodelovati s kongresom pri sprejemanju zakonodaje. Zvezna vlada mora prav tako določiti pravila za zunanje revizije podjetij na področju umetne inteligence, pri čemer mora revizorjem zagotoviti jasen mandat, obveznosti poročanja in dejansko neodvisnost (revizorje pa naj izbere in plača industrijsko združenje ali vladna agencija). Hkrati mora Trumpova administracija biti bolj proaktivna pri nadzoru skladnosti podjetij. Delovna skupina Super Intelligence Force bi morala pregledati sedanje pomanjkljive postopke pri izdaji najnaprednejših modelov, razmisliti, kako ravnati z vedno zmogljivejšimi modeli, ter začeti uvajati učinkovit mehanizem odzivanja na incidente.

Donald Trump in Xi Jinping sta se strinjala o uvedbi kanala za izmenjavo poročil o incidentih, ki jih je zakrivila UI. Zavezujočih dogovorov seveda ni. Foto Jonathan Ernst/Reuters

Donald Trump in Xi Jinping sta se strinjala o uvedbi kanala za izmenjavo poročil o incidentih, ki jih je zakrivila UI. Zavezujočih dogovorov seveda ni. Foto Jonathan Ernst/Reuters

Na kitajski strani bi bilo za vzpostavitev delujočega kanala poročanja treba zapolniti vrzel med pristojnostmi vlade in strokovnim znanjem. CAC bi lahko opredelil varnostna pričakovanja in ureditve poročanja, tehnični organi bi lahko razvili in potrdili ocenjevalne postopke, NDRC in druge pristojne agencije pa preučili učinke na naložbe in širjenje tehnologije, medtem ko bi ministrstvo za trgovino lahko ohranilo vlogo pri pravilih o prenosu tehnologije in izvozu. Ker so ZDA pooblastile omenjeno delovno skupino, da temeljito pregleda vlogo ameriške vlade, bi morala Kitajska razmisliti o nečem podobnem.

Kitajska mora prav tako obravnavati pomanjkanje zmogljivosti za ocenjevanje in dostopa do zadostnih računalniških zmogljivosti med podjetji, ocenjevalci in vladnimi organi. Zaradi hitrega napredka kitajskih modelov z odprtim dostopom je to še posebej pomembno, saj imajo razvijalci, ko so modeli enkrat objavljeni, precej manj vpogleda v to, kako se jih uporablja, spreminja in zlorablja.

Okvir za to pripravljata kitajsko podjetje za umetno inteligenco Z.ai (znano tudi kot Zhipu) in pekinška svetovalna družba za varno umetno inteligenco Concordia AI. Modele bi razvrstili v tri skupine: v zeleni coni so modeli, ki jih je varno v celoti objaviti, v rumeni tisti, ki zahtevajo postopno objavo in strukturiran dostop za preverjene raziskovalce, v rdeči pa modeli, katerih objava je začasno ustavljena do zaključka pregleda.

Varnost umetne inteligence je globalni izziv. Njegovo reševanje je odvisno sodelovanja med dvema vodilnima silama na področju umetne inteligence, kanal za poročanje o incidentih z umetno inteligenco pa je le majhen korak v pravo smer. Bosta pa vladi verjetno potrebovali veliko časa, da dosežeta zavezujoče in preverljive sporazume. A ne moreta si privoščiti, da bi ju oviralo neizvajanje domačih reform.

-------

Lizzi C. Lee je raziskovalka na področju kitajskega gospodarstva v Centru za analizo Kitajske pri organizaciji Asia Society Policy Institute, kjer vodi gospodarski in tehnološki steber centra. Simon Hedlin je raziskovalec na področju politike umetne inteligence, ki se osredotoča na modele z odprtim dostopom. Članek je del projekta Project Syndicate.

内容来自 Delo,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅