Raamistik kiiresti arenevate digitaalsete ja sellega seotud tehnoloogiate hindamiseks: AI, suured keelemudelid ja muud

• Sissejuhatus 
• Taust 
• Analüütilise raamistiku väljatöötamine 
• Analüütilise raamistiku kasutamine 
• Mõõtmed, mida uue tehnoloogia hindamisel arvesse võtta 
• Edasine tee 
• Tänusõnad

Kiiresti esilekerkivad tehnoloogiad kujutavad endast väljakutseid nende juhtimise ja võimaliku reguleerimise osas. Tehisintellekti (AI) ja selle kasutamise teemalised poliitika ja avalikud arutelud on toonud need küsimused terava tähelepanu alla. Kuigi UNESCO, OECD ja teised on välja kuulutanud tehisintellekti üldpõhimõtted ning tehnoloogia globaalse või jurisdiktsioonilise reguleerimise üle on alles tekkimas arutelud, on kõrgetasemeliste põhimõtete väljatöötamise ja nende regulatiivsesse, poliitikasse kaasamise vahel ontoloogiline lõhe. juhtimis- ja majandamisviisid. Siin võiks valitsusvälistel teadusringkondadel olla eriline roll. 

Mitmed akadeemikud ja poliitikaeksperdid on teinud ettepaneku, et Rahvusvaheline Teadusnõukogu (ISC) – oma pluralistliku liikmeskonnaga sotsiaal- ja loodusteadustest – kehtestaks protsessi, mille abil koostada ja säilitada märkustega raamistik/kontrollnimekiri riskide, eeliste, kiiresti liikuvate digitaaltehnoloogiatega seotud ohud ja võimalused, sealhulgas – kuid mitte ainult – tehisintellekt. Kontrollnimekirja eesmärk on teavitada kõiki sidusrühmi – sealhulgas valitsusi, kaubandusläbirääkijaid, reguleerivaid asutusi, kodanikuühiskonda ja tööstust – võimalikest tulevikustsenaariumidest ning määrata, kuidas nad võiksid kaaluda võimalusi, eeliseid, riske ja muid küsimusi. 

Väljundid ei toimiks hindamisorganina, vaid adaptiivse ja areneva analüütilise raamistikuna, mis võiks olla aluseks hindamis- ja reguleerimisprotsessidele, mida sidusrühmad, sealhulgas valitsused ja mitmepoolne süsteem, võivad välja töötada. Igasugune analüütiline raamistik tuleks ideaaljuhul välja töötada sõltumatult valitsuse ja tööstuse väidetest, arvestades nende arusaadavaid huve. Samuti peab see olema oma perspektiivides maksimaalselt pluralistlik, hõlmates seega kõiki tehnoloogia aspekte ja selle mõjusid. 

See aruteludokument annab ülevaate esialgsest raamistikust, mis annab teavet tehisintellektiga seotud mitmete ülemaailmsete ja riiklike arutelude kohta. 

Tehisintellekti keerukuse ja tagajärgedega tehnoloogia kiire esilekerkimine toob kaasa palju väiteid suure kasu kohta. Kuid see tekitab ka hirmu oluliste riskide ees, alates üksikisikust kuni geostrateegilise tasemeni. Suur osa arutelust kipub toimuma vaadete spektri äärmuslikes otstes ja vaja on pragmaatilisemat lähenemist. AI-tehnoloogia areneb edasi ja ajalugu näitab, et peaaegu igal tehnoloogial on nii kasulik kui ka kahjulik kasutus. Seetõttu on küsimus: kuidas saavutada selle tehnoloogiaga kasulikke tulemusi, vähendades samal ajal kahjulike tagajärgede ohtu, millest mõned võivad olla eksistentsiaalsed? 

Tulevik on alati ebakindel, kuid tehisintellekti ja generatiivse tehisintellekti kohta on piisavalt usaldusväärseid ja asjatundlikke hääli, et julgustada suhteliselt ettevaatust. Lisaks on vaja süsteemset lähenemist, sest tehisintellekt on tehnoloogiate klass, mida kasutavad ja rakendavad laialdaselt mitut tüüpi kasutajad. See tähendab, et tehisintellekti mõju üksikisikutele, ühiskondlikule elule, kodanikuelule, ühiskonnaelule ja globaalses kontekstis tuleb arvesse võtta kogu konteksti. 

Erinevalt enamikust varasematest tehnoloogiatest on digitaalsel ja sellega seotud tehnoloogial väga lühike aeg arendusest avaldamiseni, mis on suuresti ajendatud tootmisettevõtete või agentuuride huvidest. AI levib kiiresti; mõned omadused võivad ilmneda alles pärast vabastamist ja tehnoloogial võib olla nii pahatahtlikke kui ka heatahtlikke rakendusi. Oluliste väärtuste mõõtmed mõjutavad seda, kuidas mis tahes kasutust tajutakse. Lisaks võivad mängus olla geostrateegilised huvid. 

Siiani on virtuaaltehnoloogia reguleerimist vaadeldud suures osas läbi “põhimõtete” ja vabatahtliku järgimise. Viimasel ajal on aga arutelu pöördunud riikliku ja mitmepoolse valitsemise, sealhulgas regulatiivsete ja muude poliitiliste vahendite kasutamise üle. Tehisintellekti poolt või vastu esitatud väited on sageli hüperboolsed ja tehnoloogia olemust arvestades raskesti hinnatavad. Tõhusa ülemaailmse või riikliku tehnoloogia reguleerimise süsteemi loomine on keeruline ja ahelas on vaja mitut riskipõhist otsuste tegemise tasandit, leiutajast tootjani, kasutajani, valitsuseni ja mitmepoolse süsteemini. 

Kuigi kõrgetasemelisi põhimõtteid on välja kuulutanud muuhulgas UNESCO, OECD ja Euroopa Komisjon ning käimas on mitmesugused kõrgetasemelised arutelud võimaliku reguleerimise küsimuste üle, on selliste põhimõtete ja juhtimis- või reguleeriva raamistiku vahel suur ontoloogiline lõhe. Milline on kaalutluste taksonoomia, mida reguleeriv asutus võib kaaluda? Kitsalt fokusseeritud raamimine poleks nende tehnoloogiate laiaulatuslikku mõju arvestades mõistlik. Seda potentsiaali on palju kommenteeritud, nii positiivseid kui ka negatiivseid.

ISC on peamine ülemaailmne vabaühendus, mis integreerib loodus- ja sotsiaalteadusi. Selle ülemaailmne ja distsiplinaarne haare tähendab, et tal on head võimalused sõltumatute ja ülemaailmselt asjakohaste nõuannete saamiseks, et anda teavet eelseisvate keeruliste valikute tegemiseks, eriti kuna praegused hääled sellel areenil on suures osas tööstustelt või suurematelt tehnoloogilistelt suurriikidelt. Pärast viimastel kuudel toimunud ulatuslikku arutelu, sealhulgas valitsusvälise hindamisprotsessi kaalumist, jõudis ISC järeldusele, et selle kõige kasulikum panus oleks luua ja säilitada adaptiivne analüütiline raamistik, mida saab kasutada diskursuse ja otsuste tegemise alusena. kõik sidusrühmad, sealhulgas mis tahes ametliku hindamisprotsessi käigus. 

See raamistik oleks kõikehõlmava kontrollnimekirja kujul, mida saaksid kasutada nii valitsusasutused kui ka valitsusvälised institutsioonid. Raamistik tuvastab ja uurib tehnoloogia, nagu AI ja selle tuletised, potentsiaali laia silmaringi kaudu, mis hõlmab inimeste ja ühiskonna heaolu, aga ka väliseid tegureid, nagu majandus, poliitika, keskkond ja julgeolek. Mõned kontrollnimekirja aspektid võivad olenevalt kontekstist olla asjakohasemad kui teised, kuid paremad otsused on tõenäolisemad, kui arvestada kõiki domeene. See on kontrollnimekirja lähenemisviisi loomupärane väärtus. 

Kavandatav raamistik tuleneb varasemast tööst ja mõtlemisest, sealhulgas Rahvusvahelise Valitsuse Teadusnõuannete Võrgustiku (INGSA) digitaalse heaolu aruandest¹ ja OECD tehisintellekti klassifitseerimise raamistik² tutvustada tehisintellektiga seotud võimalikke võimalusi, riske ja mõjusid. Nende varasemate toodete eesmärk oli nende aega ja konteksti arvestades piiratum, seetõttu on vaja kõikehõlmavat raamistikku, mis käsitleks kõiki probleeme nii lühi- kui ka pikemas perspektiivis. 

Kuigi see analüütiline raamistik töötati välja tehisintellekti kaalumiseks, saab seda rakendada mis tahes kiiresti areneva tehnoloogia jaoks. Probleemid on edasiseks uurimiseks laias laastus rühmitatud järgmistesse kategooriatesse: 

• Heaolu (sealhulgas üksikisikute või iseenda, ühiskonna ja ühiskonnaelu ning kodanikuelu heaolu) 
• Kaubandus ja majandus 
• Keskkonna 
• Geostrateegiline ja geopoliitiline 
• Tehnoloogiline (süsteemi omadused, disain ja kasutamine) 

Iga ülaltoodud kategooria kaalutluste loend on lisatud koos nende võimaluste ja tagajärgedega. Mõned neist on asjakohased AI konkreetsete juhtumite või rakenduste jaoks, samas kui teised on üldised ja platvormi või kasutuse suhtes agnostilised. Ühtegi siin sisalduvat kaalutlust ei tohiks käsitleda prioriteedina ja seetõttu tuleks kõiki uurida. 

Seda raamistikku saab kasutada järgmistel viisidel, kuid mitte ainult: 

• Ületada lõhe põhimõtete ja hindamise vahel, luues valideeritud ühise taksonoomia mitmesuguste kaalutluste kohta, mida asjaomased sidusrühmad saaksid kasutada edasise mõtlemise teavitamise ja kujundamise alusena, kaasa arvatud mis tahes hindamisraamistik, mida ametiasutused võivad välja töötada. 

• Mõjuhinnangute teavitamiseks. ELi tehisintellekti seadus nõuab, et organisatsioonid, kes pakuvad tehisintellekti tööriistu või võtavad tehisintellekti oma protsessides kasutusele, viivad läbi mõjuhinnangu, et teha kindlaks oma algatuste risk ja kohaldada asjakohast riskijuhtimise lähenemisviisi. Siin esitatud raamistikku võiks selle aluseks võtta. 

• Täiustada eetilisi põhimõtteid, mis on vajalikud tehisintellekti kasutamise suunamiseks ja reguleerimiseks. Raamistik saab seda teha, pakkudes paindlikku alust, millele tuginedes saab välja töötada usaldusväärseid süsteeme, ning tagades tehnoloogia seadusliku, eetilise, jõulise ja vastutustundliku kasutamise. Neid põhimõtteid saab testida kõigi selles raamistikus esitatud mõjude suhtes. 
• Olemasolevate meetmete (st regulatiivsete, seadusandlike, poliitika) ülevaate hõlbustamiseks ja täiendavat kaalumist vajavate lünkade tuvastamiseks. 

• Raamistik on tehnoloogia ja selle kasutamise suhtes agnostiline. Seetõttu võiks seda kasutada üsna erinevates valdkondades, nagu sünteetiline bioloogia. 

Järgmine tabel on analüütilise raamistiku mõõtmete varajane kujundamine. Sõltuvalt tehnoloogiast ja selle kasutamisest on mõned komponendid olulisemad kui teised. Näited on toodud illustreerimaks, miks iga domeen võib olla oluline; kontekstis vajaks raamistik kontekstuaalselt asjakohast laiendamist. Samuti on oluline teha vahet platvormi arendustel ja üldistel probleemidel, mis võivad ilmneda konkreetsete rakenduste käigus.  

Võti deskriptorite allikad

tavaline tekst:
Gluckman, P. ja Allen, K. 2018. Heaolu mõistmine kiirete digitaalsete ja sellega seotud muutuste kontekstis. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Halb tekst:
OECD. 2022. aasta. OECD AI süsteemide klassifitseerimise raamistik. OECD Digital Economy Papers, nr 323, OECD Publishing, Pariis. https://oecd.ai/en/classification 

kursiivkirjas:
Uued deskriptorid (mitmest allikast) 

Olenevalt sellele aruteludokumendile antud vastusest moodustab ISC ekspertide töörühma, et edasi arendada või muuta ülaltoodud analüütilist raamistikku, mille abil sidusrühmad saaksid igakülgselt vaadata platvormide või kasutusmõõtmete olulisi arenguid. Töörühm oleks distsiplinaarselt, geograafiliselt ja demograafiliselt mitmekesine, eksperditeadmised ulatuksid tehnoloogia hindamisest avaliku poliitikani, inimarengust sotsioloogia ning tuleviku- ja tehnoloogiauuringuteni. 

Selle aruteludokumendiga tutvumiseks külastage veebisaiti Council.science/publications/framework-digital-technologies 

Selle dokumendi väljatöötamisel on konsulteeritud paljude inimestega, mille koostasid ISC president Sir Peter Gluckman ja Hema Sridhar, endine kaitseministeeriumi juhtivteadur ja nüüdne vanemteadur Aucklandi ülikoolist Uus-Meremaal. 

Eelkõige täname Lord Martin Reesi, endist Kuningliku Seltsi presidenti ja Cambridge'i Ülikooli eksistentsiaalsete riskide uurimise keskuse kaasasutajat; professor Shivaji Sondhi, Oxfordi ülikooli füüsikaprofessor; professor K Vijay Raghavan, India valitsuse endine teaduslik nõunik; Amandeep Singh Gill, ÜRO peasekretäri tehnoloogiasaadik; dr Seán Óh Éigeartaigh, Cambridge'i ülikooli eksistentsiaalsete riskide uurimiskeskuse tegevdirektor; Amanda-June Brawner, vanempoliitikanõunik ja Ian Wiggins, rahvusvaheliste suhete direktor, Royal Society UK; dr Jerome Duberry, dr Marie-Laure Salles, direktor, Genfi Graduate Institute; hr Chor Pharn Lee, strateegiliste futuuride keskus, peaministri büroo, Singapur; Barend Mons ja dr Simon Hodson, andmekomitee (CoDATA); prof Yuko Harayama, Jaapan; professor Rémi Quirion, INGSA president; Dr Claire Craig, Oxfordi ülikool ja endine valitsuse teadusbüroo prognoosijuht; ja prof Yoshua Bengio, ÜRO peasekretäri teaduslik nõuandekogu ja Université de Montréal. Kontrollnimekirja lähenemisviisi üldiselt toetati ja rõhutati ISC mis tahes tegevuse õigeaegsust.