Gianluca Misuraca: az MI kormányzati felügyelete, kormányzás az MI-vel vagy MI általi kormányzás
Hogyan tudják a kormányok kihasználni a mesterséges intelligenciában rejlő lehetőségeket a polgáraik javára? Erről tartott vitaindító előadást a budapesti Humans in Charge mesterségesintelligencia-konferencián Gianluca Misuraca Spanyolországban élő olasz kutató, a stratégiai jövőkutatás, a társadalmi innováció és a digitális kormányzás területén működő globális tanácsadó cég, az AI4GOV alapítója és egyik alelnöke.
Az MI-kormányzás és a Szent Grál keresése
A mesterségesintelligencia-alapú kormányzás kutatása kicsit olyan, mint a Szent Grál keresése – adta meg előadása alaphangját Gianluca Misuraca, aki kiemelte, hogy ő elsősorban jövőkutató, és amikor a jövőről beszél, akkor itt elsősorban a közszféra kulcsszerepére kíván összpontosítani.
„A kormányt, a szabályozó hatóságokat, a parlamentet és az összes többi intézményt ebben az ökoszisztémában néha inkább problémának tekintik, nem? – tette fel a kérdést. – Ők azok, akik akadályoznak minket az innovációban, de hát értjük, rendben, gondoskodni kell a polgárokról, és éppen ezért van a kormányzati rendszer. És akkor meglátjuk, hogy pontosan mi az a valódi erő vagy az az előny, amit a mesterséges intelligencia potenciálisan nyújthat a kormányzat és a közszolgáltatások számára. De a kérdés az – és azt hiszem, önök már tudják a választ –, hogy készen állunk-e rá vagy sem.”
Beszélt arról, hogy amikor az Európai Bizottságnak dolgozott, 2010-ben az egyik projektjükben éppen egy olyan, lehetséges forgatókönyvet vizsgáltak, hogy érkezhet egy nagy világjárvány Ázsiából, és ha érkezik, akkor hogyan figyelmeztessék a politikai döntéshozókat arról, hogy ez bekövetkezhet, és hogy a technológia lehet egyike azoknak a tényezőknek, amelyek megakadályozhatják, vagy éppen elősegíthetik a járvány terjedését.
Aztán a Covid-járvány során készített kutatásukban egyrészt arra összpontosítottak, hogy hogyan tudjuk elképzelni, milyen lehet a jövő, de ami még fontosabb – hangsúlyozta Gianluca Misuraca –, hogy hogyan lehetne megelőzni a jövőt.
Kiemelte, hogy a jelenre egy apatikus és zárt innovációs rendszer jellemző. A Covid idején a társadalomban sokkal erősebb lett a félelem egy olyan jövővel szemben – és itt említette Shoshana Zuboffnak A megfigyelési kapitalizmus kora című könyvét –, amelyben a magánkézben lévő vállalatóriásokon keresztül gyakorolják az állam összes funkcióját. Utalt Cass R. Sunstein 2005-ben írott – és 2020-tól kezdőden újra roppant népszerűvé lett –, A félelem törvényei című kötetére is, amelynek fő üzenetét úgy tolmácsolta, hogy alapvetően azért nem teszünk semmit, mert nem tudjuk, mi történik, ha teszünk valamit.
„Az ideális forgatókönyv az lenne, hogy visszatérünk a nyílt innovációs rendszerhez. Egy olyan rendszerhez, amelyben megbízhatunk a többiekben” – mondta a kutató, hozzátéve, hogy ma persze nem ez a helyzet, ezért „sokkal fontosabb, hogy a negatív forgatókönyvek megvalósulását megakadályozzuk, minthogy megpróbáljuk megvalósítani az ideális forgatókönyvet. És ez a politikai döntéshozók és a szabályozó felelőssége”.
A közszféra kulcsszerepe a mesterséges intelligencia szabályozásában
Gianluca Misuraca a folytatásban az állam szerepének hármasságáról beszélt a mesterséges intelligencia kapcsán és tágabb értelemben is: az állam szabályozói, felhasználói és közvetítői szerepéről.
Szabályozóként – mondta a szakértő – „biztosítanunk kell a keretfeltételeket, és nem feltétlenül kell belemenni annak a részleteibe, hogy definiáljunk valamit, ami holnapra már elavult lesz. Tehát csak a kereteket kell meghatározni, az elveket, és hogy melyek azok a vörös vonalak, amelyeket senki nem léphet át, így korlátozva a mesterséges intelligencia negatív következményeit.”
Az állam felhasználója is ennek a technológiának, amikor különféle szolgáltatásokat nyújt az állampolgároknak, végül közvetítőként – az innováció és az érdekeltek közötti helyi, nemzeti és globális szintű együttműködés ösztönzésével – elősegíti a mesterséges intelligencia társadalmi befogadását.
„A politikai döntéshozók valójában egy dilemmában vannak, amelynek egyik oldala természetesen az, hogy ezeket a technológiákat a digitális szolgáltatások minőségének javítására kívánják használni. Rengeteg lehetőség rejlik a technológiák együttesének felhasználásában. A másik oldalon azonban meg kell védeniük a polgárokat. Tehát nem tehetnek meg valamit, ha nem biztosak abban, hogy ez előnyös lesz, vagy ha nem biztosak az eredményekben” – emelte ki Gianluca Misuraca annak kapcsán, miért nehéz kérdés az Európai Uniónak a mesterséges intelligenciáról szóló összehangolt tervében (Coordinated Plan on Artificial Intelligence) szereplő uniós célkitűzés, hogy a közszféra úttörő szerepet játsszon az MI használatában.
MI-szabályozás, kormányzás az MI-vel és az MI által
Előadásának egyik fő gondolata az „of, with and by” trilemma jelentette. Ez nagyjából a kormányzás/szabályozás és a mesterséges intelligencia viszonyáról szól.
A mesterséges intelligencia szabályozása (Governance of AI) olyan megközelítés, amely Guianluca Misuraca szerint feltételezi a meglévő intézményi mechanizmusokkal és kulturális környezettel való összehangolás igényét.
„Ez a jelenlegi vita. Mindenki készíti az irányelveket, magatartási kódexeket és valamilyen elveket. De aztán egy adott pillanatban el kell döntenünk, hogy akkor most szabályozzuk-e vagy sem. (…) Természetesen túlszabályozhatjuk, de meg kell találnunk az egyensúlyt” – mondta Gianluca Misuraca.
A kormányzás a mesterséges intelligenciával (Governance with AI) magában foglalja, hogy az ember megőrzi a teljes ellenőrzést azon technológiák fölött, amelyek megnövelik szellemi kapacitásait, ily módon egyben az emberi jogok védelmezéséről is szól.
„A digitális szuverenitás azt jelenti, hogy a saját adataink tulajdonosának kell lennünk. Ha tehát valaki felhasználja az adataimat, tudni akarom, hogy mit csinál az én adataimmal. És ez egy nagyon alapvető elv, amely valójában már a GDPR-ban is szerepel, tehát nincs itt semmi újdonság” – vélekedett az előadó.
A mesterséges intelligencia általi kormányzás (Governance by AI) elvi lehetősége pedig szükségessé teszi, hogy meghatározzuk, etikai szempontból mi minden következik abból, ha az emberi döntéshozók bizonyos szempontból átadják az irányítást a mesterséges intelligencia emberfeletti képességeinek.
„Meg kell győződnünk arról, hogy ha használjuk ezt a technológiát, amely valóban képes növelni kognitív képességeinket, és néha még a viselkedésünket is megváltoztathatja, különösen a gyerekek esetében (…), akkor ezek (a változások – a szerk.) jó irányban történnek-e. De potenciálisan jó lenne, mert különösen a közszférában valahogy átengedhetjük a kontrollt ennek az emberfeletti képességnek, ami olyan dolgokat tesz, amire mi, emberek, a mi korlátainkkal nem vagyunk képesek. Sok nagyon unalmas vagy rutinszerű munkát megspórolhatunk, feltéve persze, hogy az ember irányít, ahogy a konferencia címe is mondja. Ezért van szükség a kormányzat számára a mesterséges intelligenciával kapcsolatban, különösen a közszférában, emberi felügyeletre, hogy ellenőrizni tudjuk, hogyan használják ezt a technológiát, különösen, ha nagyon kritikus kérdésekről és kockázatos felhasználásokról van szó” – fűzte hozzá.
Az MI valódi erejének kiaknázása a közszférában
Gianluca Misuraca és munkatársai 2020-ban tettek közzé egy jelentést arról, hogy az Európai Unió tagállamai milyen módon alkalmazzák a mesterséges intelligenciát a közszolgáltatásokban. Ezt az adatbázist azóta is frissítik, és mára már több ezer közcélú alkalmazást sikerült dokumentálniuk.
Ezeket előadásában az olasz szakember az apró előrelépéseket hozó újításoktól, a szervezeti hatékonyságot növelő alkalmazásokon át a radikális változásokat előidéző innovatív közcélú megoldásokig négy kategóriába sorolta.
Az adatvezérelt politikai döntéshozatali rendszerekre több kísérleti fázisban lévő, de a gyakorlatban még nem működő, pozitív példát is említett Finnországtól Svédországon, Spanyolországon, Hollandián és Észtországon át Belgiumig.
Az elért eredmények ellenére számos kihívással kell megküzdeni, rengeteg dilemmával szembenézni, és számtalan problémát kell megoldani.
„Az ITU (Nemzetközi Távközlési Unió – a szerk.) friss adatai azt mutatják, hogy a világ országainak kevesebb, mint öt százaléka (9 ország) rendelkezik olyan, mondjuk úgy, digitális kormányzási keretrendszerrel, amely képes megbirkózni a jelenlegi kihívásokkal, és csak a harminc százalékuk tesz némi előrelépést” – húzta alá Gianluca Misuraca.
Egy másik példával is alátámasztotta, hogy mennyi még a teendő. Az Egyesült Királyság nemzeti számvevő hivatalának (National Audit Office) egy friss jelentése szerint a munkaerő mindössze 20 százaléka van felkészülve arra, hogy megbirkózzon a mesterséges intelligencia új jelenségével.
„Ezért kell a kormányzatnak a digitális jövőre felkészítenie és képeznie a köztisztviselőket. És erre most nagy szükség van” – hangsúlyozta.
A prezentáció PDF-ben
Erről az előadóról
Gianluca Misuraca
Ügyvezető igazgató (AI4GOV)
Gianluca Misuraca az Inspiring Futures(IF) alapítója és technológiai diplomáciáért és nemzetközi kapcsolatokért felelős alelnöke. AZ IF egy globális tanácsadó cég a stratégiai jövőkutatás, a társadalmi innováció és a digitális kormányzás területén, lausanne-i és sevillai székhellyel.
Korábban Gianluca az Európai Bizottság Közös Kutatóközpontjának vezető tudósa volt, ahol 2009 és 2020 között az AI Watch részeként a digitális kormányzati átalakulás, a társadalmi innováció és a mesterséges intelligencia területén végzett kutatásokat és szakpolitikai támogatást nyújtott a közszféra számára.
További előadók
Axente
Olívia
Misuraca
Kriisa
György
László
Imre
Andrea
Slooten
Imre
Levente
Benifei