A videó angol és magyar nyelvű feliratokat tartalmaz. A feliratok elsődleges nyelve a magyar, amely alapértelmezés szerint be van kapcsolva. Ha angolra szeretné váltani, kérjük, kattintson a videólejátszó jobb alsó sarkában található „Beállítások” ikonra, válassza a „Feliratok” menüpontot, és a magyar helyett válassza az angol nyelvet.

Gianluca Misuraca: az MI kormányzati felügyelete, kormányzás az MI-vel vagy MI általi kormányzás

Hogyan tudják a kormányok kihasználni a mesterséges intelligenciában rejlő lehetőségeket a polgáraik javára? Erről tartott vitaindító előadást a budapesti Humans in Charge mesterségesintelligencia-konferencián Gianluca Misuraca Spanyolországban élő olasz kutató, a stratégiai jövőkutatás, a társadalmi innováció és a digitális kormányzás területén működő globális tanácsadó cég, az AI4GOV alapítója és egyik alelnöke.

Az MI-kormányzás és a Szent Grál keresése

A mesterségesintelligencia-alapú kormányzás kutatása kicsit olyan, mint a Szent Grál keresése – adta meg előadása alaphangját Gianluca Misuraca, aki kiemelte, hogy ő elsősorban jövőkutató, és amikor a jövőről beszél, akkor itt elsősorban a közszféra kulcsszerepére kíván összpontosítani.

„A kormányt, a szabályozó hatóságokat, a parlamentet és az összes többi intézményt ebben az ökoszisztémában néha inkább problémának tekintik, nem? – tette fel a kérdést. – Ők azok, akik akadályoznak minket az innovációban, de hát értjük, rendben, gondoskodni kell a polgárokról, és éppen ezért van a kormányzati rendszer. És akkor meglátjuk, hogy pontosan mi az a valódi erő vagy az az előny, amit a mesterséges intelligencia potenciálisan nyújthat a kormányzat és a közszolgáltatások számára. De a kérdés az – és azt hiszem, önök már tudják a választ –, hogy készen állunk-e rá vagy sem.”

Beszélt arról, hogy amikor az Európai Bizottságnak dolgozott, 2010-ben az egyik projektjükben éppen egy olyan, lehetséges forgatókönyvet vizsgáltak, hogy érkezhet egy nagy világjárvány Ázsiából, és ha érkezik, akkor hogyan figyelmeztessék a politikai döntéshozókat arról, hogy ez bekövetkezhet, és hogy a technológia lehet egyike azoknak a tényezőknek, amelyek megakadályozhatják, vagy éppen elősegíthetik a járvány terjedését.

Aztán a Covid-járvány során készített kutatásukban egyrészt arra összpontosítottak, hogy hogyan tudjuk elképzelni, milyen lehet a jövő, de ami még fontosabb – hangsúlyozta Gianluca Misuraca –, hogy hogyan lehetne megelőzni a jövőt.

Kiemelte, hogy a jelenre egy apatikus és zárt innovációs rendszer jellemző. A Covid idején a társadalomban sokkal erősebb lett a félelem egy olyan jövővel szemben – és itt említette Shoshana Zuboffnak A megfigyelési kapitalizmus kora című könyvét –, amelyben a magánkézben lévő vállalatóriásokon keresztül gyakorolják az állam összes funkcióját. Utalt Cass R. Sunstein 2005-ben írott – és 2020-tól kezdőden újra roppant népszerűvé lett –, A félelem törvényei című kötetére is, amelynek fő üzenetét úgy tolmácsolta, hogy alapvetően azért nem teszünk semmit, mert nem tudjuk, mi történik, ha teszünk valamit.

„Az ideális forgatókönyv az lenne, hogy visszatérünk a nyílt innovációs rendszerhez. Egy olyan rendszerhez, amelyben megbízhatunk a többiekben” – mondta a kutató, hozzátéve, hogy ma persze nem ez a helyzet, ezért „sokkal fontosabb, hogy a negatív forgatókönyvek megvalósulását megakadályozzuk, minthogy megpróbáljuk megvalósítani az ideális forgatókönyvet. És ez a politikai döntéshozók és a szabályozó felelőssége”.

A közszféra kulcsszerepe a mesterséges intelligencia szabályozásában

Gianluca Misuraca a folytatásban az állam szerepének hármasságáról beszélt a mesterséges intelligencia kapcsán és tágabb értelemben is: az állam szabályozói, felhasználói és közvetítői szerepéről.

Szabályozóként – mondta a szakértő – „biztosítanunk kell a keretfeltételeket, és nem feltétlenül kell belemenni annak a részleteibe, hogy definiáljunk valamit, ami holnapra már elavult lesz. Tehát csak a kereteket kell meghatározni, az elveket, és hogy melyek azok a vörös vonalak, amelyeket senki nem léphet át, így korlátozva a mesterséges intelligencia negatív következményeit.”

Az állam felhasználója is ennek a technológiának, amikor különféle szolgáltatásokat nyújt az állampolgároknak, végül közvetítőként – az innováció és az érdekeltek közötti helyi, nemzeti és globális szintű együttműködés ösztönzésével – elősegíti a mesterséges intelligencia társadalmi befogadását.

„A politikai döntéshozók valójában egy dilemmában vannak, amelynek egyik oldala természetesen az, hogy ezeket a technológiákat a digitális szolgáltatások minőségének javítására kívánják használni. Rengeteg lehetőség rejlik a technológiák együttesének felhasználásában. A másik oldalon azonban meg kell védeniük a polgárokat. Tehát nem tehetnek meg valamit, ha nem biztosak abban, hogy ez előnyös lesz, vagy ha nem biztosak az eredményekben” – emelte ki Gianluca Misuraca annak kapcsán, miért nehéz kérdés az Európai Uniónak a mesterséges intelligenciáról szóló összehangolt tervében (Coordinated Plan on Artificial Intelligence) szereplő uniós célkitűzés, hogy a közszféra úttörő szerepet játsszon az MI használatában.

MI-szabályozás, kormányzás az MI-vel és az MI által

Előadásának egyik fő gondolata az „of, with and by” trilemma jelentette. Ez nagyjából a kormányzás/szabályozás és a mesterséges intelligencia viszonyáról szól.

A mesterséges intelligencia szabályozása (Governance of AI) olyan megközelítés, amely Guianluca Misuraca szerint feltételezi a meglévő intézményi mechanizmusokkal és kulturális környezettel való összehangolás igényét.

„Ez a jelenlegi vita. Mindenki készíti az irányelveket, magatartási kódexeket és valamilyen elveket. De aztán egy adott pillanatban el kell döntenünk, hogy akkor most szabályozzuk-e vagy sem. (…) Természetesen túlszabályozhatjuk, de meg kell találnunk az egyensúlyt” – mondta Gianluca Misuraca.

A kormányzás a mesterséges intelligenciával (Governance with AI) magában foglalja, hogy az ember megőrzi a teljes ellenőrzést azon technológiák fölött, amelyek megnövelik szellemi kapacitásait, ily módon egyben az emberi jogok védelmezéséről is szól.

„A digitális szuverenitás azt jelenti, hogy a saját adataink tulajdonosának kell lennünk. Ha tehát valaki felhasználja az adataimat, tudni akarom, hogy mit csinál az én adataimmal. És ez egy nagyon alapvető elv, amely valójában már a GDPR-ban is szerepel, tehát nincs itt semmi újdonság” – vélekedett az előadó.

A mesterséges intelligencia általi kormányzás (Governance by AI) elvi lehetősége pedig szükségessé teszi, hogy meghatározzuk, etikai szempontból mi minden következik abból, ha az emberi döntéshozók bizonyos szempontból átadják az irányítást a mesterséges intelligencia emberfeletti képességeinek.

„Meg kell győződnünk arról, hogy ha használjuk ezt a technológiát, amely valóban képes növelni kognitív képességeinket, és néha még a viselkedésünket is megváltoztathatja, különösen a gyerekek esetében (…), akkor ezek (a változások – a szerk.) jó irányban történnek-e. De potenciálisan jó lenne, mert különösen a közszférában valahogy átengedhetjük a kontrollt ennek az emberfeletti képességnek, ami olyan dolgokat tesz, amire mi, emberek, a mi korlátainkkal nem vagyunk képesek. Sok nagyon unalmas vagy rutinszerű munkát megspórolhatunk, feltéve persze, hogy az ember irányít, ahogy a konferencia címe is mondja. Ezért van szükség a kormányzat számára a mesterséges intelligenciával kapcsolatban, különösen a közszférában, emberi felügyeletre, hogy ellenőrizni tudjuk, hogyan használják ezt a technológiát, különösen, ha nagyon kritikus kérdésekről és kockázatos felhasználásokról van szó” – fűzte hozzá.

Az MI valódi erejének kiaknázása a közszférában

Gianluca Misuraca és munkatársai 2020-ban tettek közzé egy jelentést arról, hogy az Európai Unió tagállamai milyen módon alkalmazzák a mesterséges intelligenciát a közszolgáltatásokban. Ezt az adatbázist azóta is frissítik, és mára már több ezer közcélú alkalmazást sikerült dokumentálniuk.

Ezeket előadásában az olasz szakember az apró előrelépéseket hozó újításoktól, a szervezeti hatékonyságot növelő alkalmazásokon át a radikális változásokat előidéző innovatív közcélú megoldásokig négy kategóriába sorolta.

Az adatvezérelt politikai döntéshozatali rendszerekre több kísérleti fázisban lévő, de a gyakorlatban még nem működő, pozitív példát is említett Finnországtól Svédországon, Spanyolországon, Hollandián és Észtországon át Belgiumig.

Az elért eredmények ellenére számos kihívással kell megküzdeni, rengeteg dilemmával szembenézni, és számtalan problémát kell megoldani.

„Az ITU (Nemzetközi Távközlési Unió – a szerk.) friss adatai azt mutatják, hogy a világ országainak kevesebb, mint öt százaléka (9 ország) rendelkezik olyan, mondjuk úgy, digitális kormányzási keretrendszerrel, amely képes megbirkózni a jelenlegi kihívásokkal, és csak a harminc százalékuk tesz némi előrelépést” – húzta alá Gianluca Misuraca.

Egy másik példával is alátámasztotta, hogy mennyi még a teendő. Az Egyesült Királyság nemzeti számvevő hivatalának (National Audit Office) egy friss jelentése szerint a munkaerő mindössze 20 százaléka van felkészülve arra, hogy megbirkózzon a mesterséges intelligencia új jelenségével.

„Ezért kell a kormányzatnak a digitális jövőre felkészítenie és képeznie a köztisztviselőket. És erre most nagy szükség van” – hangsúlyozta.

Erről az előadóról

Gianluca Misuraca

Ügyvezető igazgató (AI4GOV)

Gianluca Misuraca az Inspiring Futures(IF) alapítója és technológiai diplomáciáért és nemzetközi kapcsolatokért felelős alelnöke. AZ IF egy globális tanácsadó cég a stratégiai jövőkutatás, a társadalmi innováció és a digitális kormányzás területén, lausanne-i és sevillai székhellyel.

Korábban Gianluca az Európai Bizottság Közös Kutatóközpontjának vezető tudósa volt, ahol 2009 és 2020 között az AI Watch részeként a digitális kormányzati átalakulás, a társadalmi innováció és a mesterséges intelligencia területén végzett kutatásokat és szakpolitikai támogatást nyújtott a közszféra számára.

További előadók

Beszédek

Prof. Dr. Erdélyi J. Olívia a "Humans in Charge" konferencián a mesterséges intelligencia szabályozásának kérdésével foglalkozott, megállapítva annak jelenlegi következetlenségeit, és javasolta, hogy a mesterséges intelligencia irányításának kialakításakor az unióshoz hasonlóan kockázatalapú megközelítést alkalmazzanak. Hangsúlyozta a tudományos terminológiák használatának fontosságát, valamint olyan szabályozások kidolgozását, amelyeket a műszaki szakembergárdák pontosan végre tudnak hajtani. Erdélyi azt is felvetette, hogy a mesterséges intelligencia irányítását vagy egy külön szabályozó hatóság, vagy több szakosodott ügynökség végezhetné, feltéve, hogy van koordináció és szakértelem a mesterséges intelligencia és a gépi tanulás területén.
Videókapcsolaton keresztül, élőben beszélt a készülő uniós mesterségesintelligencia-rendeletről (MI-rendelet) a konferencia résztvevőinek Brando Benifei, az Európai Parlament olasz képviselője, az MI-rendelet egyik társelőadója. Elmondta, hogy az NMHH konferenciájának címe – Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában – tökéletesen összefoglalja azt, amit ők is szeretnének elérni az új közösségi jogszabállyal: egy emberközpontú, erős humán felügyeletet lehetővé tevő, a kockázatokat minimalizáló, az előnyök kihasználását ösztönző szabályrendszert.
A Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában című konferencián Tilesch György nemzetközi szakértő, a PHI Institute for Augmented Intelligence alapító elnöke a technológia, a szabályozás és a társadalmi befogadás konvergenciáját hangsúlyozta. Kifejtette, hogy proaktív tervezésre van szükség, és remélte, hogy a konferencián elhangzott hasznos viták segítenek Magyarországnak felkészülni a 2024-es EU-elnökségre.
A Nemzeti Média- és Hírközlési Hatóság elnöke hangsúlyozta, együttműködésre van szükség a kutatók, fejlesztők és döntéshozók közöttiaz etikus mesterséges intelligencia fejlesztéséhez és használatához. Miközben a mesterséges intelligencia nagy lehetőségeket rejt magában az életminőség és az emberi hatékonyság javítására, jelentős kihívásokat is felvet, különösen a digitális valóságba vetett hitet aláásó deepfake technológiák miatt. Koltay a mesterséges intelligencia jogi következményeinek, az adatvédelemnek és a létfontosságú etikai normáknak a további vizsgálatára szólított fel.
Maria Luciana Axente, a mesterséges intelligencia etikájának elismert szakértője és a gyermekek jogainak szószólója a „Human in Charge" című konferencián tartott előadást, amelynek középpontjában a gyermekek védelme a digitális korban állt. Nem vitatván, hogy a mesterséges intelligencia az oktatásban és az egészségügyben nagy lehetőségeket kínál, figyelmeztetett az árnyoldalaira is, egyebek mellett a gyermekkori fejlődéshez elengedhetetlen emberi interakciók csökkenésére. Axente kiemelte a figyelemre méltó erőfeszítéseket, például az UNICEF „AI for Children" kezdeményezését, amelynek célja, hogy választ adjon a mesterséges intelligencia és a gyermekek biztonsága körül felmerülő etikai kérdésekre.
A Microsoft Spanyolország „Adat és mesterséges intelligencia a közszférában és az egészségügyben” részlegének vezetője kiemelte: a kormányzat és a magánszektor közötti együttműködésre van szükség a mesterséges intelligencia kezelésében. Rámutatott a mesterséges intelligenciában rejlő átalakító erőre. Sanchez kiemelte az óvatos, de optimista megközelítés fontosságát, utalva a Microsoft saját MI-szabályozási keretrendszerére. Utalt Spanyolország nemzeti MI-stratégiájára és arra, hogy más uniós országok, például Magyarország is átveheti az „MI-homokozó" modellt.

Pódiumviták

A Felelős MI a digitális platformokon, a telekommunikációban és a médiában című pódiumbeszélgetés a mesterséges intelligencia szerepére összpontosított ezekben az ágazatokban. Szó volt a stratégiákról, a kihívásokról és a jogszabályi megfelelelőségről is. A vitában a Microsoft Spanyolország, a PHI Institute for Augmented Intelligence, az OpenAI és a T-Systems International szakértői vettek részt.
A pódiumbeszélgetésen résztvevő nemzetközi hírű mesterségesintelligencia-szakértők beszéltek a mesterséges intelligencia konstruktív erejéről, de kitértek a lehetséges veszélyekre és kockázatokra is. A fő hangsúly a mesterséges intelligencia biztonságával és védelmével, a kiszolgáltatott társadalmi csoportok, különösen a fiatalok védelmével, valamint az intézmények szerepével és a mesterséges intelligenciával való visszaélések elleni védelemmel kapcsolatos tudatosság növelésére helyeződött.
A világ közeledik a konszenzushoz az etikus mesterséges intelligenciáról, amit a várható uniós MI-jogszabály is előrevetít. A normák létrehozásának, operacionalizálásának és az irányítási struktúrák kialakításának kérdései központi szerepet játszanak. A vezetőktől elvárják, hogy megértsék a mesterséges intelligencia politikáját, etikáját és hatékonyan kommunikálják annak következményeit.
A negyedik pódiumvita a mesterséges intelligenciával támogatott kormányzati szolgáltatásokat – mint a mesterséges intelligencia társadalmi bevezetésének kulcsfontosságú területét – tárgyalta. A kérdések az EU mesterséges intelligenciára való politikai felkészültségét, a megbízható MI-tesztkörnyezetek létrehozását és szerepét, valamint a hatóságok és nagy platformok közötti partnerséget érintették. A részt vevő szakértők az MI-vel kapcsolatos különféle szakterületekről érkeztek.

Képgaléria

Képgaléria