MI, biztonság és védelem. MI a közjóért és a következő generáció védelméért

A MÁSODIK PÓDIUMVITA. A mesterséges intelligencia mint társadalmi-technikai konstrukció a nagy bizonytalanságok, konfliktusok és a kiszámíthatatlanság korában érkezik. Az MI képes a jót szolgálni: erejét sokkal nagyobb mértékben kellene kihasználni a nagy civilizációs kihívások és a társadalmi fejlődési célok megoldásának elősegítése érdekében. Ezzel párhuzamosan a mesterséges intelligencia aktívan jelen van a minket körülvevő mindennapi megoldásokban, és hamarosan minden digitális dolgot működtetni fog: az ereje és hatása mindenütt jelen lesz, ahogyan az ilyen technológiákhoz kapcsolódó kockázatok és ártalmak is, amelyek itt maradnak.

Válaszra váró kérdések

  • Vannak a kifejezetten a mesterséges intelligenciára jellemző kockázatok és károk, és vannak megoldatlan kapcsolódó csomagok. Hogyan védhetjük meg a legsebezhetőbb népességcsoportokat, különösen a fiatalokat, az MI visszaélésszerű használatának nem várt ártalmaitól és konfliktusaitól?
  • Hogyan reagálnak a nemzeti és nemzetközi intézmények ezekre a kihívásokra, és milyen élvonalbeli kezdeményezések tekinthetők reményt és biztonságérzetet keltőnek?
  • Ha rosszul sülnek el a dolgok: hogyan növelhetjük az átlagemberek tudatosságát és megértését a mesterséges intelligencia biztonságával és védelmével kapcsolatban, és e tekintetben mi minősül élvonalbeli megoldásnak?
  • Az MI átalakítja a 21. század védelmét: miként óvjuk meg társadalmainkat az agresszoroktól, akik egyre robusztusabb mesterséges intelligencia-képességeket fejlesztenek ki?

Résztvevők

Maria Luciana Axente

A PwC UK „Felelős MI és MI a közjóért" részlegének vezetője

Számos tanácsadó testület tagja – az Egyesült Királyság mesterséges intelligenciáért felelős parlamenti csoportja (APPG AI), ORBIT & SKEMA AI Institute –, a techUK Data and AI vezetői bizottságának alelnöke, valamint a BSI/ISO és az IEEE AI-szabványcsoportok tagja.

Drajkó László

Alapító és ügyvezetést ellátó tag, Cydrill Software Security

László nagyra becsült munkatársa az amerikai kormány, a tudományos élet és az ipar együttműködésével létrejött ACT-IAC programnak, ahol a mesterségesintelligencia-munkacsoportban dolgozik, ezen belül is különösen a mesterséges intelligencia és a gépi tanulási rendszerek biztonsági szempontjainak tudatosításával foglalkozik.

Porkoláb Imre

Az igazgatóság alelnöke, NATO DIANA

A különleges műveleti képességfejlesztés kapcsán a gerillaharc és a terrorellenes hadviselés szakértője. Kutatja az ehhez kapcsolódó vezetéselméletet, a V.U.C.A. környezetben sikeres változásmenedzsmentet, illetve a szervezeti átalakítás innovatív módszereit és annak az üzleti életben való alkalmazhatóságát.

Tilesch György

Alapító és elnök, PHI Institute for Augmented Intelligence

György több mint 20 éve tevékenykedik ágazat- és iparágközi összekötőként a mesterségesintelligencia-ökoszisztémák között világszerte, és a világ vezetőinek megbízható tanácsadójaként.

Pódiumviták

A Felelős MI a digitális platformokon, a telekommunikációban és a médiában című pódiumbeszélgetés a mesterséges intelligencia szerepére összpontosított ezekben az ágazatokban. Szó volt a stratégiákról, a kihívásokról és a jogszabályi megfelelelőségről is. A vitában a Microsoft Spanyolország, a PHI Institute for Augmented Intelligence, az OpenAI és a T-Systems International szakértői vettek részt.
A világ közeledik a konszenzushoz az etikus mesterséges intelligenciáról, amit a várható uniós MI-jogszabály is előrevetít. A normák létrehozásának, operacionalizálásának és az irányítási struktúrák kialakításának kérdései központi szerepet játszanak. A vezetőktől elvárják, hogy megértsék a mesterséges intelligencia politikáját, etikáját és hatékonyan kommunikálják annak következményeit.
A negyedik pódiumvita a mesterséges intelligenciával támogatott kormányzati szolgáltatásokat – mint a mesterséges intelligencia társadalmi bevezetésének kulcsfontosságú területét – tárgyalta. A kérdések az EU mesterséges intelligenciára való politikai felkészültségét, a megbízható MI-tesztkörnyezetek létrehozását és szerepét, valamint a hatóságok és nagy platformok közötti partnerséget érintették. A részt vevő szakértők az MI-vel kapcsolatos különféle szakterületekről érkeztek.

Beszédek

Maria Luciana Axente, a mesterséges intelligencia etikájának elismert szakértője és a gyermekek jogainak szószólója a „Human in Charge" című konferencián tartott előadást, amelynek középpontjában a gyermekek védelme a digitális korban állt. Nem vitatván, hogy a mesterséges intelligencia az oktatásban és az egészségügyben nagy lehetőségeket kínál, figyelmeztetett az árnyoldalaira is, egyebek mellett a gyermekkori fejlődéshez elengedhetetlen emberi interakciók csökkenésére. Axente kiemelte a figyelemre méltó erőfeszítéseket, például az UNICEF „AI for Children" kezdeményezését, amelynek célja, hogy választ adjon a mesterséges intelligencia és a gyermekek biztonsága körül felmerülő etikai kérdésekre.
A Microsoft Spanyolország „Adat és mesterséges intelligencia a közszférában és az egészségügyben” részlegének vezetője kiemelte: a kormányzat és a magánszektor közötti együttműködésre van szükség a mesterséges intelligencia kezelésében. Rámutatott a mesterséges intelligenciában rejlő átalakító erőre. Sanchez kiemelte az óvatos, de optimista megközelítés fontosságát, utalva a Microsoft saját MI-szabályozási keretrendszerére. Utalt Spanyolország nemzeti MI-stratégiájára és arra, hogy más uniós országok, például Magyarország is átveheti az „MI-homokozó" modellt.
Gianluca Misuraca olasz kutató és az AI4GOV alapítója a „Humans in Charge" konferencián beszélt a mesterséges intelligencia irányításáról és a közszféra létfontosságú szerepéről. Hangsúlyozta: a mesterséges intelligencia lehetséges előnyeinek és kockázatainak kezelése a közszolgáltatásokban és társadalmi szinten egyaránt fontos. Misuraca jelezte, a kormányzatnak az MI szabályozójaként, felhasználójaként, illetve közvetítőként is szerepe van, és rámutatott arra a kihívásra, amelyet az MI közszolgáltatásokban való alkalmazása jelent, miközben meg kell védeni a polgárokat, különösen bizonytalan kimenetelű események esetén. Hangsúlyozta továbbá, hogy a munkaerőt fel kell készíteni a mesterséges intelligencia nagyobb mértékű alkalmazására.
A Nemzeti Média- és Hírközlési Hatóság elnöke hangsúlyozta, együttműködésre van szükség a kutatók, fejlesztők és döntéshozók közöttiaz etikus mesterséges intelligencia fejlesztéséhez és használatához. Miközben a mesterséges intelligencia nagy lehetőségeket rejt magában az életminőség és az emberi hatékonyság javítására, jelentős kihívásokat is felvet, különösen a digitális valóságba vetett hitet aláásó deepfake technológiák miatt. Koltay a mesterséges intelligencia jogi következményeinek, az adatvédelemnek és a létfontosságú etikai normáknak a további vizsgálatára szólított fel.
Videókapcsolaton keresztül, élőben beszélt a készülő uniós mesterségesintelligencia-rendeletről (MI-rendelet) a konferencia résztvevőinek Brando Benifei, az Európai Parlament olasz képviselője, az MI-rendelet egyik társelőadója. Elmondta, hogy az NMHH konferenciájának címe – Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában – tökéletesen összefoglalja azt, amit ők is szeretnének elérni az új közösségi jogszabállyal: egy emberközpontú, erős humán felügyeletet lehetővé tevő, a kockázatokat minimalizáló, az előnyök kihasználását ösztönző szabályrendszert.
Prof. Dr. Erdélyi J. Olívia a "Humans in Charge" konferencián a mesterséges intelligencia szabályozásának kérdésével foglalkozott, megállapítva annak jelenlegi következetlenségeit, és javasolta, hogy a mesterséges intelligencia irányításának kialakításakor az unióshoz hasonlóan kockázatalapú megközelítést alkalmazzanak. Hangsúlyozta a tudományos terminológiák használatának fontosságát, valamint olyan szabályozások kidolgozását, amelyeket a műszaki szakembergárdák pontosan végre tudnak hajtani. Erdélyi azt is felvetette, hogy a mesterséges intelligencia irányítását vagy egy külön szabályozó hatóság, vagy több szakosodott ügynökség végezhetné, feltéve, hogy van koordináció és szakértelem a mesterséges intelligencia és a gépi tanulás területén.
A Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában című konferencián Tilesch György nemzetközi szakértő, a PHI Institute for Augmented Intelligence alapító elnöke a technológia, a szabályozás és a társadalmi befogadás konvergenciáját hangsúlyozta. Kifejtette, hogy proaktív tervezésre van szükség, és remélte, hogy a konferencián elhangzott hasznos viták segítenek Magyarországnak felkészülni a 2024-es EU-elnökségre.

Képgaléria

Képgaléria