A videó angol és magyar nyelvű feliratokat tartalmaz. A feliratok elsődleges nyelve a magyar, amely alapértelmezés szerint be van kapcsolva. Ha angolra szeretné váltani, kérjük, kattintson a videólejátszó jobb alsó sarkában található „Beállítások” ikonra, válassza a „Feliratok” menüpontot, és a magyar helyett válassza az angol nyelvet.

Dr. Koltay András: Az MI korában kutatóknak, fejlesztőknek és döntéshozóknak együtt kell működniük

A társadalom mostanra már tudatában van a mesterséges intelligencia (MI) rohamos fejlődésével együtt járó lehetőségeknek és kockázatoknak – mondta a Humans in Charge konferencia megnyitó beszédében a rendező, vendéglátó Nemzeti Média- és Hírközlési Hatóság (NMHH) elnöke. Dr. Koltay András szerint a generatív MI-technológia talán a média világára gyakorolta a legnagyobb hatást, de alkalmazásának „sötét oldala” is van. Hangsúlyozta, hogy a technológia fejlesztése, felelősségteljes és etikus alkalmazása során a kutatóknak, fejlesztőknek és döntéshozóknak együtt kell működniük.

Intelligencia-e a mesterséges intelligencia?

Bár úgy tűnik, mintha a mesterséges intelligencia megértene minket, döntései mégis matematikai modelleken alapulnak, és nincs valódi intelligenciája – vélekedett Dr. Koltay András a Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában című konferencia alaphangját megadó köszöntőjében.

„A legfejlettebb és legösszetettebb utánzógép, amit az emberiség valaha is épített, olyan képességekkel, amelyek szinte varázslatosnak tűnnek a társadalom szemében. (…) Tükröt tart elénk, és azt kérdezi, hogy mik a fő értékeink, mit tartunk fontosnak, mit akarunk megőrizni, mik a minták, szabályok és törvények, amiket a jövőben követni akarunk?” – fogalmazott az NMHH elnöke, hozzátéve, hogy a mesterséges intelligencia a jövő tervezésének új eszköze is, amely paradigmaváltást hoz, azaz megváltoztatja a korszellemet.

Beszélt az innováció fontosságáról, amelynek révén a mesterséges intelligenciát az életminőség javítására, az emberi hatékonyság és kreativitás fejlesztésére használhatjuk. Példaként említette az önvezető autókat, a diagnosztikai és egészségügyi ajánlásokat megfogalmazó rendszereket.

Ugyanakkor felhívta a figyelmet az egyre növekvő kihívásokra, és annak fontosságára, hogy ezekre a kihívásokra megfelelő válaszokat adjunk.

A mesterséges intelligencia és a jogtudomány

A hatóság elnöke kitért arra, hogy az emberi értékek, az adatvédelem és a felelős technológiahasználat mind-mind olyan területek, melyeket érint és egyre jobban meghatároz ez a technológia.

„Ezért a jogtudománynak is ebbe a tükörbe kell néznie. Megváltoztatja-e (a mesterséges intelligencia) és ha igen, akkor milyen mértékben, milyen irányba a hagyományos jogi megközelítéseket, területeket, a jog működési módját vagy akár társadalmi érvényességét? Ez a generatív jelleg vajon milyen lehetséges problémákat és veszélyeket rejt, milyen új szemléletet igényel az adatvédelem, a kockázatok és a felelősség terén?” – fogalmazott, majd további kérdéseket vetett fel:

  • Hogyan garantálhatjuk az adatok védelmét?
  • Milyen etikai normákra van szükség a mesterséges intelligencia fejlesztéséhez és alkalmazásához?
  • Hogyan biztosíthatjuk, hogy a technológia mindenkinek hozzáférhető és igazságos maradjon?

A mesterséges intelligencia hatása a médiára és a valóságérzékelésre

„A generatív mesterséges intelligencia által támogatott rendszerek forradalma talán a média világát érte a legnagyobb erővel, és ez a nyomás egyre növekszik” – vélekedett. „Az új modellek lehetővé teszik az interaktív és dinamikus beszélgetési élményt. Algoritmusok segítségével hatalmas mennyiségű szöveg, mozgókép, interakció jöhet létre a személyre szabott valóság új szintjeit elérve.”

„De ott van a sötét oldal is: a deepfake technológiák lerombolják a digitális valóságba vetett bizalmat. Az álhírek és megtévesztő tartalmak alapjaiban rendítik meg a valóságérzékelésünket, fenyegetik az információs integritást és kételyeket ébresztenek bennünk. Egyre nehezebb felismerni a különbséget valós és virtuális között, a ránk gyakorolt hatásuk miatt könnyedén elveszítjük a megbízható források felismerésének képességét” – sorolta a veszélyeket az NMHH elnöke, és hozzátette, hogy a mesterséges intelligencia a jelek szerint megváltoztatja a médiapiac működését.

Kifejezte meggyőződését, hogy a technológia fejlesztése, felelősségteljes és etikus alkalmazása során kutatóknak, fejlesztőknek és döntéshozóknak együtt kell működniük.

„Az MI hatalmas lehetőségekkel bír: segíthet megoldásokat találni az előttünk álló kihívásokra, legyen szó a klímaváltozásról, az egészségügyi ellátásról vagy az oktatásról. Az MI nem valami külső, távoli entitás, hanem mindennapjaink része, és mindannyiunk felelőssége, hogy a legtöbbet hozzuk ki belőle” – hangsúlyozta záró gondolatként Dr. Koltay András.

Erről az előadóról

Koltay András

Elnök, Nemzeti Média- és Hírközlési Hatóság (NMHH)

Koltay András jogász, a Nemzeti Közszolgálati Egyetem és a Pázmány Péter Katolikus Egyetem egyetemi tanára.

LL.M. fokozatot szerzett 2007-ben a University College Londonon, korábban a strasbourgi Emberi Jogok Nemzetközi Intézetében folytatott tanulmányokat.

2010 és 2019 között az NMHH Médiatanácsának tagjaként dolgozott.

2016-tól a Magyar Tudományos Akadémia köztestületi tagja, 2017 óta a Magyar Paralimpiai Bizottság Jogi- és Etikai Bizottságában tag.

Csaknem 400 tudományos publikációt jegyez magyar és angol nyelven.

További előadók

Beszédek

A Microsoft Spanyolország „Adat és mesterséges intelligencia a közszférában és az egészségügyben” részlegének vezetője kiemelte: a kormányzat és a magánszektor közötti együttműködésre van szükség a mesterséges intelligencia kezelésében. Rámutatott a mesterséges intelligenciában rejlő átalakító erőre. Sanchez kiemelte az óvatos, de optimista megközelítés fontosságát, utalva a Microsoft saját MI-szabályozási keretrendszerére. Utalt Spanyolország nemzeti MI-stratégiájára és arra, hogy más uniós országok, például Magyarország is átveheti az „MI-homokozó" modellt.
Gianluca Misuraca olasz kutató és az AI4GOV alapítója a „Humans in Charge" konferencián beszélt a mesterséges intelligencia irányításáról és a közszféra létfontosságú szerepéről. Hangsúlyozta: a mesterséges intelligencia lehetséges előnyeinek és kockázatainak kezelése a közszolgáltatásokban és társadalmi szinten egyaránt fontos. Misuraca jelezte, a kormányzatnak az MI szabályozójaként, felhasználójaként, illetve közvetítőként is szerepe van, és rámutatott arra a kihívásra, amelyet az MI közszolgáltatásokban való alkalmazása jelent, miközben meg kell védeni a polgárokat, különösen bizonytalan kimenetelű események esetén. Hangsúlyozta továbbá, hogy a munkaerőt fel kell készíteni a mesterséges intelligencia nagyobb mértékű alkalmazására.
Prof. Dr. Erdélyi J. Olívia a "Humans in Charge" konferencián a mesterséges intelligencia szabályozásának kérdésével foglalkozott, megállapítva annak jelenlegi következetlenségeit, és javasolta, hogy a mesterséges intelligencia irányításának kialakításakor az unióshoz hasonlóan kockázatalapú megközelítést alkalmazzanak. Hangsúlyozta a tudományos terminológiák használatának fontosságát, valamint olyan szabályozások kidolgozását, amelyeket a műszaki szakembergárdák pontosan végre tudnak hajtani. Erdélyi azt is felvetette, hogy a mesterséges intelligencia irányítását vagy egy külön szabályozó hatóság, vagy több szakosodott ügynökség végezhetné, feltéve, hogy van koordináció és szakértelem a mesterséges intelligencia és a gépi tanulás területén.
A Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában című konferencián Tilesch György nemzetközi szakértő, a PHI Institute for Augmented Intelligence alapító elnöke a technológia, a szabályozás és a társadalmi befogadás konvergenciáját hangsúlyozta. Kifejtette, hogy proaktív tervezésre van szükség, és remélte, hogy a konferencián elhangzott hasznos viták segítenek Magyarországnak felkészülni a 2024-es EU-elnökségre.
Videókapcsolaton keresztül, élőben beszélt a készülő uniós mesterségesintelligencia-rendeletről (MI-rendelet) a konferencia résztvevőinek Brando Benifei, az Európai Parlament olasz képviselője, az MI-rendelet egyik társelőadója. Elmondta, hogy az NMHH konferenciájának címe – Humans in Charge – Felelősségteljes irányítás a mesterséges intelligencia korában – tökéletesen összefoglalja azt, amit ők is szeretnének elérni az új közösségi jogszabállyal: egy emberközpontú, erős humán felügyeletet lehetővé tevő, a kockázatokat minimalizáló, az előnyök kihasználását ösztönző szabályrendszert.
Maria Luciana Axente, a mesterséges intelligencia etikájának elismert szakértője és a gyermekek jogainak szószólója a „Human in Charge" című konferencián tartott előadást, amelynek középpontjában a gyermekek védelme a digitális korban állt. Nem vitatván, hogy a mesterséges intelligencia az oktatásban és az egészségügyben nagy lehetőségeket kínál, figyelmeztetett az árnyoldalaira is, egyebek mellett a gyermekkori fejlődéshez elengedhetetlen emberi interakciók csökkenésére. Axente kiemelte a figyelemre méltó erőfeszítéseket, például az UNICEF „AI for Children" kezdeményezését, amelynek célja, hogy választ adjon a mesterséges intelligencia és a gyermekek biztonsága körül felmerülő etikai kérdésekre.

Pódiumviták

A Felelős MI a digitális platformokon, a telekommunikációban és a médiában című pódiumbeszélgetés a mesterséges intelligencia szerepére összpontosított ezekben az ágazatokban. Szó volt a stratégiákról, a kihívásokról és a jogszabályi megfelelelőségről is. A vitában a Microsoft Spanyolország, a PHI Institute for Augmented Intelligence, az OpenAI és a T-Systems International szakértői vettek részt.
A pódiumbeszélgetésen résztvevő nemzetközi hírű mesterségesintelligencia-szakértők beszéltek a mesterséges intelligencia konstruktív erejéről, de kitértek a lehetséges veszélyekre és kockázatokra is. A fő hangsúly a mesterséges intelligencia biztonságával és védelmével, a kiszolgáltatott társadalmi csoportok, különösen a fiatalok védelmével, valamint az intézmények szerepével és a mesterséges intelligenciával való visszaélések elleni védelemmel kapcsolatos tudatosság növelésére helyeződött.
A világ közeledik a konszenzushoz az etikus mesterséges intelligenciáról, amit a várható uniós MI-jogszabály is előrevetít. A normák létrehozásának, operacionalizálásának és az irányítási struktúrák kialakításának kérdései központi szerepet játszanak. A vezetőktől elvárják, hogy megértsék a mesterséges intelligencia politikáját, etikáját és hatékonyan kommunikálják annak következményeit.
A negyedik pódiumvita a mesterséges intelligenciával támogatott kormányzati szolgáltatásokat – mint a mesterséges intelligencia társadalmi bevezetésének kulcsfontosságú területét – tárgyalta. A kérdések az EU mesterséges intelligenciára való politikai felkészültségét, a megbízható MI-tesztkörnyezetek létrehozását és szerepét, valamint a hatóságok és nagy platformok közötti partnerséget érintették. A részt vevő szakértők az MI-vel kapcsolatos különféle szakterületekről érkeztek.

Képgaléria

Képgaléria