Elérhetővé vált annak a különleges műhely-konferenciának az anyaga, amelyet a mesterséges intelligencia ritkábban tárgyalt kérdéseiről rendezett az UNESCO Magyar Nemzeti Bizottság Társadalomtudományi, valamint Kommunikációs és Információs Szakbizottsága, a kőszegi Felsőbbfokú Tanulmányok Intézete és az Szegedi Tudomány Egyetem Eötvös Kollégiuma.

Mi is az az emberközpontú mesterséges intelligencia?

• Algoritmusok, szenzorok és robotok fejlesztése és felhasználása, amelynek elsődleges és közvetlen célpontja nem a termelés, a gyártás, a technológia vagy a tudományos megismerés, hanem az emberi élet minőségének, az egészség megőrzésének, a társas kapcsolatok szervezésének támogatása.

A témáról szóló két, a felsőoktatásban is jól használható és a tárgykörrel foglalkozó kutatók és szakemberek számára is sok üzenetet megfogalmazó panelbeszélgetéshez megfogalmaztunk néhány fontosabb megállapítást, és kiemeltük a provokatív kérdéseket :

• Miért tekinthető a mesterséges intelligencia a negyedik nagy gondolkodástörténeti megrázkódtatásnak? 
• A mesterséges intelligencia antropológiai probléma, még ha technológiainak tűnik is. És már nem egy (valamelyik) emberi képesség-korlát technikai megoldásáról szól, hanem az emberi természetről, az emberi lényegről.
• Még akkor is, ha van, aki úgy látja, hogy az emberek egyre inkább „elgépiesülnek”, mintha elkezdene eltűnni az emberi lényeg. A gépek viszont emberiesülnek, mintha az emberi lényeg elkezdene átköltözni a gépi szubsztanciába
• Csakhogy gondolni, értelmet tulajdonítani nem tud a mesterséges intelligencia. Ez nem váltható ki algoritmussal. Az értelemadáshoz minden emberi tapasztalatot mozgósítani kell.
• Az etikai tartalom/elvárás nem fordítható le kódra. Mi, emberek jogi szempontból is felelősséget viselünk a döntéseinkért, a mesterséges intelligencia nem A döntés delegált emberi szándék, a technikai közegben
• A mesterséges intelligencia adat nélkül olyan, mint az autó benzin nélkül
• Hogyan lehet adathalmazokat auditálni? Hogyan lesz torzítás-vagy diszkriminációmentes egy adathalmaz? A megbízhatóságnak a mesterséges intelligencia egész életciklusa alatt érvényesülnie kell
• Bármilyen lokális adatgazda és adattömeg felől egy globális adattérbe lépünk be, ezek közös jószággá válnak.

Az online diskurzus teljes anyaga megtekinthető az alábbi videón!

 

A videó tartalomjegyzéke és ismertetője:

Megnyitó – Réthelyi Miklós (elnök, UNESCO Magyar Nemzeti Bizottság) 0:56 – 7:17

1. panel – A.I. Tudomány, jövőkép, közgondolkodás, stratégiai tervezés

Héder Mihály – BME/SZTAKI, a Mesterséges intelligencia. Filozófiai kérdések, gyakorlati válaszok c. könyv szerzője (Gondolat, 2020) A Mesterséges Intelligencia etikája című műegyetemi tantárgy oktatója

7:31     A mesterséges intelligencia (MI), mint a negyedik gondolkodástörténeti megrázkódtatás.

Az első: a kopernikuszi világkép, amellyel a Föld kikerül a középpontból

A második: a darwini elmélet, amellyel az ember kikerül a teremtettség státuszából

A harmadik: a freudi elmélet, amellyel az ember „kikerül a saját fejéből”, és és fel kell ismernie saját tudatalattija hatalmát a gondolatai felett

A negyedik: kiváltságosságunk vége, ha léteznek a mi képességeinket meghaladó lények

 

11:00   Az út, ahogyan egyre szűkül az, amire a gépi intelligencia nem képes, oda vezet, hogy feltegyük a kérdést: ha az, ami „csak” emberi intelligencia, egyre szűkülő tartomány, a mesterséges ágenssel szemben van-e, lesz-e morális kötelezettségünk? Átléphetik a gépek a határt, hogy alanyai legyenek morális rendszernek?

16:05 A technológiai diszkusszió megváltozó természete, a termékekkel uralható piacokkal, a

határköltségekkel, a tudástranszferrel és az abból fakadó globális standardokkal. A fejlettebb megoldások hozzákapcsolódnak a mesterséges ágensek meglétéhez – például orvosi diagnózisban vagy döntésben, vagy akár nyelvhelyesség-ellenőrzésben

 

Csepeli György – ELTE, az Ember 2.0. – A mesterséges intelligencia gazdasági és társadalmi hatásai című monográfia szerzője (Kossuth, 2020)

27:00   Az etikai kontextus: a szoftverkomponens és az autonóm robot-komponens összekapcsolódása. Mindebből először is a saját privátszféránk védelme felé kell elmozdulnunk, azonosítva szabadságunk új korlátait. Jogi és etikai űr alakult ki. Szembesülünk az átláthatatlansággal és az autonóm eszközök veszélyeivel. És még mindig csak bölcsőben van a mesterséges intelligencia, mi lesz, ha felnő? Meddig jutunk el a transzhumán perspektívában, az agy gépi elemekkel való összekapcsolásával?

41:50   Hogyan kerülhetjük el a veszélyeket, a heideggeri „planetáris idiotizmust”? Rezilienciánk, ellenállóképességünk növelésével. Legyünk résen, legyünk körültekintekintőek, figyeljünk a kis jelekre. Tegyük érthetővé az informatikai tudást.

 

Hozzászólás:

1. Karvalics László SZTE/IASK, kutató, az Informatorium. Szó-kalauz a kortárs információs kultúrához c. könyv (Tinta Kiadó, 2017 és angolul, 2020) szerzője

43,40   Ha emberközpontú vagy gyermekközpontú mesterséges intelligenciáról beszélünk, akkor a veszélydiskurzusok elé azért érdemes odaképzelni és odasorolni mindazt, amit és ahogyan a technológia segíthet. A már létező megoldásokkal! Egészségvédelemmel, mentális és fizikai állapot javításával. Ezeket egyelőre profit-és piacközpontú fejlesztési stratégiák irányítják, hogyan lesznek ebből a közösség érdekében formált gazdasági és politikai döntések? Az elterjeszthetőség és használhatóság kérdései kapjanak egyre nagyobb hangsúlyt!

49:10 Héder Mihály – milyen lehetőségtől esünk el, ha nem használunk egy technológiát? Ha jó, akkor sokszorosítandó, a szoftvertermészet ezt lehetővé teszi.

Az Európai Unió és más nemzetközi szervezetek ajánlásai a fejlesztéseknek túl késői fázisában kezdik befolyásolni a kimeneteket – senki sem azzal kezdi, hogy ajánlásokat lapozgat. A szakmai közösségek nem így „foghatóak meg”. A transzparencia mindig korlátozott marad, a kérdésekre a válaszok nem lesznek kielégítőek. A kézikönyvek nem implementálhatóak. Az MI-alkotók oktatása sokkal fontosabb lehet.

58:03   Az előnyöktől eltekinteni versus a hátrányokat elkerülni – nemcsak az MI esetében alapkérdés (ld. például a génmódosított növények kérdését)

1:00:00 Z. Karvalics László – ágens-e a döntést hozó mesterséges intelligencia? A döntési operációk egy részét engedjük át, de nem jött létre új entitás. Az eszközt is mi szabályozzuk, az előformált környezet hajt végre algoritmusok alapján műveletet, amelyet mi programoztunk le. A mi irányításunk alapján áll.  Ha gond van, a korrekció lehetősége is a mi térfelünkön van. A személyes adatokkal való visszaélés jó példa: története egyúttal a folyamatos korrekció és szabályozás története is.

 

Ropolyi László – ELTE, az Internet természete. Internetfilozófiai értekezés című könyv szerzője (Typotex,2006)

1:05:00 A mesterséges intelligencia antropológiai probléma, még ha technológiainak tűnik is.

Az emberi természetről, az emberi lényegről szól. Technikaként pedig az a kérdés, hogy miben tér el korábbi technikáktól?

(Közben: 1:08:40 Csepeli György: az autonomizáció az új elem, kiszorítja az embert).

1:10:05 Közelebb kerülünk a technikával az emberi lényeghez. Már nem egy emberi attributum a lényeg, amit a technika megold. Emiatt merül fel sok etikai kérdés.

1:11:40 Z. Karvalics László történeti példa: az ősi automaták még az „élő” jobb megértéséhez

vezettek volna, ennek az útnak a vége az intelligencia – szimulálása. És benne van a teljes technikatörténet az önkioldó csapdáktól. De már az önkioldó csapda is autonóm volt, tette, amit kell, ha nem medve, hanem embergyerek akadt bele, akkor is kioldott.

 

Joó Kinga – elnök-helyettes, Nagycsaládosok Országos Egyesülete (NOE) az Európai Gazdasági és Szociális Bizottság (EGSzB) tagja

1:15:00 egy amerikai példát idéz fel, hátrányos helyzetű afroamerikai gyerekek között végzett digitális pedagógiai program kapcsán. Az esélyegyenlőtlenség nem a technológiához való hozzáférésben mutatkozott meg, hanem az emberi oldalon, az asszisztenciát-korrepetálást végzők megfizethetőségében

1:17:20 Z. Karvalics László Spielberg AI című filmje a felszínes néző számára a mesterséges intelligenciáról szól: pedig valójában a gyermeki szeretetről (még akkor is, ha robotgyereket és robotmackót látunk leginkább a képen)

1:19:20 Héder Mihály: az etikai tartalom/elvárás nem fordítható le kódra. Az egész szituációt tervezni kell (ahogy az autó elhozta a zebrák, járdák, lámpák világát, gyalogos és autós számára szabályok sorát) a felelősségek újraosztása volt a megoldás az új helyzetre.  Az új ágens nem jelentette a kontrollképesség elvesztését.

1:27:28 Réthelyi Miklós – oly sok mindennek megírták már az anatómiáját – vajon a mesterséges intelligenciának van „anatómiája”, alapszerkezete? A kigondolásnál, megteremtésnél, használatnál, mindenütt ott az ember.

1:29:46 Z. Karvalics László – ha lenne ilyen anatómia, egyelőre azt látnánk, hogy néhány eleméről sokat, más elemekről keveset beszélünk.

1:30:20 Csepeli György – az emberek egyre inkább „elgépiesülnek”, mintha elkezdene

eltűnni az emberi lényeg. A gépek viszont emberiesülnek, az emberi lényeg elkezd átköltözni a gépi szubsztanciába. Az értékek várát felépítve és megtartva van eszközünk, hogy bizakodhassunk, de a lehetőségeket újra kell gondolni.

1:32:20 Z. Karvalics László – a szabadság nemcsak elveszik, hanem más oldalról meg teremtetik. Korlátok lebontatnak (gondoljunk csak a Mars-utazó robotokra) Elgépiesedés? Egy rítusvezérelt, repetitív neolit társadalom sokkal gépiesebb, mint a mai.

1:34:50 Csepeli György Hankiss Elemért idézi: a „Merj élni!” gondolatba mindkét szempont belefér – de azért a klímaproblémák megoldását a Mars-utazás elé helyezné.

 

2. panel – A. I. Szabályozás, képzés, technológiafejlesztés, üzlet

 

Petrányi Dóra – A CMS Közép- és Kelet-Európa regionális igazgatója, a budapesti iroda partnere a kereskedelmi jogi csoport társvezetője, valamint a versenyjogi és a Technológia, média és telekommunikáció csoportok vezetője. A Magyarországi Mesterséges Intelligencia Koalíció Szabályozási Munkacsoportjának társelnöke

1:36:55 Példák az aktuális etikai kihívásokra:

• 30 órás jogellenes fogva tartás a reptéri arcfelismerés hibája miatt (ami mögött az állt, hogy fehér férfiakra már volt elég adat)
• Angliában a pandémia miatt záróvizsga helyett algoritmus ad jegyeket a diákoknak – botrány abból, hogy a magániskolák diákjait preferálja

1:40:25 A megbízhatóságnak az egész életciklus alatt érvényesülnie kell. Egy munkacsoport 7 követelményt fogalmazott meg. Ezeket egyesével ismerteti, de talán a legfontosabb, hogy az emberi ellenőrzés minden munkaszakaszban érvényesüljön. Az elszámol(tat)hatóság is legalább ennyire lényeges.

1:45:00 A 100 régiós vezető megkérdezésével készült Digital Horizons című tanulmány ismertetése.

Mennyire gátja a bürokrácia (a közszféra) a fejlődésnek? Alig néhányan gondolják, hogy nem. Lassúsága a fő gond.

1:50:30 Az általános szabályozási környezetekre és etikai keretrendszerekre való törekvés példái közül a magyar és az UNESCO-s AI-stratégia összehasonlítása, majd az előbbi szabályozási és etikai csoportja munkatervének ismertetése. Az UNESCO fő kérdése: hogyan lehet hatással lenni ajánlással egy versengő piacra?

1:56:40 panelbeszélgetés

 

Levendovszky János – BME, egyetemi tanár, tudományos és innovációs rektorhelyettes, az egyetemi mesterséges intelligencia kutatások vezetője. Számos nemzetközi publikáció szerzője a neurális hálózatok területén, illetve ezek alkalmazásainak megvalósítása, infokommunikációs, optimalizálási és algoritmikus kereskedési rendszerekben

1:58:21 A szabályozáshoz is hozzá kéne nyúlni itt-ott – a megmagyarázhatóság és „hihetőség” kihívása – ha hiba történt a következtetésben, hol történt?

Az AI adat nélkül olyan, mint az autó benzin nélkül. Az adathalmazban rejlő diszkriminációra „rátanulhat” a gépi intelligencia. Hogyan lehet adathalmazokat auditálni? Hogyan lesz torzítás-vagy diszkriminációmentes egy adathalmaz? A tudományos (és különösen matematikai) diskurzusok már folynak, de a szabályozás kérdései nincsenek vizsgálva.

 

Érdi-Krausz Gábor – SZTAKI, a Mesterséges Intelligencia Nemzeti Laboratórium (MILAB) projektkoordinátora, a Mesterséges Intelligencia Koalíció Technológia és Biztonság munkacsoportjának vezetője.

2:04:15 Zajlik az MI-ökoszisztéma (intézményeinek) építése, és ez nem megy a jogi keretek kiépítése nélkül. Most jó időben vagyunk. Nagyon fontos lesz az Adatvagyon Ügynökség szerepe.

 

Danka Miklós – a Momentum Mozgalom technológiai vezetője, korábban a Palantir szilícium-völgyi adatcég vezető fejlesztője

2: 06:20 Adat-infrastruktúra és adatintegráció híján még nagyon távol vannak bizonyos ígéretek. A szervezetek digitalizációja is lassan halad.

A megmagyarázhatósághoz: sokszor az emberi döntéshozatal is korlátos, nem világos számunkra minden mozzanat. Hogyan visszük át az ennek kezelésére kialakult elveket a gépi döntéshozatal világába?

2:09:34 Levendovszki János: Mi, emberek jogi szempontból is felelősséget viselünk a döntéseinkért, az MI nem. Ahol a döntésben a gép részt vesz (például a bíróságokon), mindig meg lehet kérdőjelezni, hogy vajon megfelelő algoritmus alapján tette-e.

2:11:07 Z. Karvalics László: A döntéshozatal egy kognitív piramis teteje az előrejelzéssel, a helyzetelemzéssel, a piramisban egyre lejjebb a banális, repetitív műveletek vannak – és főleg ezekre lehet kiélesíteni a rendszereket. Például ma az újságírás világában ezt látjuk: ahol ilyenek az adatkörök (meteorológia, időjárás, sporteredmények), ott nagyon megbízhatóan dolgoznak az algoritmusok. Gyakran teszünk állításokat úgy, hogy nem tisztázzuk, a piramis melyik szintjén járunk.

2:13:55 Petrányi Dóra: Nagy kihívás az emberközpontú szabályozás kiegészítése algoritmusközpontúval. Az emberi kontroll kihagyhatatlan, és minden szabályozási törekvés felelősség-és kockázatközpontú. A magas kockázathoz új szabályozási megoldások tartoznak. A szabályozás 3-5 év lemaradásban van a technológiához képest. A döntéshozók felelőssége, hogyan alkalmazzák a meglévő szabályozást az új helyzetekre (például a diszkriminációs rendelkezések átvihetőek.). A szabályozási bizonytalanság befektetői bizonytalanságot szül.

2:17:40 Levendovszki János: Az adathoz értéket is kell rendelni, és kvantifikálni kell. Ingyenesnek tűnik valami, de mi adatlábnyomunkkal fizetünk.

2:20:23 Petrányi Dóra: Az egyén-alapú megközelítés, a fundamentális személyi jogok védelme mindenütt középpontban van. Az egyéni adatvagyon (egyének által kontrollált adattömeg) érdekes irány, akár hungarikumnak is tekinthetjük. Ám ezzel a meghatározással élni és visszaélni is lehet, és a túlszabályozástól is óvakodni kell. A hozzáférés transzparens biztosítása a kulcs.

2:22: 18 Z. Karvalics László: Az adatvagyon esetében a hasznosulás, a hozzáadott értékek teremtése a kulcs. S ha oldalra lépünk, látjuk, hogy nagy a szakadék aközött, amit normatívan elvárunk és megteremteni kívánunk, meg ami a valóságban van. Hiába áll(ná)nak rendelkezésre adatok, lehetne a döntéshozatal bizonyíték-alapú, ha a döntési kultúra alacsony szintű.

2:25:07 Levendovszki János: Nagyon izgalmas kérdés, hogy a hasznosuláshoz való hozzájárulás mértéke hogyan számszerűsíthető és osztható szét a közreműködő szereplők között. Olyan üzleti modellek kellenek, amelyek komplex termékek létrejöttét segítik elő.

2:29:00 Danka Miklós: még nem tartunk sehol az adatvezérelt döntéshozatalban. A freestyle chess legizgalmasabb tanulsága az volt, hogy közepes sakkozók közepes gépekkel megverték a nagymestereket és a szuperszámítógépeket – mert a legjobb módon ötvözték a humán és a gépi elem legjobb képességeit.

2:32:45 Ropolyi László: Technikafilozófiai szempontból elfogadott (részben banális) alapállítás, hogy az emberi szándék realizálódik a technikai közegben. Mindig azonosíthatók a emberi érdekek és szempontok. A döntés delegált emberi szándék.

2:35:20 Levendovszki János: a kimeneti értéket mi interpretáljuk és a felelősséget is mi vállaljuk.

2: 39:20 Az MI-hez inkább alapvető attributumokat érdemes rendelni, nem a definíciós kérdések a legfontosabbak. (Ezt teszi az UNESCO ajánlása is.) Ezek közül az adaptáció képessége talán a legizgalmasabb.

2:40:50 Z. Karvalics László A definícióhoz érdemes visszakanyarodni úgy, ha megnézzük, hogy az emberi intelligencia „ciklusmodelljének” melyik aktuális szakaszát támogatjuk meg gépi elemmel. A szenzor például ezért nagyon fontos. Korábban: az adat az emberi elme terméke volt, ma már gépi elem is termeli a jeleket, amelyeket adatokra fordítunk. Értelmét azonnal belátjuk az alkalmazásoknál: például: a sebvarasodás mértékét figyelő szenzor miatt sokkal kevesebbszer kell sebet átkötni.

2: 45:00 Nem helyettesíteni kell az emberi elmét, hanem augmentálni, „feljavítani”. A kulcskérdés pedig így hangzik: most épp milyen technológiára van nagy szükség valamilyen kritikus képesség feljavításához? Ne feledjük: az életidő sikeres kiváltása azonnal másféle, nagyobb értékhozzáadású életidőt igényel a rendszerben. Például a kulturális örökség digitalizálása csak segédmunka – forráskritikához, metaadatoláshoz hatalmas mennyiségű emberi agy és életidő kell.  Bármilyen lokális adatgazda és adattömeg felől egy globális adattérbe lépünk be, ezek közös jószággá válnak.

2:50:05 Levendovszki János: Az intelligenciaformák közti distinkciók elmosódnak. Ki kell tudni lépni a bevett kategóriáinkból.

2:52:00 Danka Miklós: Két példa. Brainport: nyelv-interfészen keresztül látásélmény

Egy övben 16 motor közül mindig az rezeg, amely Észak felé mutat. A felhasználó hozzászokik, és állandóan tud Északról, mint egy új érzékszerv.

2:59:00 Ropolyi László: a gép-készítette műalkotás-kérdés a korlátokra és lehetőségekre egyaránt rámutat. Csinálni lehet műalkotást géppel, de értelmezni?  Gondolni, értelmet tulajdonítani nem tud a mesterséges intelligencia. Ez nem váltható ki algoritmussal. Az értelemadáshoz minden emberi tapasztalatot mozgósítani kell.

3:01:12 Miközben gépi zenéről meg robotfestőről beszélünk, valójában a gépi elem másutt nélkülözhetetlen: animációs filmekben és játékfilmekben hatalmas számítógépes kapacitás és sok-sok ember együttes tevékenysége valósul meg.

3:04:00 Érdi-Krausz Gábor: az ember és technológia evolúciója párhuzamos.

3:05:45 Levendovszki János: Az MI a tudományba is nagy erővel folyik be, új tudományos eredményhez segítenek hozzá. Vannak olyan területek, ahol csak gépi segítséggel lehet következtetést megfogalmazni.

3:07:25 Danka Miklós: nemzeti szinten gondolkodni a legtöbb esetben hátrány. Hol lehet lokális előnyre szert tenni? Hungarikumot hol keressünk?  Pl. a magyar nyelv(technológia), a nagy hagyományú matematikai iskolára „ráerősítés”.

Levendovszki János: Vegyük figyelembe az erős koncentrációt is: az MI-szabadalmak száma nő, a szabadalmaztatók száma csökken. 5G, gyógyszeripar körüli MI-ben vannak kitörési pontjaink.

3:13:55 Ropolyi László: hungarikum lehet az alkalmazásban is, nemcsak az előállítás számít. A kultúra adaptivitása is nagyon fontos lesz. Van adaptív és van ellenálló kultúra is. Volna bőven tennivaló Magyarországon. (akár az MI befogadása szempontjából is). A közoktatás színvonalának emelése kiinduló feltétel. És itt a társadalom-és humán tudományoknak van nagy jelentősége.