Kutatás és tanulmányok
Elérhetővé vált annak a különleges műhely-konferenciának az anyaga, amelyet a mesterséges intelligencia ritkábban tárgyalt kérdéseiről rendezett az UNESCO Magyar Nemzeti Bizottság Társadalomtudományi, valamint Kommunikációs és Információs Szakbizottsága, a kőszegi Felsőbbfokú Tanulmányok Intézete és az Szegedi Tudomány Egyetem Eötvös Kollégiuma.
Mi is az az emberközpontú mesterséges intelligencia?
A témáról szóló két, a felsőoktatásban is jól használható és a tárgykörrel foglalkozó kutatók és szakemberek számára is sok üzenetet megfogalmazó panelbeszélgetéshez megfogalmaztunk néhány fontosabb megállapítást, és kiemeltük a provokatív kérdéseket :
Az online diskurzus teljes anyaga megtekinthető az alábbi videón!
A videó tartalomjegyzéke és ismertetője:
Megnyitó – Réthelyi Miklós (elnök, UNESCO Magyar Nemzeti Bizottság) 0:56 – 7:17
Héder Mihály – BME/SZTAKI, a Mesterséges intelligencia. Filozófiai kérdések, gyakorlati válaszok c. könyv szerzője (Gondolat, 2020) A Mesterséges Intelligencia etikája című műegyetemi tantárgy oktatója
7:31 A mesterséges intelligencia (MI), mint a negyedik gondolkodástörténeti megrázkódtatás.
Az első: a kopernikuszi világkép, amellyel a Föld kikerül a középpontból
A második: a darwini elmélet, amellyel az ember kikerül a teremtettség státuszából
A harmadik: a freudi elmélet, amellyel az ember „kikerül a saját fejéből”, és és fel kell ismernie saját tudatalattija hatalmát a gondolatai felett
A negyedik: kiváltságosságunk vége, ha léteznek a mi képességeinket meghaladó lények
11:00 Az út, ahogyan egyre szűkül az, amire a gépi intelligencia nem képes, oda vezet, hogy feltegyük a kérdést: ha az, ami „csak” emberi intelligencia, egyre szűkülő tartomány, a mesterséges ágenssel szemben van-e, lesz-e morális kötelezettségünk? Átléphetik a gépek a határt, hogy alanyai legyenek morális rendszernek?
16:05 A technológiai diszkusszió megváltozó természete, a termékekkel uralható piacokkal, a
határköltségekkel, a tudástranszferrel és az abból fakadó globális standardokkal. A fejlettebb megoldások hozzákapcsolódnak a mesterséges ágensek meglétéhez – például orvosi diagnózisban vagy döntésben, vagy akár nyelvhelyesség-ellenőrzésben
Csepeli György – ELTE, az Ember 2.0. – A mesterséges intelligencia gazdasági és társadalmi hatásai című monográfia szerzője (Kossuth, 2020)
27:00 Az etikai kontextus: a szoftverkomponens és az autonóm robot-komponens összekapcsolódása. Mindebből először is a saját privátszféránk védelme felé kell elmozdulnunk, azonosítva szabadságunk új korlátait. Jogi és etikai űr alakult ki. Szembesülünk az átláthatatlansággal és az autonóm eszközök veszélyeivel. És még mindig csak bölcsőben van a mesterséges intelligencia, mi lesz, ha felnő? Meddig jutunk el a transzhumán perspektívában, az agy gépi elemekkel való összekapcsolásával?
41:50 Hogyan kerülhetjük el a veszélyeket, a heideggeri „planetáris idiotizmust”? Rezilienciánk, ellenállóképességünk növelésével. Legyünk résen, legyünk körültekintekintőek, figyeljünk a kis jelekre. Tegyük érthetővé az informatikai tudást.
Hozzászólás:
43,40 Ha emberközpontú vagy gyermekközpontú mesterséges intelligenciáról beszélünk, akkor a veszélydiskurzusok elé azért érdemes odaképzelni és odasorolni mindazt, amit és ahogyan a technológia segíthet. A már létező megoldásokkal! Egészségvédelemmel, mentális és fizikai állapot javításával. Ezeket egyelőre profit-és piacközpontú fejlesztési stratégiák irányítják, hogyan lesznek ebből a közösség érdekében formált gazdasági és politikai döntések? Az elterjeszthetőség és használhatóság kérdései kapjanak egyre nagyobb hangsúlyt!
49:10 Héder Mihály – milyen lehetőségtől esünk el, ha nem használunk egy technológiát? Ha jó, akkor sokszorosítandó, a szoftvertermészet ezt lehetővé teszi.
Az Európai Unió és más nemzetközi szervezetek ajánlásai a fejlesztéseknek túl késői fázisában kezdik befolyásolni a kimeneteket – senki sem azzal kezdi, hogy ajánlásokat lapozgat. A szakmai közösségek nem így „foghatóak meg”. A transzparencia mindig korlátozott marad, a kérdésekre a válaszok nem lesznek kielégítőek. A kézikönyvek nem implementálhatóak. Az MI-alkotók oktatása sokkal fontosabb lehet.
58:03 Az előnyöktől eltekinteni versus a hátrányokat elkerülni – nemcsak az MI esetében alapkérdés (ld. például a génmódosított növények kérdését)
1:00:00 Z. Karvalics László – ágens-e a döntést hozó mesterséges intelligencia? A döntési operációk egy részét engedjük át, de nem jött létre új entitás. Az eszközt is mi szabályozzuk, az előformált környezet hajt végre algoritmusok alapján műveletet, amelyet mi programoztunk le. A mi irányításunk alapján áll. Ha gond van, a korrekció lehetősége is a mi térfelünkön van. A személyes adatokkal való visszaélés jó példa: története egyúttal a folyamatos korrekció és szabályozás története is.
Ropolyi László – ELTE, az Internet természete. Internetfilozófiai értekezés című könyv szerzője (Typotex,2006)
1:05:00 A mesterséges intelligencia antropológiai probléma, még ha technológiainak tűnik is.
Az emberi természetről, az emberi lényegről szól. Technikaként pedig az a kérdés, hogy miben tér el korábbi technikáktól?
(Közben: 1:08:40 Csepeli György: az autonomizáció az új elem, kiszorítja az embert).
1:10:05 Közelebb kerülünk a technikával az emberi lényeghez. Már nem egy emberi attributum a lényeg, amit a technika megold. Emiatt merül fel sok etikai kérdés.
1:11:40 Z. Karvalics László történeti példa: az ősi automaták még az „élő” jobb megértéséhez
vezettek volna, ennek az útnak a vége az intelligencia – szimulálása. És benne van a teljes technikatörténet az önkioldó csapdáktól. De már az önkioldó csapda is autonóm volt, tette, amit kell, ha nem medve, hanem embergyerek akadt bele, akkor is kioldott.
Joó Kinga – elnök-helyettes, Nagycsaládosok Országos Egyesülete (NOE) az Európai Gazdasági és Szociális Bizottság (EGSzB) tagja
1:15:00 egy amerikai példát idéz fel, hátrányos helyzetű afroamerikai gyerekek között végzett digitális pedagógiai program kapcsán. Az esélyegyenlőtlenség nem a technológiához való hozzáférésben mutatkozott meg, hanem az emberi oldalon, az asszisztenciát-korrepetálást végzők megfizethetőségében
1:17:20 Z. Karvalics László Spielberg AI című filmje a felszínes néző számára a mesterséges intelligenciáról szól: pedig valójában a gyermeki szeretetről (még akkor is, ha robotgyereket és robotmackót látunk leginkább a képen)
1:19:20 Héder Mihály: az etikai tartalom/elvárás nem fordítható le kódra. Az egész szituációt tervezni kell (ahogy az autó elhozta a zebrák, járdák, lámpák világát, gyalogos és autós számára szabályok sorát) a felelősségek újraosztása volt a megoldás az új helyzetre. Az új ágens nem jelentette a kontrollképesség elvesztését.
1:27:28 Réthelyi Miklós – oly sok mindennek megírták már az anatómiáját – vajon a mesterséges intelligenciának van „anatómiája”, alapszerkezete? A kigondolásnál, megteremtésnél, használatnál, mindenütt ott az ember.
1:29:46 Z. Karvalics László – ha lenne ilyen anatómia, egyelőre azt látnánk, hogy néhány eleméről sokat, más elemekről keveset beszélünk.
1:30:20 Csepeli György – az emberek egyre inkább „elgépiesülnek”, mintha elkezdene
eltűnni az emberi lényeg. A gépek viszont emberiesülnek, az emberi lényeg elkezd átköltözni a gépi szubsztanciába. Az értékek várát felépítve és megtartva van eszközünk, hogy bizakodhassunk, de a lehetőségeket újra kell gondolni.
1:32:20 Z. Karvalics László – a szabadság nemcsak elveszik, hanem más oldalról meg teremtetik. Korlátok lebontatnak (gondoljunk csak a Mars-utazó robotokra) Elgépiesedés? Egy rítusvezérelt, repetitív neolit társadalom sokkal gépiesebb, mint a mai.
1:34:50 Csepeli György Hankiss Elemért idézi: a „Merj élni!” gondolatba mindkét szempont belefér – de azért a klímaproblémák megoldását a Mars-utazás elé helyezné.
Petrányi Dóra – A CMS Közép- és Kelet-Európa regionális igazgatója, a budapesti iroda partnere a kereskedelmi jogi csoport társvezetője, valamint a versenyjogi és a Technológia, média és telekommunikáció csoportok vezetője. A Magyarországi Mesterséges Intelligencia Koalíció Szabályozási Munkacsoportjának társelnöke
1:36:55 Példák az aktuális etikai kihívásokra:
1:40:25 A megbízhatóságnak az egész életciklus alatt érvényesülnie kell. Egy munkacsoport 7 követelményt fogalmazott meg. Ezeket egyesével ismerteti, de talán a legfontosabb, hogy az emberi ellenőrzés minden munkaszakaszban érvényesüljön. Az elszámol(tat)hatóság is legalább ennyire lényeges.
1:45:00 A 100 régiós vezető megkérdezésével készült Digital Horizons című tanulmány ismertetése.
Mennyire gátja a bürokrácia (a közszféra) a fejlődésnek? Alig néhányan gondolják, hogy nem. Lassúsága a fő gond.
1:50:30 Az általános szabályozási környezetekre és etikai keretrendszerekre való törekvés példái közül a magyar és az UNESCO-s AI-stratégia összehasonlítása, majd az előbbi szabályozási és etikai csoportja munkatervének ismertetése. Az UNESCO fő kérdése: hogyan lehet hatással lenni ajánlással egy versengő piacra?
1:56:40 panelbeszélgetés
Levendovszky János – BME, egyetemi tanár, tudományos és innovációs rektorhelyettes, az egyetemi mesterséges intelligencia kutatások vezetője. Számos nemzetközi publikáció szerzője a neurális hálózatok területén, illetve ezek alkalmazásainak megvalósítása, infokommunikációs, optimalizálási és algoritmikus kereskedési rendszerekben
1:58:21 A szabályozáshoz is hozzá kéne nyúlni itt-ott – a megmagyarázhatóság és „hihetőség” kihívása – ha hiba történt a következtetésben, hol történt?
Az AI adat nélkül olyan, mint az autó benzin nélkül. Az adathalmazban rejlő diszkriminációra „rátanulhat” a gépi intelligencia. Hogyan lehet adathalmazokat auditálni? Hogyan lesz torzítás-vagy diszkriminációmentes egy adathalmaz? A tudományos (és különösen matematikai) diskurzusok már folynak, de a szabályozás kérdései nincsenek vizsgálva.
Érdi-Krausz Gábor – SZTAKI, a Mesterséges Intelligencia Nemzeti Laboratórium (MILAB) projektkoordinátora, a Mesterséges Intelligencia Koalíció Technológia és Biztonság munkacsoportjának vezetője.
2:04:15 Zajlik az MI-ökoszisztéma (intézményeinek) építése, és ez nem megy a jogi keretek kiépítése nélkül. Most jó időben vagyunk. Nagyon fontos lesz az Adatvagyon Ügynökség szerepe.
Danka Miklós – a Momentum Mozgalom technológiai vezetője, korábban a Palantir szilícium-völgyi adatcég vezető fejlesztője
2: 06:20 Adat-infrastruktúra és adatintegráció híján még nagyon távol vannak bizonyos ígéretek. A szervezetek digitalizációja is lassan halad.
A megmagyarázhatósághoz: sokszor az emberi döntéshozatal is korlátos, nem világos számunkra minden mozzanat. Hogyan visszük át az ennek kezelésére kialakult elveket a gépi döntéshozatal világába?
2:09:34 Levendovszki János: Mi, emberek jogi szempontból is felelősséget viselünk a döntéseinkért, az MI nem. Ahol a döntésben a gép részt vesz (például a bíróságokon), mindig meg lehet kérdőjelezni, hogy vajon megfelelő algoritmus alapján tette-e.
2:11:07 Z. Karvalics László: A döntéshozatal egy kognitív piramis teteje az előrejelzéssel, a helyzetelemzéssel, a piramisban egyre lejjebb a banális, repetitív műveletek vannak – és főleg ezekre lehet kiélesíteni a rendszereket. Például ma az újságírás világában ezt látjuk: ahol ilyenek az adatkörök (meteorológia, időjárás, sporteredmények), ott nagyon megbízhatóan dolgoznak az algoritmusok. Gyakran teszünk állításokat úgy, hogy nem tisztázzuk, a piramis melyik szintjén járunk.
2:13:55 Petrányi Dóra: Nagy kihívás az emberközpontú szabályozás kiegészítése algoritmusközpontúval. Az emberi kontroll kihagyhatatlan, és minden szabályozási törekvés felelősség-és kockázatközpontú. A magas kockázathoz új szabályozási megoldások tartoznak. A szabályozás 3-5 év lemaradásban van a technológiához képest. A döntéshozók felelőssége, hogyan alkalmazzák a meglévő szabályozást az új helyzetekre (például a diszkriminációs rendelkezések átvihetőek.). A szabályozási bizonytalanság befektetői bizonytalanságot szül.
2:17:40 Levendovszki János: Az adathoz értéket is kell rendelni, és kvantifikálni kell. Ingyenesnek tűnik valami, de mi adatlábnyomunkkal fizetünk.
2:20:23 Petrányi Dóra: Az egyén-alapú megközelítés, a fundamentális személyi jogok védelme mindenütt középpontban van. Az egyéni adatvagyon (egyének által kontrollált adattömeg) érdekes irány, akár hungarikumnak is tekinthetjük. Ám ezzel a meghatározással élni és visszaélni is lehet, és a túlszabályozástól is óvakodni kell. A hozzáférés transzparens biztosítása a kulcs.
2:22: 18 Z. Karvalics László: Az adatvagyon esetében a hasznosulás, a hozzáadott értékek teremtése a kulcs. S ha oldalra lépünk, látjuk, hogy nagy a szakadék aközött, amit normatívan elvárunk és megteremteni kívánunk, meg ami a valóságban van. Hiába áll(ná)nak rendelkezésre adatok, lehetne a döntéshozatal bizonyíték-alapú, ha a döntési kultúra alacsony szintű.
2:25:07 Levendovszki János: Nagyon izgalmas kérdés, hogy a hasznosuláshoz való hozzájárulás mértéke hogyan számszerűsíthető és osztható szét a közreműködő szereplők között. Olyan üzleti modellek kellenek, amelyek komplex termékek létrejöttét segítik elő.
2:29:00 Danka Miklós: még nem tartunk sehol az adatvezérelt döntéshozatalban. A freestyle chess legizgalmasabb tanulsága az volt, hogy közepes sakkozók közepes gépekkel megverték a nagymestereket és a szuperszámítógépeket – mert a legjobb módon ötvözték a humán és a gépi elem legjobb képességeit.
2:32:45 Ropolyi László: Technikafilozófiai szempontból elfogadott (részben banális) alapállítás, hogy az emberi szándék realizálódik a technikai közegben. Mindig azonosíthatók a emberi érdekek és szempontok. A döntés delegált emberi szándék.
2:35:20 Levendovszki János: a kimeneti értéket mi interpretáljuk és a felelősséget is mi vállaljuk.
2: 39:20 Az MI-hez inkább alapvető attributumokat érdemes rendelni, nem a definíciós kérdések a legfontosabbak. (Ezt teszi az UNESCO ajánlása is.) Ezek közül az adaptáció képessége talán a legizgalmasabb.
2:40:50 Z. Karvalics László A definícióhoz érdemes visszakanyarodni úgy, ha megnézzük, hogy az emberi intelligencia „ciklusmodelljének” melyik aktuális szakaszát támogatjuk meg gépi elemmel. A szenzor például ezért nagyon fontos. Korábban: az adat az emberi elme terméke volt, ma már gépi elem is termeli a jeleket, amelyeket adatokra fordítunk. Értelmét azonnal belátjuk az alkalmazásoknál: például: a sebvarasodás mértékét figyelő szenzor miatt sokkal kevesebbszer kell sebet átkötni.
2: 45:00 Nem helyettesíteni kell az emberi elmét, hanem augmentálni, „feljavítani”. A kulcskérdés pedig így hangzik: most épp milyen technológiára van nagy szükség valamilyen kritikus képesség feljavításához? Ne feledjük: az életidő sikeres kiváltása azonnal másféle, nagyobb értékhozzáadású életidőt igényel a rendszerben. Például a kulturális örökség digitalizálása csak segédmunka – forráskritikához, metaadatoláshoz hatalmas mennyiségű emberi agy és életidő kell. Bármilyen lokális adatgazda és adattömeg felől egy globális adattérbe lépünk be, ezek közös jószággá válnak.
2:50:05 Levendovszki János: Az intelligenciaformák közti distinkciók elmosódnak. Ki kell tudni lépni a bevett kategóriáinkból.
2:52:00 Danka Miklós: Két példa. Brainport: nyelv-interfészen keresztül látásélmény
Egy övben 16 motor közül mindig az rezeg, amely Észak felé mutat. A felhasználó hozzászokik, és állandóan tud Északról, mint egy új érzékszerv.
2:59:00 Ropolyi László: a gép-készítette műalkotás-kérdés a korlátokra és lehetőségekre egyaránt rámutat. Csinálni lehet műalkotást géppel, de értelmezni? Gondolni, értelmet tulajdonítani nem tud a mesterséges intelligencia. Ez nem váltható ki algoritmussal. Az értelemadáshoz minden emberi tapasztalatot mozgósítani kell.
3:01:12 Miközben gépi zenéről meg robotfestőről beszélünk, valójában a gépi elem másutt nélkülözhetetlen: animációs filmekben és játékfilmekben hatalmas számítógépes kapacitás és sok-sok ember együttes tevékenysége valósul meg.
3:04:00 Érdi-Krausz Gábor: az ember és technológia evolúciója párhuzamos.
3:05:45 Levendovszki János: Az MI a tudományba is nagy erővel folyik be, új tudományos eredményhez segítenek hozzá. Vannak olyan területek, ahol csak gépi segítséggel lehet következtetést megfogalmazni.
3:07:25 Danka Miklós: nemzeti szinten gondolkodni a legtöbb esetben hátrány. Hol lehet lokális előnyre szert tenni? Hungarikumot hol keressünk? Pl. a magyar nyelv(technológia), a nagy hagyományú matematikai iskolára „ráerősítés”.
Levendovszki János: Vegyük figyelembe az erős koncentrációt is: az MI-szabadalmak száma nő, a szabadalmaztatók száma csökken. 5G, gyógyszeripar körüli MI-ben vannak kitörési pontjaink.
3:13:55 Ropolyi László: hungarikum lehet az alkalmazásban is, nemcsak az előállítás számít. A kultúra adaptivitása is nagyon fontos lesz. Van adaptív és van ellenálló kultúra is. Volna bőven tennivaló Magyarországon. (akár az MI befogadása szempontjából is). A közoktatás színvonalának emelése kiinduló feltétel. És itt a társadalom-és humán tudományoknak van nagy jelentősége.
© 2017-2023, Minden jog fenntartva
