AI: rosszul elsülő tudománykommunikáció, mint lehetséges globális fenyegetés

moralis-dontesekKorábban mér érintettük a témát, amit nevezhetnénk akár az év slágerének is az AI-kutatás területén, nevezetesen, hogy hogyan hogyan kellene etikusan viselkedniük a gépeknek kritikus helyzetekben, amiről mindenkinek az olyan esemény jut eszébe, mint amikor az önvezető autónak egy elkerülhetetlen ütközéskor két tragikus kimenetelű alternatíva közt kell választania.

Javasoltuk is, hogy érdemes játszani az MIT Moral Machine-nel ami, mondjuk úgy, kellemetlenebbnél kellemetlenebb dilemmákat dob a felhasználó elé. Mit tenne ha… sok-sok scenarioval. Nem lehet azt mondani, hogy például egy játékelméleti megközelítésű döntés vagy éppen egy társadalmi konszenzust tükröző döntés jobb olyan esetben, amikor dönteni kell arról, hogy az önvezető jármű helyében a járdán lévő gyalogost csapnánk el megmentve az utast vagy éppen inkább mentsük meg az utast, amibe aztán egy frontális ütközésnél a vele szembe jövő kocsi utasa is belehal például. Az abszolút klasszikus pedig, hogy melyiket kevésbé elhibázott döntés elcsapni? A nagyit vagy a kisgyereket?

A cikk nem ma jelent meg ugyan, de hosszú időn keresztül ott volt a headline-ban a MIT Tech Review oldalán, ízekre szedve azt az igen komoly Nature-cikket, amiben kellően nagy mintán a kutatók alaposan kielemezték, hogy különböző döntési szituációkban általában hogyan döntenének az emberek a legkülönbözőbb szempontok szerint, mint amilyen az életkor, a kulturális hovatartozás, az iskolázottság és még sok-sok információ, amiről manapság nem píszí írni, viszont szerencsére ez a hatás a tudomány legmagasabb szintű fórumait még nem érte el.
Szinte mindenben találtak összefüggést, például az hogy az individualista és kollektivista kultúrákból érkező válaszadók máshogy fognak dönteni, előre is sejthető volt, a cikkből kiderült, hogy bizony több előítéletünk sok esetben alkalmazható annak becslésére, hogy egy-egy kritikus helyzetben milyen döntést hozna nagyobb valószínűséggel egy amerikai és egy japán.
Ha valakinek van Nature-előfizetése vagy néhány dollárja a cikk eredetijét innen töltheti le, alternatívaként ezen a linken, a tudomány torrentjének is nevezett Sci-Hubon keresztül.

Persze még egy Nature-cikket is lehet kritizálni, nem feladatunk állást foglalni például azzal kapcsolatban, hogy bizonyos következtetéseket mennyire befolyásoltak a kutatók előzetes feltételezései, kulturális háttere és így tovább, van itt valami, ami még inkább elgondolkoztató.

Elfogadhatjuk alaptézisként, hogy szinte mindig jobb, ha van információ, ebből formálható, kutatást előlendítő tudás, mint ha nincs. Azaz a tudomány nem lehet válogatós – pontosabban nem szabadna annak lennie – olyan szempontból, hogy valamivel kapcsolatban végez kutatást, amit majd közöl, megint mással kapcsolatban pedig polkorrektség okán nem. Mellékszálként itt megjegyezzük, a társadalomtudományok terén a legmagasabb szinteken sem ritkák a határt alig ismerő szakmai viták, nemrég például amerikai filozófusok borítékolt kulát küldtek egymásnak postán.

Ami felmerülhet a MIT Moral Machine-nel kapcsolatos információk nyilvánosságra kerülésével kapcsolatban amellett, hogy nyilván lesz még hasonló témájú cikk bőven, hogy a tudományos publikációk, ahogyan az lenni szokott szépen lecsorognak a magyarázó szakmai oldalakon át a mainstreamen át a news outletekig, majd a bulvárig, ilyen módon természetesen áttételes hatást fejtenek ki a emberek tömegeinek gondolkodására.

Ezen sorok írója konkrétan megkapta már párszor a kérdést, hogy akkor most ténylegesen melyik a legelborultabb kísérlet a magatartástudományokban és rokon területein, amit valaha elvégeztek. Nos, komolyan nem tudjuk, amik nyilvánosságra kerültek, azok közül is vannak eléggé erősek, a legelborultabbak pedig nyilván nem akadémiai kutatások voltak, aztán a benne részt vevő katonák vagy túlélték vagy sem.

Abból az alaptézisből indultunk ki, hogy ritka kivétellel mindig jobb, ha információnk van valamiről, mint ha nincs, a mesterséges intelligencia és annak morális- valamint egyéb társadalmi vonatkozásaival kapcsolatban is így van, ilyen irányú kutatásokra szükség van. Viszont még a fenti kutatás eredményei is olyanok, hogy ha azok eljutnak a nagyközönséghez, természetesen lebutított formában, a tartalomfogyasztók ugyancsak kultúrától, iskolázottságtól, helyi normáktól függően teljesen máshogy értelmezhetik azt. Képzeljünk el egy olyan, adott kultúrában átlagosként tipizálható, átlagos műveltséggel és kritikai gondolkodással rendelkező tartalomfogyasztót, aki rendszeresen találkozik a legkülönbözőbb hírekkel. Ha egy ilyen kutatás kivonatában azt olvassa, hogy abba a kultúrába tartozók, aminek ő is része, teljesen máshogy döntene, mint mondjuk a pirézek, azt megjegyzi és úgy-amennyire tényszerű információként, ami tehát nagyon fontos, hogy nem kapcsol hozzá semmilyen értékítéletet! Abban az esetben viszont, ha például a pirézek olvassák a cikk kivonatát vagy úgy egyáltalán bárki, akinek az olvasási kultúrája, kritikai gondolkodással kapcsolatos mindsetje jelentősen eltérő, amit olvasnak, ahhoz szükségszerűen valamilyen értékítéletet fognak kapcsolni. Egyszerűbben fogalmazva a tudománykommunikáció bármennyire is elővigyázatos, ismét megtörténhet, ami megtörtént már a legtöbbet kritizált szociálpszichológiai kísérletek fénykorában bő fél évszázaddal ezelőtt, a nyilvánosságra került kutatások minden bizonnyal befolyásolták az emberek egymásról alkotott képét. Megjegyzendő, a kutatásetikailag minimum megkérdőjelezhető kísérletek közt is kiúgró az elborult magatartástudományi kísérletek aránya, ami attól, hogy etikailag támadható, összességében nagyon sokat adott a világnak, erről egy parádés lista itt található.

Amennyiben különböző kultúrák tagjai rendszeresen találkoznak olyan információkkal az AI-etika kísérleteknek köszönhetően, amit nem a helyén kezelnek, ráadásul ezzel párhuzamosan jönnek az önvezető kocsik, önvezető tömegközelekedési eszközök és úgy egyáltalán az AI egyre több kritikus területen, ahol nyilván előfordulnak majd balesetek, akkor nem zárható ki, hogy sosem látott szakadás, ellentét alakul ki közösség és közösség szerte a világon, ami olyan mértékig eszkalálódhat, amilyenre még sosem volt példa, ennek megfelelően nincs is rá krízisforgatókönyv. Ne feltétlenül olyan ellentétre gondoljunk, mint amikor a Ku-Klux-Klán tagjai és a feketék ölték egymást, a csendben kialakuló, majd fennmaradó ellentétek is lehetnek hasonló pusztítóak vagy durvábbak. Jól jegyezzük meg: a civilizáció történetében megjelent egy rakás ideológia és annak ellen-ideológiája, ami viszonylag könnyen vizsgálható volt a kutatás számára, ennek megfelelően mindenféle izmusok’ ellen valamilyen eszközzel fel lehetett lépni civil és politikai téren egyaránt, aztán megfékezni azokat. Csakhogy az információáramlásnak nem csak a sebessége, a jellege is olyan módon változott meg, hogy a veszélyes szerveződések időben történő azonosítása és a megfelelő ellenlépések megtétele is merőben eltérő módszereket és koncepciókat igényel a kutatók, a döntéshozók és minden érintett részéről. Abban pedig csak reménykedni lehet, hogy a kutatók és azok, akiknek legalább nagyjából szakmai alapokon kellene szakpolitikai döntéseket hozniuk, eléggé felkészültek lesznek. Ebben viszont ne legyünk olyan biztosak, egy olyan világban, ahol a bolygó túloldaláról képesek befolyásolni egy másik állam népszavazásának kimenetelét, lényegében a közösségi weben alkalmazott pszichológiai hadviselés módszereivel.

kulturalis-kulonbsegek

Blogunkon már nem először jósoltunk armageddont, ahol rendszerint a legrosszabb forgatókönyvekkel játszottunk el, ami a technikai vívmányok civilizációra gyakorolt hatását vizsgálja. Vegyük észre, hogy nem csak az egyénnek kell megbarátkoznia a gondolattal, hogy teljesen más módon kell majd élnie az életét egy olyan korban, amikor a magánszféra, mint social norm, teljesen átértelmeződik, hanem közösségbe tartozó ember tagjaként is. Még a legelővigyázatosabb tudománykommunikáció is áttételesen, előítéletek alakításán keresztül eredményezhet olyan labilitást globális szinten, ami a terrorizmusnak, bizonyos autokratikusan működő államoknak kedvez, amik aztán ezt ki is használják, míg a legegyszerűbb eset, hogy kultúrák közti az egyetértés hiánya és a fokozódó értékrendbeli eltérés konfliktusok előszobája lesz.

Szerző: bardóczi ákos

ORCID, Google Scholar ID, ResearcherID, ResearchGate, MTMT.hu? Find me!