Mesterséges intelligenciáról – komolyan I.

mesterseges-intelligencia-etikaA mesterséges intelligencia alkalmazásának általánossá válásával kapcsolatban rendszerint felmerülnek azok a kérdések, amik valamilyen etikai oldalt próbálnak a ízekre szedni egy hipotetikus jelenséget. Ez persze helyes, viszont ha nem is éppen kocsmafilozófiai szintű bölcsességeket hordanak összes sokszor még a komolyabban vehető fórumokon is, ugyanazok a legrágott csontok kerülnek elő a témát tárgyalók tájékozottságának megfelelően.

A mindenki által ismert klasszikus, hogy a jövőben egy önvezető autó olyan típusú döntéshelyzetben, amikor arról kell döntenie, hogy egy szabálytalanul szembe jövő kocsinak ütközik, az ütközés következtében pedig minden utasa meghal, de alternatívaként választhatja azt is, hogy felkanyarodik a járdára és elüt ugyanannyi gyalogost, akkor mégis mi alapján kellene megtanítani a helyes döntési stratégiára?

Igen ám, csakhogy ez az elgondolás ezer sebből vérzik. A következő néhány gondolat nem teljesen saját, nemrég vehettünk részt egy olyan rendezvényen, ahol éppen hasonlók kerültek szóba, a téma elismert kutatói pedig éppen a hadtudomány és közlekedéstudomány területéről hoztak példákat azzal együtt, hogy sokszor miért rosszak.

Világos, hogy nincs tökéletes gondolatkísérlet, de a fent vázolt eset már-már túl sterilnek mondható, éppen ezért a kérdésfelvevés ebben a formában hihetetlenül laikus. Alapvetően nem tudjuk, hogy mit hoz a szingularitás, azaz ha csak az önvezető járműveket nézzük, annyi minden történhet még az általánossá válásukig, amiket nem tudunk a gondolatkísérletünkbe ágyazni, holott fontos lenne, hogy az is egy vélemény, ami szerint a kérdésfeltevés ma még szinte értelmetlen. Egy analógiával élve: olyan ez, mintha a középkorban tudták volna, hogy lesz egy olyan információs hálózat, amin keresztül szinte minden elérhető, többet nem nagyon, de már a közösségi web természetével kapcsolatban akartak volna jóslatokat megfogalmazni.

Az előzőhöz kapcsolódó tudománytörténeti érdekesség, hogy a vonatok és az első kocsik esetén is aggasztó kérdés volt, hogy az emberi testre nem hat esetleg kiszámíthatatlan módon a lovaskocsikétól nagyobb sebesség.

Egy bioetikával is mélyen foglalkozó filozófus szót ejtett arról, hogy az etikatörténet azért sokkal érdekesebb, mint amilyennek első hallásra tűnik, mert a lényeg azon van, hogy a közösség tudatában mikor mit jelentettek olyan fogalmak, mint az etika vagy a morál.

Hogyan kapcsolódik mindez ide?

Ismét csak a technológiai szingularitást húznánk elő: nem tudjuk, hogy maga az etika, annak felfogása hogyan értelmeződik át, ahogyan azt sem, hogy a szociálpszichológiai értelemben vett hallgatólagos társadalmi szerződések, konszenzusok, ezzel párhuzamosan pedig a social norm hogyan fog változni. Sejthetően annyira azért nem, hogy valaha is bocsánatos bűn legyen mondjuk embert ölni, ennél konkrétabbat nem nagyon lehet mondani biztosra még középtávon sem!

Egy mérnök informatikus végzettségű filozófus dobott egy nagyon pazar példát. Miért van az, hogy az AI-val kapcsolatban megfogalmazunk olyan félelmeket is, amik egyszerűen nem racionálisak, az viszont alig jut eszébe valakinek, hogy amikor valaki vesz egy Hummert vagy hasonló több tonnás kocsit, ezzel gyakorlatilag eldöntötte, hogy egy komolyabb baleset esetén más embereket fog megölni, jobb esetben csak megsebesíteni.

És tényleg! Ez belefér, az AI tévedése már nem? Lépten-nyomon előtűnik az, hogy az AI-val kapcsolatban sokkal szigorúbb, többször alapvetően irreális vagy irreálisan szigorú feltételeket támasztunk etikai szempontból, mint önmagunkkal kapcsolatban. Így tényleg indokolt lenne visszatérni néhány alapvetéshez.

De nem csak a polgári közlekedésből, a hadtudomány területéről is hozhatunk igencsak ütős témákat. Az USA döntéshozóit bő 10 éve nem keveset támadták amiatt, hogy háborús környezetben drónokat lehessen-e bevetni vagy sem. Egy pillanatra megtorpannánk: függetlenül attól, hogy valaki mennyire pacifista, el kell fogadni azt a tudományos tényt, hogy a hadműveletek semmi máshoz nem hasonlítható civilizációs szituációk, amikor a legelemibb ösztönöket és mindenféle magasabb szintű gondolkodási folyamatot félretéve a katona dolga az, hogy megölje az ellenséges katonát. Ahogy az is alapvetés, hogy a lakosságot viszont tilos támadni. Más kérdés, hogy a mai háborús szituációk sokszor nem járnak tényleges katonák halálával vagy csak nagyon kevesen sebesülnek meg.

A Pentagon más szervezetekkel együtt dolgozva a drónok alkalmazását olyan módon engedélyezte, hogy gyakorlatilag mindent csinálhatnak, amire csak képesek, viszont semmilyen körülmények közt nem ölhetnek. Ilyenkor a laikus pislog, néz ki a fejéből és nem érti, hogy ha egy drón például egy katonai támaszpontra vagy erőműre ráküldhet egy rakétát, ami aztán vagy jár katonák, esetleg civilek halálával vagy sem, akkor már nem mindegy, hogy szándékosan ölhet-e vagy sem? Nos, nem.

De nem is ez a lényeg. Hanem az, hogy miért döntött úgy egy, sok-sok, igencsak értelmes emberből álló testület, hogy a drónok ugyan bőven fel lehetnek szerelve emberi élet kioltására alkalmas eszközökkel, ölni pont nem ölhetnek, ellentétben a katonákkal.

Itt mutatkozik meg, hogy a tudásunk ezen a téren mennyire korlátozott. A katona attól katona, arra képezték, hogy háborús szituációban mérlegelés nélkül teljesítse a felettese utasítását, ugyanakkor paradox módon időnként dönthet, hogy lelő-e valakit vagy sem, míg a drónnak nincs meg ez a szabadsága? Ahogy szó szerint nagyon frappánsan elhangzott: “honnan tudjuk, hogy az ember jobban öl, mint az AI”, itt a jó alatt a hadtudományi értelemben vett szakszerűség értendő.

Ezen kívül több izgalmas, döntéselméletet és jogelméletet vastagon érintő kérdés is felmerült. Az Európa legnagyobb részében alkalmazott kontinentális jogrendszerek egyik lényege, hogy ha nem is mentesek a hézagoktól, talán annyi megállapítható, hogy az élet teljes területét lefedik. Akár a polgári jog – olyan, e sorok írójának legszebb területei, mint a szerzői jog – akár a sokszor példákban könnyebben érthető büntető-eljárásjog és büntetőjog. Inkább hagyjuk is, hogy mi is lényegében maga a jog, mert elmagyarázni alighanem bonyolultabb, mint egy polinéziai bennszülöttnek azt, hogy mik az internetes mémek.

Példákon keresztül persze mindenkinek van valami szemléletes képe róla, szorítkozva a kontentális jogrendszerek működésére, a többségnek pedig az életellenes bűncselekmények jutnak eszükbe, ha bonyolult kérdésekről van szó. Ott viszont egy-egy törvény alkalmazása annyira egyszerű lehet, hogy még egy laikus is megtippelheti, hogy egy-egy esetben melyik vádpont fog megállni a bíróságon.

Tételezzük fel, hogy két részeg összeverekedik a kocsmában, aminek eredményeként egyikük meghal. Míg egy másik esetben a cél kimondottan egy másik életének kioltása. Az első testi sértés, a második pedig emberölés, a kettő elkülönítésével pedig nincs könnyű dolga a vádhatóságnak sem.

A lényeg viszont, hogy már évtizedekkel ezelőtt terveztek olyan szakértői rendszereket, amik lényegében egy in real life szituációt értelmeztek, sok-sok bemenő adat alapján értékeltek, majd ha úgy tetszik, formális logikánál nem sokkal bonyolultabb módon „rápattintották” a megfelelő jogszabályt.

Nem meglepő módon a jogászok nem voltak oda az ötletért, holott a jog lényege az lenne, hogy egyféle esetet csak egyféleképp lehessen elbírálni, függetlenül attól, hogy azt kik végzik, akár egy közlekedési szabálysértésről, akár terrorcselekményről van szó. Nagyon gyorsan hozzátesszük, hogy nincs “egyszerűbb” és “bonyolultabb” eset olyan szempontból, hogy milyen törvény alapja képzi a vádat, de.

Abban nagy meglepetés nincs, hogy egy-egy, totál egyszerű jogesetet is a laikusok mind teljesen máshogy ítélnének meg. Ami már meredekebb, hogy a 7-10 évet tanult ügyvédek, és a 10-15 évig tanult bírák ugyancsak. Persze pimasz megfogalmazással ők szakszerűbben nem értenek egyet.

A jogrendszer szereplőinek döntéseinél is mindig kisebb-nagyobb mértékben jelentkezik egyfajta belső, törvény fölött álló meggyőződés, ami külön pontos terminust is kapott. Lényeg, hogy kimondatlanul, de például a nem jogi értelemben vett méltányosság is kihat a bíró vagy éppen a vádhatóság tagjainak döntéseire. Remek kérdés, hogy ez mennyire teszi összességében hatékonyabbá a teljes rendszert. Az biztos, hogy előre nem látható, nagyon súlyos következményei lennének annak, ha ezt a kimondottan emberi sajátosságot egyszerűen elhagynák egy robotbírók, robotügyészek és robotügyvédek módján működő szakértői rendszerből.

Visszaugorva a közlekedésbiztonság és az AI jövőbeli kapcsolatára. Az MIT Moral Machine-jében megtalálható olyan eset is, amikor dönteni kell, hogy ha egy hipotetikus esetben végképp nincs más választás, akkor a kocsi jobbra vegye a kanyart és egy idős ember üssön el, vagy balra vegye, amivel egy ötéves kisfiú életét oltja ki. Megengedhetjük-e magunknak azt a luxust, hogy a totálisan steril szituációt a való világba ültetjük gondolatban és hozzátesszük, hogy a kisfiú bizony egy véres kezű diktátorrá is cserepedhet?

Senki sem mondta, hogy a bioetika egyszerű műfaj lenne. Mert nagyon nem az. Olyannyira nem, hogy már magyar nyelven is olvashattunk róla cikket nemrég, amiben a szerző az taglalja, hogy az informatikushiány mellett a világra szakadhatna még egy filozófushiány is, amivel kezelhetőbbé válnak az ilyen problémák, dilemmák.

Jópofa időtöltés lehet a böngészőben embereket csapni el a legkülönbözőbb módon a MIT Moral Machine-nel, tudományos alapokon, arra azért minimum kíváncsiak lennénk, hogy a különböző kultúrákból számazó felhasználók tipikus döntési sémái hogyan különböznek egymástól.

A precíz tudományos kifejtést és szóhasználatot a könnyebb érthetőség kedvéért a szokásosnál némileg gyakrabban áldoztuk fel a cikkben.

Céges bölcsészmérnökök a döntéselőkészítésben

csoportmunkaTalk is cheap, show me the code.” Az idézet állítólag Linus Torvaldstól származik, és nagyon lazán úgy fordítható, hogy “pofázni mindenki tud, de tenni már kevesen”.

Nemrég egy céges meetingen hallhattuk, hogy miket tekintsen egy együttdolgozó közösség tudatosan vezérelveknek, ami a meglévő értékeinkkel is harmonizálnak. Ördögien nagy titok nem fog kiderülni, de nem baj, ha írunk róla néhány gondolatot.

Kérdőjelezz meg mindent!

Az egyik fontos vezérelv, hogy ne féljünk tőle, ha valamit meg kell kérdőjelezni, egy másik pedig, hogy a tervezés fontos, de önmagában kevésbé jelent értéket, mint maga a megvalósítás. Harmadikként foglalkozzunk “az ötlet nem éregy fillért sem” kijelentéssel. Ezeknek a vezérelveknek a boncolgatásával már a szervezetpszichológusok, filozófusok, HR-esek, antropológusok alighanem megtöltöttek pár könyvtárat, természetesen csak egy szeletét fogjuk kiemelni, hogy miért némileg ellentmondásos a fenti két vezérelv.

Lássuk az elsőt, a “kérdőjelezz meg mindent!” -elvet. Természetesen vállalata váltogatja, hogy a munkatársaknak tényleg meg kell-e kérdőjelezniük mindent, vagy inkább tartsák be a szabályokat – bár még ez utóbbi esetben is fontos lehet a szabályok ésszerű felrúgása (lásd később). Egy vasúti váltó kezelőjének, vagy pláne egy nukleáris ballisztikus rakéta “idomárjának” esetében nem tűnik kifejezetten jó ötletnek, hogy a menetrend szerint elrendelt teendőket következetesen kérdőjelezze meg, esetleg álljon le vitatkozni a feletteseivel, hogy ez így vagy úgy lenne helyes. Mert addigra kisiklik a vonat.

De mégis, az őrült tekintélytisztelet még ilyen munkahelyeken is vezethet katasztrófához. Emlékezetes azon koreai személyszállító repülőgép katasztrófája, ami hegynek csapódott, mert a másodpilóta a koreai társadalomban és nyelvben kialakult őrült tekintélytisztelet miatt nem tudta megmondani a pilótának, hogy véletlenül egy hegyoldalnak irányította a gépet a leszállópálya helyett. Az eset érdekessége, hogy mondta szegény, mondta, de a pilóta egy másik tekintélyi szinten lévén nem hallotta meg a figyelmeztetést. Kikapcsolt az agya.

Az eset tanulsága, hogy az idióta tekintélytisztelet mindig ártalmas. A koreai repülőgép katasztrófája után váltott át a nemzetközi légiközlekedés az angol nyelvre a kollégák közötti kommunikációban is. (A kukacoskodók kedvéért leírjuk, hogy valójában ez egy pszeudoangol, mely csak egyértelmű, egyféleképpen értelmezhető szavakat tartalmaz.) Magyar személyzet nem szólhat magyarul magyarhoz a légiközlekedésben, többek között azért, mert ebben a nyelvben nincsenek rangok, és persze, magázódás sincs.

A “kérdőjelezz meg mindent” elv viszont teljesen nélkülözhetetlen a startupok világában. Egy olyan vállalkozás esetében, melynek célja, lételeme a világ átformálása, semmi sem mehet úgy, ahogy, csak azért mert már korábban is így csináltuk.

A terv nem jó semmire?

A következő vezérelv a tervezés fontosságáról, és a kész tervek félrehajításáról szól. Az alábbi mondást Eisenhowernek tulajdonítják, és így szól: “planning is priceless, but plans are useless“.

Mit jelent ez a mai vállalati gyakorlatban?

Abból érdemes kiindulnunk, hogy az egyéni piaci szereplők viselkedését, például vásárlási hajlandóságát senki nem tudja még megsaccolni sem. Érdekes módon még azok sem, akik végül vevői/nem-vevői lesznek egy árucikknek. Én sem, Ön sem, senki sem tudja megsaccolni a saját viselkedését valós vásárlási helyzetben. Hiába mond bármit egy képzeletbeli teszthelyzetben, ennek az égvilágon semmi kapcsolata nem lesz az éles helyzetben mutatott viselkedésével.

Tehát mégegyszer: tök mindegy, ki mit mond arról, mit vásárolna meg, ennek a válasznak az égvilágon semmi köze nem lesz a tényleges vásárláshoz vagy elutasításhoz. Ezért nem fogad el mást a startup ökonómia a termék validálásakor, mint a konkrét vásárlást. Ha az nincs, mindegy, ki mit mond, valamit változtatni kell.

Ez egy igen érdekes ismeretelméleti probléma egyébként, de most maradjunk abban, hogy “noone knows a fucking shit”.

Ebből következően minden piachódítási terv nem más, mint egy a vásárlói reakciókat felmérni képtelen elme próbálkozása a valós viselkedési minták előrejelzésére. Mondhatjuk, hogy eleve kudarcra van ítélve az ilyen próbálkozás, de mégsem, mert a (reménytelen) tervezés folyamán a tervezést végző személy vagy csapat lefuttat gondolatban egy csomó élethelyzetet, amik a tervezés nélkül eszükbe sem jutottak volna. Az más kérdés, hogy az ezekhez rendelt sikerességi faktor nem sokkal jobb a nettó hasraütésnél.

Így hát minden új termék bevezetése a piacra nem más, mint nice guess, melyet az élet első pofonja úgy vág tarkón, hogy csak úgy nyekken. Aki nem emlékszik a New Coke tragikus sorsú, és a Coca Colát majdnem csődbe rántó bevezetésére, az nézzen ennek utána. Klasszikus példája a tudományos tervezésnek és kísérletezésnek, melynek eredménye kicsit sem korrelált a tervezettel.

A tervezés ugyan szükséges lépése az új termékek bevezetésének, de a terv csak arra való, hogy legyen fogódzónk, mi fog félremenni, és milyen hamar.

Na de jöjjenek a bölcsészek!

A web giantek főállásban foglalkoztatnak olyan kétlábon járó think tankeket, akik csak nagyon áttételesen vesznek részt a döntések előkészítésében, sőt állítólag alkalmaznak főállásban filozófusokat is. Igen, jól olvastad, tech cégek, főállásban filozófusokat, akik esetleg azzal sem foglalkoznak, hogy a tevékenységük hogyan igazítható a meglévő üzleti folyamatokhoz.

Hanem akkor mi a túrót csinálnak?

Az ötlet nem ér egy fillért sem?

Harmadik mondásunk: az ötlet nem ér egy fillért sem. Ez így eléggé vadul hangzik, leginkább a “Talk is cheap, show me the code.” vezérelv világíthat rá, mit is értünk ezalatt.

A startupos világban bármiylen tevékenység eredményességét a következő egyszerű képlet alapján számolják:

ötlet x megvalósítás = eredmény

Könnyen belátható, hogy ha egy szorzás bármelyik tagja nulla, az eredmény nulla, ám legyen bármelyik tagn akár nagyon pici, ha a másik hatalmas, az eredmény még lehet hatalmas. Egy tízpontos ötlet nulla megvalósítása nulla értéket képvisel. Egy félpontos ötlet 500-as kivitelezéssel 250 pontot ér. Egy 1000 pontos, tuti, világmegváltó ötlet 0,01-es kivitelezéssel – nem ér szinte semmit.

Konklúzió: az ötleteket nem dobálni kell, hanem megvalósítani.

Sok olyan ötletünk keletkezik, aminek a megvalósítása alighanem igencsak hasznos lenne, és igazából nem kerülne semmibe, vagy tényleg minimális költséggel járna, mégsem valósítjuk meg, idő vagy megfelelő szintű hozzáértés hiányában. Ha egy csoport tagjaként gondolkozunk, nem meglepő módon teljesen más gondolataink támadnak, mintha a közösség tagjai külön-külön vagy éppenséggel kisebb klikkekbe csapódva gondolkoznának. Az elmúlt pár hónapban billentyűzetre is vetettünk jónéhány gondolatot, ami talán apróságnak tűnik, esetleg nem tűnik hatékonynak, amíg ki nem próbáljuk, aztán ezek egy részét megvalósítottuk, egy része viszont megmaradt ötlet szintjén, amit természetesen meg tudunk valósítani a jövőben.

A Talk is cheap, show me the code-elv alapján hallgatólagos elvárás lehet, hogy csak olyat dobjunk be egy tech cégnél, amit meg is tudnánk valósítani mi magunk, akár egyedül. Ezt pedig aztán bőven meg lehet kérdőjelezni. Volt olyan, üzleti szempontból tényleg kritikus feladat, amit nagyon gyorsan meg kellett oldani, amihez egyvalaki adta az ötletet, de ugyanő implementálni már nem tudta volna. A professzionális fejlesztők viszont seperc alatt megvalósították, még ha volt is utána rajta mit csiszolni.

Nagyon gyorsan hozzátesszük, nem biztos, hogy ugyanaz az ötlet ugyanúgy másnak biztosan nem jutott volna eszébe; néhány részletet pedig kimondottan közösen csiszoltunk össze és tökéletesítettünk. Ez a példa eléggé világosan mutatja, hogy az ötlet messze nem volt értéktelen és messze nem volt fölösleges kifejteni olyan terjedelemben, amit esetleg van, aki túl terjengősnek találna.

Mivel nagyon sok eset képzelhető el, amikor valamit vagy elmagyarázunk, levelezünk normálisan vagy inkább sehogy sem érdemes. (Ezen sorok írója tudja magáról, hogy néha azért tűnik az írásképe túl terjengősnek, mert túl hosszú mondatokat használ, amik nehezíthetik a megértést.)  Tehát valaki valamit  részletekbe menően kiötletelt, majd másvalaki megvalósította, amit az ötlet kiagyalója csak ésszerűtlenül sok idő alatt tudtott volna megvalósítani, de neki nem is ez a felada.

Jól példázza, hogy semelyik ötlet messze nem értéktelen ahhoz, hogy bedobjuk egy közösségbe, hátha kijön belőle valami még jobb. Még akkor sem, ha egyébként mi magunk biztosan nem tudnánk megvalósítani. Mi több, ha mi magunk fogunk hozzá valami megvalósításának annak tudatában, hogy azt más hatékonyabban vagy jobban meg tudná valósítani, ideális esetben nem okozunk kárt és nem vesztünk túl sok időt.

Nem szorul magyarázatra, hogy mindez nem azt jelenti, hogy floodoljuk a környezetünket világmegváltónak hitt gondolatokkal, másrészt rendkívül fontos, hogy senki se szeressen bele a saját ötletébe csak azért, mert az övé. Hogy hogyan tálaljuk az ötleteinket, amiből mindig sokkal több olyan van, amit egyedül nem tudunk megvalósítani? Komolyan nem tudjuk. Nyilván helyes kommunikációs gyakorlat kell hozzá, amit ugyan a kultúránk messze túlértékel manapság, viszont valóban a képlet elhagyhatatlan paramétere, ha azt szeretnénk, hogy az ötleteinkből legyen is valami.

Az ötlet-megvalósítás kérdéskörhöz kapcsolódóan egy emlékezetes webtörténeti momentumot emelnénk ki. A Facebookkal kapcsolatban többször is felmerült, hogy a Facebook kiagyalói valójában az ötletet mástól lopták. Tehát az érdem nem is az övék kellene, hogy legyen. Ugyan több, mint valószínű, hogy valóban volt ilyen ötlet, viszont a Facebookot úgy, abban a formában, ahogyan elkezdett működni, majd ahogyan változott, egyértelműen Mark Zuckerberg és csapata valósította meg. Annak pedig gyakorlatilag nulla a valószínűsége, hogy az állítólagos ötletgazda, ha a saját csapatával más néven megvalósítja, ugyanazt valósítja meg, ami ugyanúgy felfut, ugyanazokat a technológiai és üzleti döntéseket hozzák meg és így tovább.

Függetlenül attól, hogy a FB jó vagy rossz, nem lehet azt mondani róla, hogy az ötlet lopott. Hasonlóan, ha például valaki kitalálja, hogy készít egy műholdat, ami tud valamit, amit más műholdak nem, de nem valósítja meg, más pedig megvalósítja a műholdat úgy, hogy abba több ezer, korábban sosem használt technológiát sorakoztatnak fel, nem lehet azt mondani, hogy az ötlet lopott, mivel gondolatkísérletünkben rendkívül valószínűtlen, hogy aki a műholdat azzal az egy újítással kiagyalta, a többi újdonságot is ugyanúgy beleépítette volna.