Mesterséges intelligenciáról – komolyan I.

mesterseges-intelligencia-etikaA mesterséges intelligencia alkalmazásának általánossá válásával kapcsolatban rendszerint felmerülnek azok a kérdések, amik valamilyen etikai oldalt próbálnak a ízekre szedni egy hipotetikus jelenséget. Ez persze helyes, viszont ha nem is éppen kocsmafilozófiai szintű bölcsességeket hordanak összes sokszor még a komolyabban vehető fórumokon is, ugyanazok a legrágott csontok kerülnek elő a témát tárgyalók tájékozottságának megfelelően.

A mindenki által ismert klasszikus, hogy a jövőben egy önvezető autó olyan típusú döntéshelyzetben, amikor arról kell döntenie, hogy egy szabálytalanul szembe jövő kocsinak ütközik, az ütközés következtében pedig minden utasa meghal, de alternatívaként választhatja azt is, hogy felkanyarodik a járdára és elüt ugyanannyi gyalogost, akkor mégis mi alapján kellene megtanítani a helyes döntési stratégiára?

Igen ám, csakhogy ez az elgondolás ezer sebből vérzik. A következő néhány gondolat nem teljesen saját, nemrég vehettünk részt egy olyan rendezvényen, ahol éppen hasonlók kerültek szóba, a téma elismert kutatói pedig éppen a hadtudomány és közlekedéstudomány területéről hoztak példákat azzal együtt, hogy sokszor miért rosszak.

Világos, hogy nincs tökéletes gondolatkísérlet, de a fent vázolt eset már-már túl sterilnek mondható, éppen ezért a kérdésfelvevés ebben a formában hihetetlenül laikus. Alapvetően nem tudjuk, hogy mit hoz a szingularitás, azaz ha csak az önvezető járműveket nézzük, annyi minden történhet még az általánossá válásukig, amiket nem tudunk a gondolatkísérletünkbe ágyazni, holott fontos lenne, hogy az is egy vélemény, ami szerint a kérdésfeltevés ma még szinte értelmetlen. Egy analógiával élve: olyan ez, mintha a középkorban tudták volna, hogy lesz egy olyan információs hálózat, amin keresztül szinte minden elérhető, többet nem nagyon, de már a közösségi web természetével kapcsolatban akartak volna jóslatokat megfogalmazni.

Az előzőhöz kapcsolódó tudománytörténeti érdekesség, hogy a vonatok és az első kocsik esetén is aggasztó kérdés volt, hogy az emberi testre nem hat esetleg kiszámíthatatlan módon a lovaskocsikétól nagyobb sebesség.

Egy bioetikával is mélyen foglalkozó filozófus szót ejtett arról, hogy az etikatörténet azért sokkal érdekesebb, mint amilyennek első hallásra tűnik, mert a lényeg azon van, hogy a közösség tudatában mikor mit jelentettek olyan fogalmak, mint az etika vagy a morál.

Hogyan kapcsolódik mindez ide?

Ismét csak a technológiai szingularitást húznánk elő: nem tudjuk, hogy maga az etika, annak felfogása hogyan értelmeződik át, ahogyan azt sem, hogy a szociálpszichológiai értelemben vett hallgatólagos társadalmi szerződések, konszenzusok, ezzel párhuzamosan pedig a social norm hogyan fog változni. Sejthetően annyira azért nem, hogy valaha is bocsánatos bűn legyen mondjuk embert ölni, ennél konkrétabbat nem nagyon lehet mondani biztosra még középtávon sem!

Egy mérnök informatikus végzettségű filozófus dobott egy nagyon pazar példát. Miért van az, hogy az AI-val kapcsolatban megfogalmazunk olyan félelmeket is, amik egyszerűen nem racionálisak, az viszont alig jut eszébe valakinek, hogy amikor valaki vesz egy Hummert vagy hasonló több tonnás kocsit, ezzel gyakorlatilag eldöntötte, hogy egy komolyabb baleset esetén más embereket fog megölni, jobb esetben csak megsebesíteni.

És tényleg! Ez belefér, az AI tévedése már nem? Lépten-nyomon előtűnik az, hogy az AI-val kapcsolatban sokkal szigorúbb, többször alapvetően irreális vagy irreálisan szigorú feltételeket támasztunk etikai szempontból, mint önmagunkkal kapcsolatban. Így tényleg indokolt lenne visszatérni néhány alapvetéshez.

De nem csak a polgári közlekedésből, a hadtudomány területéről is hozhatunk igencsak ütős témákat. Az USA döntéshozóit bő 10 éve nem keveset támadták amiatt, hogy háborús környezetben drónokat lehessen-e bevetni vagy sem. Egy pillanatra megtorpannánk: függetlenül attól, hogy valaki mennyire pacifista, el kell fogadni azt a tudományos tényt, hogy a hadműveletek semmi máshoz nem hasonlítható civilizációs szituációk, amikor a legelemibb ösztönöket és mindenféle magasabb szintű gondolkodási folyamatot félretéve a katona dolga az, hogy megölje az ellenséges katonát. Ahogy az is alapvetés, hogy a lakosságot viszont tilos támadni. Más kérdés, hogy a mai háborús szituációk sokszor nem járnak tényleges katonák halálával vagy csak nagyon kevesen sebesülnek meg.

A Pentagon más szervezetekkel együtt dolgozva a drónok alkalmazását olyan módon engedélyezte, hogy gyakorlatilag mindent csinálhatnak, amire csak képesek, viszont semmilyen körülmények közt nem ölhetnek. Ilyenkor a laikus pislog, néz ki a fejéből és nem érti, hogy ha egy drón például egy katonai támaszpontra vagy erőműre ráküldhet egy rakétát, ami aztán vagy jár katonák, esetleg civilek halálával vagy sem, akkor már nem mindegy, hogy szándékosan ölhet-e vagy sem? Nos, nem.

De nem is ez a lényeg. Hanem az, hogy miért döntött úgy egy, sok-sok, igencsak értelmes emberből álló testület, hogy a drónok ugyan bőven fel lehetnek szerelve emberi élet kioltására alkalmas eszközökkel, ölni pont nem ölhetnek, ellentétben a katonákkal.

Itt mutatkozik meg, hogy a tudásunk ezen a téren mennyire korlátozott. A katona attól katona, arra képezték, hogy háborús szituációban mérlegelés nélkül teljesítse a felettese utasítását, ugyanakkor paradox módon időnként dönthet, hogy lelő-e valakit vagy sem, míg a drónnak nincs meg ez a szabadsága? Ahogy szó szerint nagyon frappánsan elhangzott: “honnan tudjuk, hogy az ember jobban öl, mint az AI”, itt a jó alatt a hadtudományi értelemben vett szakszerűség értendő.

Ezen kívül több izgalmas, döntéselméletet és jogelméletet vastagon érintő kérdés is felmerült. Az Európa legnagyobb részében alkalmazott kontinentális jogrendszerek egyik lényege, hogy ha nem is mentesek a hézagoktól, talán annyi megállapítható, hogy az élet teljes területét lefedik. Akár a polgári jog – olyan, e sorok írójának legszebb területei, mint a szerzői jog – akár a sokszor példákban könnyebben érthető büntető-eljárásjog és büntetőjog. Inkább hagyjuk is, hogy mi is lényegében maga a jog, mert elmagyarázni alighanem bonyolultabb, mint egy polinéziai bennszülöttnek azt, hogy mik az internetes mémek.

Példákon keresztül persze mindenkinek van valami szemléletes képe róla, szorítkozva a kontentális jogrendszerek működésére, a többségnek pedig az életellenes bűncselekmények jutnak eszükbe, ha bonyolult kérdésekről van szó. Ott viszont egy-egy törvény alkalmazása annyira egyszerű lehet, hogy még egy laikus is megtippelheti, hogy egy-egy esetben melyik vádpont fog megállni a bíróságon.

Tételezzük fel, hogy két részeg összeverekedik a kocsmában, aminek eredményeként egyikük meghal. Míg egy másik esetben a cél kimondottan egy másik életének kioltása. Az első testi sértés, a második pedig emberölés, a kettő elkülönítésével pedig nincs könnyű dolga a vádhatóságnak sem.

A lényeg viszont, hogy már évtizedekkel ezelőtt terveztek olyan szakértői rendszereket, amik lényegében egy in real life szituációt értelmeztek, sok-sok bemenő adat alapján értékeltek, majd ha úgy tetszik, formális logikánál nem sokkal bonyolultabb módon „rápattintották” a megfelelő jogszabályt.

Nem meglepő módon a jogászok nem voltak oda az ötletért, holott a jog lényege az lenne, hogy egyféle esetet csak egyféleképp lehessen elbírálni, függetlenül attól, hogy azt kik végzik, akár egy közlekedési szabálysértésről, akár terrorcselekményről van szó. Nagyon gyorsan hozzátesszük, hogy nincs “egyszerűbb” és “bonyolultabb” eset olyan szempontból, hogy milyen törvény alapja képzi a vádat, de.

Abban nagy meglepetés nincs, hogy egy-egy, totál egyszerű jogesetet is a laikusok mind teljesen máshogy ítélnének meg. Ami már meredekebb, hogy a 7-10 évet tanult ügyvédek, és a 10-15 évig tanult bírák ugyancsak. Persze pimasz megfogalmazással ők szakszerűbben nem értenek egyet.

A jogrendszer szereplőinek döntéseinél is mindig kisebb-nagyobb mértékben jelentkezik egyfajta belső, törvény fölött álló meggyőződés, ami külön pontos terminust is kapott. Lényeg, hogy kimondatlanul, de például a nem jogi értelemben vett méltányosság is kihat a bíró vagy éppen a vádhatóság tagjainak döntéseire. Remek kérdés, hogy ez mennyire teszi összességében hatékonyabbá a teljes rendszert. Az biztos, hogy előre nem látható, nagyon súlyos következményei lennének annak, ha ezt a kimondottan emberi sajátosságot egyszerűen elhagynák egy robotbírók, robotügyészek és robotügyvédek módján működő szakértői rendszerből.

Visszaugorva a közlekedésbiztonság és az AI jövőbeli kapcsolatára. Az MIT Moral Machine-jében megtalálható olyan eset is, amikor dönteni kell, hogy ha egy hipotetikus esetben végképp nincs más választás, akkor a kocsi jobbra vegye a kanyart és egy idős ember üssön el, vagy balra vegye, amivel egy ötéves kisfiú életét oltja ki. Megengedhetjük-e magunknak azt a luxust, hogy a totálisan steril szituációt a való világba ültetjük gondolatban és hozzátesszük, hogy a kisfiú bizony egy véres kezű diktátorrá is cserepedhet?

Senki sem mondta, hogy a bioetika egyszerű műfaj lenne. Mert nagyon nem az. Olyannyira nem, hogy már magyar nyelven is olvashattunk róla cikket nemrég, amiben a szerző az taglalja, hogy az informatikushiány mellett a világra szakadhatna még egy filozófushiány is, amivel kezelhetőbbé válnak az ilyen problémák, dilemmák.

Jópofa időtöltés lehet a böngészőben embereket csapni el a legkülönbözőbb módon a MIT Moral Machine-nel, tudományos alapokon, arra azért minimum kíváncsiak lennénk, hogy a különböző kultúrákból számazó felhasználók tipikus döntési sémái hogyan különböznek egymástól.

A precíz tudományos kifejtést és szóhasználatot a könnyebb érthetőség kedvéért a szokásosnál némileg gyakrabban áldoztuk fel a cikkben.

Bezár a Google Plus – miután alaposan lecsapolták

google-plus-megszunik.jpgHa már a mostani az információbiztonság hónapja, jött a hír, hogy a Google bezárja közösségi webes szolgáltatását, ami igazából csak néhány napig volt sikeres: amikor bejelentették, hogy elindítják, a felhasználók pedig vetélkedtek, hogy kinél lesz korábban elérhető.

A Wall Street Journal egy névtelen forrásra hivatkozva írta meg, hogy 2015-től kezdődően 2018. márciusáig az API-n keresztül olyan információk voltak elérhetők a felhasználókkal kapcsolatban, amiknek az elérését kimondottan korlátozták. A Google nem cáfolta a hírt, hivatalos blogbejegyzésben részletezték, hogy a leak akár félmillió felhasználót is érinthetett, de ahogy az ilyenkor lenni szokott, gyorsan hozzátették, hogy nincs bizonyíték azzal kapcsolatban, hogy valaki ténylegesen csapolta is voltna az adatokat, ami minden ilyen esetben minimum életszerűtlen.

Itt megjegyezzük, hogy egy ujjal sem kellett az API-hoz nyúlni, enélkül is eszelős mennyiségű információt csorgatott ki a felhasználóiról a Google Plus, hacsak azok nem lőtték le a teljes szolgáltatást vagy nem baktattak végig a mezei júzernek szokatlanul bonyolult, ráadásul rendszeresen változó privacy checkupon – nem keverendő a security checkuppal annak beállításait ugyanis átlagos felkészültségű felhasználónak esélye sem volt egészében megérteni, csak egy kis részlet illusztrációként:

google-plus-privacy-1

google-plus-privacy-checkup.png

Egy nagyon egyszerű, konkrét példa: nagyon sokáig ha a Google Contacts szolgáltatásában egy üres bejegyzést hoztunk létre, amibe beírtunk egy mobilszámot vagy email címet, amikről esetleg nem tudtuk, hogy kié, a Google volt olyan kedves és megmutatta az érintett felhasználó Google Plus profilját, mint kényelmi funkció. Ha valaki nem figyelt rá, hogy kik láthatják vagy akár scrapelhetik le, hogy milyen tartalmaknál nyomott a +1-re, nyilván sokkal több információt árult el magáról ezzel, mint amennyit tudatosan megosztott volna a világgal. Ezek a kényelmi feature-ök, amik sokkal inkább voltak bugok, csak még átláthatatlanabbak és persze még inkább kihasználhatóak voltak azzal, hogy a Google a saját szolgáltatásaiban eredetileg külön-külön kezelt információkat elkezdte aggregáltan kezelni. A felvázolt alaptrükk lényege egyébként az AOL-ban, Yahoo-ban teljesen hasonlóan működött.

A hivatalos blogbejegyzés szokásosan diplomatikusra sikerült, annyi viszont egyértelműen kiderül, hogy komoly a baj, amit még akkor is fel lehet fújni, ha alig használ valaki Google Plus-t. A lényeg röviden, hogy a mezei Google-felhasználók számára a szolgáltatást kivezetik, míg a G Suite, azaz a Google vállalati verziójában meghagyják, még ha ilyen módon jórészt értelmetlen is marad az egész.

Nincs új a nap alatt, tényleg nincs. Egy közösségi szolgáltatásban hiába van piktogramként kis lakat, emberke, karikácska, földgömböcske, így vagy úgy, csak az az információ nem férhető hozzá, amit a felhasználó meg sem adott, ami átvezet egy eléggé aggasztó kérdéskörhöz. Több Google-szolgáltatás csak akkor használható, miután bizonyos adatokat, mint amilyen a születési dátumunk, megadjuk, ezen kívül egy androidos eszköz aztán mindent visz, amit lát az eszköz felhasználójával kapcsolatban. Lehet ugyan, hogy rákérdez, hogy a megadott adatok milyen körben legyenek elérhetőek, ahogy ez lenni szokott az antivirus termékek figyelmeztetéseinél is, a felhasználói magatartásban ősi reflex, hogy minél előbb eltüntesse a felugró figyelmeztető ablakot vagy notify-t, ami ellen ugye nincs védelem. Világos, hogy a születési dátum olyan adat, amire szükség lehet, ha valaki a hirdetési rendszert használná, vásárolna vagy korhatáros videókat nézne, ezek megadása indokolt. Viszont később a Plus kérte a felhasználót, hogy menjen végig a privacy checkupon, az eszes felhasználó pedig, hogy minél gyorsabban végezzen a folyamattal, mindennél jóváhagyta az alapértelmezett vagy ajánlott beállítást, így például azt, hogy a születési dátumot láthassa egy ésszerűtlenül széles kör, például aki felveszi a saját körébe, hasonlóan nem korlázozta a felhasználó azt sem, hogy valaki a mobilszáma alapján találjon rá, amit eredetileg korábban éppen biztonsági célból adott meg. A checkupot pedig a felhasználó alighanem 10 perccel később már el is felejtette.

Számtalan áthallást vehetünk észre a Facebook adatkezelési gyakorlatával kapcsolatban: egyik személyes kedvencként emelnénk ki, hogy nagyon sokáig az volt az alapértelmezett beállítás a Facebookon, hogy az email cím valamint a mobilszám pontos megadásával lehessen felhasználót megcímezni, üzenetet küldeni neki. Extra finomság, hogy ehhez nem kellett ténylegesen üzenetet küldeni, csak az új üzenet küldésekor valamelyik adatot be kellett dobni a címzett mezőbe és a rendszer kedvesen feldobta a hozzá tartozó felhasználót képpel és névvel. Mindezt a beállítások közt a “Who can look you up using the email address you provided?” és a “Who can look you up using the phone number you provided?” alapértelmezett Everyone beállítása tette lehetővé korábban. Megjegyzendő, ha valaki a mobilja címjegyzékével vagy más szolgáltatással szinkronizálta, mergelte a szolgáltatásban lévő kontaktjait, ott ugyancsak megjelenhetett a mit sem sejtő felhasználó, ráadásul már kiegészített adatokkal!

facebook-who-can-contact-you

Ami a Google Plus-t illeti, már eleve a beállítások, – amik tehát nem keverendők a Google Account beállításaival – olyan idétlenül el lettek rejtve, hogy azt megtalálni is kisebb bravúr a teljes checkupon pedig itt lehet végigbaktatni, miután valaki megtalálta a Plus oldalán a lehetőséget.

Többen gondolhatják úgy, hogy az egyetlen értelmes beállítás az összes közül a
“Send me occasional reminders about these settings” checkbox.

Az átlag felhasználó részéről a zsigeri reakció lehet ezt olvasva, hogy minél több információt irtson ki a Google szolgáltatásaiból, ami látszólag paradox módon, messze nem a legjobb ötlet több szempontból. A Google bizonyos szolgáltatásai megkerülhetetlenek, aki mondjuk levelezésre is használja, igencsak nagy mennyiségű információ koncentrálódik egy-egy fiókban, ha pedig a fiók hozzáférhetetlenné válik, a Google gépi account recoveryje sokkal kevesebb adat alapján lesz képes ismét hozzáférést adni egy olyan fiókhoz, aminek a jelszavát például megváltoztatta a támadó. Másrészt időszerű lenne már elfogadni azt a tényt, hogy bárki bármit is mond, csak az az adat nem kapcsolható egy felhasználóhoz, ha azt az adatot sosem adta meg konkrétan senkinek. Ennek az abszurditását nagyon jól példázza, hogy ha valakinek megadod a mobilszámod, nem mondhatod neki, hogy papírcetlin sziveskedjen tárolni, mert az androidos mobil küldi fel a ködbe’ a mobil telefonkönyvébe írt más adattal, például email címmel együtt. Azaz megmosolyogtató szélmalomharc, amikor valaki ráadásul utólag nekifut törölni a hozzá kapcsolódó adatokat egy szolgáltatásból, hogy aztán lehintse sóval, mivel ha csak néhány ismerőse van, aki felvette kontaktnak, a LinkedIN, XING, Facebook és a többi alapértelmezés szerint szinkronizálják a kontaktadatokat, ahogy az is alapértelmezés több helyen, hogy mindenki konktaktlistába kerül, akinek valaha is levelet küldtünk vagy más küldött nekünk.

Röviden: lehet használni butamobilt is, ha nem egy őserdőbeli kunyhóban lakik valaki, több-kevesebb adata úgyis ott lebeg a fellegek közt.

ínyenceknek ajánlott a MIT Press egyik sorozatában megjelent Metadata című könyv Jeffrey Pomerantztól, ami szintén megmagyarázza, hogy miért található meg akár valahol a neten egy képen több-kevesebb energiabefektetéssel még nyílt forrásból is olyan, aki egyébként soha nem csinál képeket, ha például valahova elutazik.

metadata-mit-press

Az új világ sokak számára egyszerűen érdektelen, megint mások komolyan úgy gondolják, hogy teljes egészében az ő kezükben van a kontroll a saját adataik fölött, valamint egy töredék rész tisztában van vele, hogy akár tetszik, akár nem, a hagyományos értelembe vett magánszféra teljesen átalakul, ugyan nem világos, hogy milyen módon, de az igen, hogy emiatt aggódni vagy küzdeni ellene értelmetlen vagy az információk megvédése irreális erőbefektetést, ésszerűtlen paranoid titkolózást követel meg.

Visszatérve az eredeti hírhez, nagyon sokszor még csak API-trükközést sem igényel, hogy kivájjon valaki valamit, az szolgáltatásplatform fejlesztőinek a felelőssége, hogy csökkentsék az észrevétlen adatszivárgást akár API-n keresztül, akár prosztóbb módszerekkel, ami nyilván azzal a kompromisszummal jár, hogy az alkalmazásfejlesztőknek sokkal kisebb lesz a mozgástere. És a jó öreg gazdasági oldal? Igen, igen: a túlságosan throttle-olt API-n értelemszerűen kevésbé vagy nehézkesebben lehet bármit is varázsolnia a fejlesztőnek, ilyen módon az API-t nyújtó szolgáltatás versenyhátrányba kerülhet konkurrenst szolgáltatásokhoz képest.

Ami a Google Plus-t illeti, maholnap béke poraira, csak egyetlen példa volt arra, hogy egy olyan szolgáltatás, amit gyakorlatilag nem is használnak, de jelentős felhasználói bázissal működött, mekkora kavart okozhat, egy Google-szolgáltatás ide vagy oda, eléggé megszokott, egy-egy óriásszolgáltatás kivezetése, ahogy arról korábban is írtunk már.

képek: boingboing