Mesterséges intelligenciáról – komolyan I.

mesterseges-intelligencia-etikaA mesterséges intelligencia alkalmazásának általánossá válásával kapcsolatban rendszerint felmerülnek azok a kérdések, amik valamilyen etikai oldalt próbálnak a ízekre szedni egy hipotetikus jelenséget. Ez persze helyes, viszont ha nem is éppen kocsmafilozófiai szintű bölcsességeket hordanak összes sokszor még a komolyabban vehető fórumokon is, ugyanazok a legrágott csontok kerülnek elő a témát tárgyalók tájékozottságának megfelelően.

A mindenki által ismert klasszikus, hogy a jövőben egy önvezető autó olyan típusú döntéshelyzetben, amikor arról kell döntenie, hogy egy szabálytalanul szembe jövő kocsinak ütközik, az ütközés következtében pedig minden utasa meghal, de alternatívaként választhatja azt is, hogy felkanyarodik a járdára és elüt ugyanannyi gyalogost, akkor mégis mi alapján kellene megtanítani a helyes döntési stratégiára?

Igen ám, csakhogy ez az elgondolás ezer sebből vérzik. A következő néhány gondolat nem teljesen saját, nemrég vehettünk részt egy olyan rendezvényen, ahol éppen hasonlók kerültek szóba, a téma elismert kutatói pedig éppen a hadtudomány és közlekedéstudomány területéről hoztak példákat azzal együtt, hogy sokszor miért rosszak.

Világos, hogy nincs tökéletes gondolatkísérlet, de a fent vázolt eset már-már túl sterilnek mondható, éppen ezért a kérdésfelvevés ebben a formában hihetetlenül laikus. Alapvetően nem tudjuk, hogy mit hoz a szingularitás, azaz ha csak az önvezető járműveket nézzük, annyi minden történhet még az általánossá válásukig, amiket nem tudunk a gondolatkísérletünkbe ágyazni, holott fontos lenne, hogy az is egy vélemény, ami szerint a kérdésfeltevés ma még szinte értelmetlen. Egy analógiával élve: olyan ez, mintha a középkorban tudták volna, hogy lesz egy olyan információs hálózat, amin keresztül szinte minden elérhető, többet nem nagyon, de már a közösségi web természetével kapcsolatban akartak volna jóslatokat megfogalmazni.

Az előzőhöz kapcsolódó tudománytörténeti érdekesség, hogy a vonatok és az első kocsik esetén is aggasztó kérdés volt, hogy az emberi testre nem hat esetleg kiszámíthatatlan módon a lovaskocsikétól nagyobb sebesség.

Egy bioetikával is mélyen foglalkozó filozófus szót ejtett arról, hogy az etikatörténet azért sokkal érdekesebb, mint amilyennek első hallásra tűnik, mert a lényeg azon van, hogy a közösség tudatában mikor mit jelentettek olyan fogalmak, mint az etika vagy a morál.

Hogyan kapcsolódik mindez ide?

Ismét csak a technológiai szingularitást húznánk elő: nem tudjuk, hogy maga az etika, annak felfogása hogyan értelmeződik át, ahogyan azt sem, hogy a szociálpszichológiai értelemben vett hallgatólagos társadalmi szerződések, konszenzusok, ezzel párhuzamosan pedig a social norm hogyan fog változni. Sejthetően annyira azért nem, hogy valaha is bocsánatos bűn legyen mondjuk embert ölni, ennél konkrétabbat nem nagyon lehet mondani biztosra még középtávon sem!

Egy mérnök informatikus végzettségű filozófus dobott egy nagyon pazar példát. Miért van az, hogy az AI-val kapcsolatban megfogalmazunk olyan félelmeket is, amik egyszerűen nem racionálisak, az viszont alig jut eszébe valakinek, hogy amikor valaki vesz egy Hummert vagy hasonló több tonnás kocsit, ezzel gyakorlatilag eldöntötte, hogy egy komolyabb baleset esetén más embereket fog megölni, jobb esetben csak megsebesíteni.

És tényleg! Ez belefér, az AI tévedése már nem? Lépten-nyomon előtűnik az, hogy az AI-val kapcsolatban sokkal szigorúbb, többször alapvetően irreális vagy irreálisan szigorú feltételeket támasztunk etikai szempontból, mint önmagunkkal kapcsolatban. Így tényleg indokolt lenne visszatérni néhány alapvetéshez.

De nem csak a polgári közlekedésből, a hadtudomány területéről is hozhatunk igencsak ütős témákat. Az USA döntéshozóit bő 10 éve nem keveset támadták amiatt, hogy háborús környezetben drónokat lehessen-e bevetni vagy sem. Egy pillanatra megtorpannánk: függetlenül attól, hogy valaki mennyire pacifista, el kell fogadni azt a tudományos tényt, hogy a hadműveletek semmi máshoz nem hasonlítható civilizációs szituációk, amikor a legelemibb ösztönöket és mindenféle magasabb szintű gondolkodási folyamatot félretéve a katona dolga az, hogy megölje az ellenséges katonát. Ahogy az is alapvetés, hogy a lakosságot viszont tilos támadni. Más kérdés, hogy a mai háborús szituációk sokszor nem járnak tényleges katonák halálával vagy csak nagyon kevesen sebesülnek meg.

A Pentagon más szervezetekkel együtt dolgozva a drónok alkalmazását olyan módon engedélyezte, hogy gyakorlatilag mindent csinálhatnak, amire csak képesek, viszont semmilyen körülmények közt nem ölhetnek. Ilyenkor a laikus pislog, néz ki a fejéből és nem érti, hogy ha egy drón például egy katonai támaszpontra vagy erőműre ráküldhet egy rakétát, ami aztán vagy jár katonák, esetleg civilek halálával vagy sem, akkor már nem mindegy, hogy szándékosan ölhet-e vagy sem? Nos, nem.

De nem is ez a lényeg. Hanem az, hogy miért döntött úgy egy, sok-sok, igencsak értelmes emberből álló testület, hogy a drónok ugyan bőven fel lehetnek szerelve emberi élet kioltására alkalmas eszközökkel, ölni pont nem ölhetnek, ellentétben a katonákkal.

Itt mutatkozik meg, hogy a tudásunk ezen a téren mennyire korlátozott. A katona attól katona, arra képezték, hogy háborús szituációban mérlegelés nélkül teljesítse a felettese utasítását, ugyanakkor paradox módon időnként dönthet, hogy lelő-e valakit vagy sem, míg a drónnak nincs meg ez a szabadsága? Ahogy szó szerint nagyon frappánsan elhangzott: “honnan tudjuk, hogy az ember jobban öl, mint az AI”, itt a jó alatt a hadtudományi értelemben vett szakszerűség értendő.

Ezen kívül több izgalmas, döntéselméletet és jogelméletet vastagon érintő kérdés is felmerült. Az Európa legnagyobb részében alkalmazott kontinentális jogrendszerek egyik lényege, hogy ha nem is mentesek a hézagoktól, talán annyi megállapítható, hogy az élet teljes területét lefedik. Akár a polgári jog – olyan, e sorok írójának legszebb területei, mint a szerzői jog – akár a sokszor példákban könnyebben érthető büntető-eljárásjog és büntetőjog. Inkább hagyjuk is, hogy mi is lényegében maga a jog, mert elmagyarázni alighanem bonyolultabb, mint egy polinéziai bennszülöttnek azt, hogy mik az internetes mémek.

Példákon keresztül persze mindenkinek van valami szemléletes képe róla, szorítkozva a kontentális jogrendszerek működésére, a többségnek pedig az életellenes bűncselekmények jutnak eszükbe, ha bonyolult kérdésekről van szó. Ott viszont egy-egy törvény alkalmazása annyira egyszerű lehet, hogy még egy laikus is megtippelheti, hogy egy-egy esetben melyik vádpont fog megállni a bíróságon.

Tételezzük fel, hogy két részeg összeverekedik a kocsmában, aminek eredményeként egyikük meghal. Míg egy másik esetben a cél kimondottan egy másik életének kioltása. Az első testi sértés, a második pedig emberölés, a kettő elkülönítésével pedig nincs könnyű dolga a vádhatóságnak sem.

A lényeg viszont, hogy már évtizedekkel ezelőtt terveztek olyan szakértői rendszereket, amik lényegében egy in real life szituációt értelmeztek, sok-sok bemenő adat alapján értékeltek, majd ha úgy tetszik, formális logikánál nem sokkal bonyolultabb módon „rápattintották” a megfelelő jogszabályt.

Nem meglepő módon a jogászok nem voltak oda az ötletért, holott a jog lényege az lenne, hogy egyféle esetet csak egyféleképp lehessen elbírálni, függetlenül attól, hogy azt kik végzik, akár egy közlekedési szabálysértésről, akár terrorcselekményről van szó. Nagyon gyorsan hozzátesszük, hogy nincs “egyszerűbb” és “bonyolultabb” eset olyan szempontból, hogy milyen törvény alapja képzi a vádat, de.

Abban nagy meglepetés nincs, hogy egy-egy, totál egyszerű jogesetet is a laikusok mind teljesen máshogy ítélnének meg. Ami már meredekebb, hogy a 7-10 évet tanult ügyvédek, és a 10-15 évig tanult bírák ugyancsak. Persze pimasz megfogalmazással ők szakszerűbben nem értenek egyet.

A jogrendszer szereplőinek döntéseinél is mindig kisebb-nagyobb mértékben jelentkezik egyfajta belső, törvény fölött álló meggyőződés, ami külön pontos terminust is kapott. Lényeg, hogy kimondatlanul, de például a nem jogi értelemben vett méltányosság is kihat a bíró vagy éppen a vádhatóság tagjainak döntéseire. Remek kérdés, hogy ez mennyire teszi összességében hatékonyabbá a teljes rendszert. Az biztos, hogy előre nem látható, nagyon súlyos következményei lennének annak, ha ezt a kimondottan emberi sajátosságot egyszerűen elhagynák egy robotbírók, robotügyészek és robotügyvédek módján működő szakértői rendszerből.

Visszaugorva a közlekedésbiztonság és az AI jövőbeli kapcsolatára. Az MIT Moral Machine-jében megtalálható olyan eset is, amikor dönteni kell, hogy ha egy hipotetikus esetben végképp nincs más választás, akkor a kocsi jobbra vegye a kanyart és egy idős ember üssön el, vagy balra vegye, amivel egy ötéves kisfiú életét oltja ki. Megengedhetjük-e magunknak azt a luxust, hogy a totálisan steril szituációt a való világba ültetjük gondolatban és hozzátesszük, hogy a kisfiú bizony egy véres kezű diktátorrá is cserepedhet?

Senki sem mondta, hogy a bioetika egyszerű műfaj lenne. Mert nagyon nem az. Olyannyira nem, hogy már magyar nyelven is olvashattunk róla cikket nemrég, amiben a szerző az taglalja, hogy az informatikushiány mellett a világra szakadhatna még egy filozófushiány is, amivel kezelhetőbbé válnak az ilyen problémák, dilemmák.

Jópofa időtöltés lehet a böngészőben embereket csapni el a legkülönbözőbb módon a MIT Moral Machine-nel, tudományos alapokon, arra azért minimum kíváncsiak lennénk, hogy a különböző kultúrákból számazó felhasználók tipikus döntési sémái hogyan különböznek egymástól.

A precíz tudományos kifejtést és szóhasználatot a könnyebb érthetőség kedvéért a szokásosnál némileg gyakrabban áldoztuk fel a cikkben.

Te is lehetsz igazságügyi informatikus?

igazsagugyi-informatikaMeglepő, de könnyen lehet, hogy igen, csak éppen nem tudsz róla. Ebben a posztban elmagyarázzuk, hogy bizonyos esetekben például egy büntetőeljárás folyamán a nyomozati szakaszban a rendőrség, az ügyészség, a vádemelést követően pedig a bíróság egy-egy szakkérdés megválaszolására nem olyan igazságügyi szakértőt kér fel, aki ezt a tevékenységet hivatásszerűen gyakorolja, hanem egy olyan civilt, aki esetleg az igazságszolgáltatás működéséről annyit tud, hogy a rendőrautón van villogó, a bíró talárban jár, az amerikai filmekben pedig kalapáccsal csapkod, amikor csendet kér a tárgyalóteremben. Hogyan adhat olyan szakvéleményt egy civil, ami esetleg nagyon komoly bizonyító erővel bír?

Először is érdemes átfutni, hogy ki járhat el szakértőként, és mikor alkalmazzák  őt egyáltalán? A törvény szerint:

eseti szakértő: olyan – az eljárásban megállapítandó vagy megítélendő jelentős tény vagy egyéb körülmény megállapításához vagy megítéléséhez – megfelelő szakértelemmel rendelkező természetes vagy jogi személy, aki nem igazságügyi szakértő; valamint olyan igazságügyi szakértő, aki az igazságügyi szakértői szakterületekről, valamint az azokhoz kapcsolódó képesítési és egyéb szakmai feltételekről szóló rendeletben meg nem határozott szakterületen ad szakvéleményt,

(4) Kivételesen az igazságügyi szakértői tevékenység ellátására megfelelő szakértelemmel rendelkező eseti szakértő is igénybe vehető, ha

a) az adott szakterületen nincs bejegyzett igazságügyi szakértő,

b) az adott szakterületen – időszakos hiány vagy egyéb szakmai ok miatti hiány okán – a bejegyzett igazságügyi szakértők egyike sem tud eleget tenni a kirendelésnek, vagy

c) az adott szakterület nem szerepel a miniszter rendeletében felsorolt szakterületek között.

Nagyon durván leegyszerűsítve abban az esetben, ha például a rendőrség, ügyészség vagy a bíróság egy szükséges tény megállapításához nem rendelkezik megfelelő szaktudással, olyan személyt kell bevonni az eljárásba, akinek ez a tudása megvan.

Magyarországon igazságügyi szakértői feladatot igazságügyi szakértőként, szakértőjelöltként, eseti szakértőként vagy szakkonzultánsként lehet végezni. A hivatásos igazságügyi szakértővé válásnak meglehetősen szigorú feltételei vannak, amivel most nem foglalkozunk hosszan.

Azt viszont érdemes megjegyezni, hogy a tevékenységük egészen elképesztően szerteágazó lehet. Igazságügyi orvosszakértőről már mindenki hallott, de gondoltad volna, hogy szükségessé válhat megállapítani, hogy a szemtanúk mennyire emlékezhettek pontosan egy eseményre? Vagy éppen egy angolul beszélő gyanúsítottnak, akiről nem tudni semmit, mi lehet az anyanyelve a beszéde alapján?

A hírekből tudni lehet, hogy egy nemrég történt robbantás elkövetője többször is átöltözött a robbantás előtt és után, szándéka szerint mindent megtett, hogy ne legyen felismerhető a kamerák által rögzített képen, azzal viszont alighanem nem számolt, hogy az ember járás közbeni testmozgása annyira egyedi, hogy az antropológus szakértők számára szinte mindig alkalmas az azonosításra.

Amit már ezen a blogon is érintettük, hogy az igazságügyi informatikus nemcsak a böngésző gyorsítótárát, de akár a gép memóriájának tartalmát is le tudja dumpolni, mivel megvan rá a megoldás, hogy hogyan foglalható le egy gép olyan módon, hogy ne kelljen kikapcsolni.

 

Ennek nem kicsi a jelentősége, ha belegondolunk, hogy alkalmazhat valaki bármilyen überszuper titkosítást, a titkosítás feloldásához használt kulcsoknak nyilván be kell töltődniük a memóriába. A NetAcademia egyik kurzusán is emlegettünk már igazságügyi nyelvészeket, akik például névtelen, persze nem kézzel írott levelekről a nyelvhasználat alapján valószínűsíteni tudják a szerző több pszichológiai sajátosságát, iskolázottságát, amivel nagyban szűkíthető a lehetséges elkövetők köre.

Azt gondolnánk, hogy nem lehet elképzelni annyira elborult, speciális kérdést, amire ne lenne igazságügyi szakértő. Mégis előfordulhat, hogy annyira speciális szakkérdést kell megválaszolni, amit a névjegyzékben lévő szakértőnél jobban ismer egy civil a tevékenysége folytán. Egy kevenc példával folytassuk, ha már korábban szó kerültek a honeypotok.

Gondoljunk csak bele, elképzelhető, hogy valaki csali szervereket, ún. honeypotokat bütyköl, esetleg köt hálózatba, majd azt figyeli, hogy a rajta futó rendszert milyen módszerekkel próbálják feltörni. Ez rögzíthető, így többek közt mintát lehet venni, hogy például adott tartalomkezelő rendszert vagy sokkal komolyabb, komplett ERP-rendszert feltörni próbálók hogyan próbálják elkövetni a behatolást.

Ebből gyakran lehet következtetést levonni a támadó felkészültségével, sőt, sokszor a motivációival kapcsolatban is. Ha valaki birtokában van egy kellően nagy betörési mintázat-gyűjteménynek, az igencsak hasznos lehet olyan esetben, amikor ténylegesen feltörnek egy ERP-szervert, levelezőszervert, routert, bármit, mivel a korábban rögzített betörési patterneket összehasonlítva azzal, ami a tényleges betörésről tudható, az elkövetés módja alapján ismét szűkíthető a lehetséges elkövetők köre.

A példában a honeypot-üzemeltető azért alkalmas eseti szakértőnek, mert rendelkezik a megfelelő tapasztalattal, és olyan tudás birtokában van, aminek az igazságügyi szakértő nem. Ez pedig a honeypotokon keresztül szerzett tapasztalata.

Elképzelhető olyan eset is, amikor a nyomozók már tudják, hogy egy nem túl eszes, ámde annál veszélyesebb figura kényelemből a kommunikációját jórészt a Facebookon folytatja. Ekkor indokoltnak tűnik, hogy titkos információgyűjtést és a titkos adatszerzést alkalmazzanak, azaz például a Facebook Law Enforcement Online Request formon keresztül adatkéréssel forduljanak a Facebookhoz, amelyik elbírálja a kérés indokoltságát, aztán akár megtagadja azt az adott ország hatósága előtt, akár teljesíti, az érintett felhasználót mindig értesítik (igaz, utólag), de eléggé világos, hogy sérti a nyomozás érdekeit, ha valaki tud róla, hogy rajta vannak.

Lehet benne valami, hogy a Facebook illetékes alkalmazottjainak az adatkérések teljesítésekor nem kell többet gondolkodniuk, mint a moderátoroknak moderáláskor, mivel az adatkérések tényleges indokoltságát nem tudják szakszerűen megállapítani.

Ami a statisztikát illeti, ezt ugyanúgy nem lehet megállapítani, mint azt, hogy ez az eljárás egyáltalán az összes adatkérésre vonatkozik-e vagy csak a mezei büntetőeljárásokra alkalmazzák, de nem tartalmazza a polgári- vagy katonai nemzetbiztonsági szervek adatkéréseit. A Magyarországgal kapcsolatos adatkérések a 2017-es évre vonatkozóan itt érhetők el.

Alapvetően az adatigénylés vagy eredményre vezet vagy nem, ráadásul a folyamat igencsak időigényes is lehet. Ugyanakkor a hatóság alkalmazhatja a blogon már emlegetett nyílt forrású információszerzés kevésbé ismert módszereit, vagy rábízhatja olyan civilre, aki ilyen területen magas szintű jártasságot szerzett. Természetesen nem arról van szó, hogy ekkor az eseti szakértőként eljáró civil átvenné a nyomozást, de olyan információkat szolgáltat, amik nagyban megkönnyíthetik a nyomozók dolgát számos olyan információ előbányászásával, amit ők maguk nem, vagy csak ésszerűtlenül sok ráfordítás mellett tudtak volna elvégezni.

Lényegében csak meglehetősen elborult esetek zárják ki azt, hogy valakit a megfelelő szaktudása ellenére mégse alkalmazhassanak eseti szakértőként, ha szükség lenne rá. Ilyen például, ha éppen olyan büntetőeljárás folyik ellene, aminél már megtörtént a vádemelés is, esetleg priuszos, vagy nem várható el tőle, hogy a feladatot kellően diszkréten végezze el.

A sok-sok évet tanult igazságügyi szakértő nem hülyébb vagy okosabb az eseti szakértőnél, hanem egyszerűen a tudásuk másra terjed ki. Ugyan aki járt már el eseti szakértőként, jó, ha gyorsan képbe kerül a büntető eljárásjog, büntetőjog, kriminalisztika alapjaival, ezen kívül tudja, hogy mik azok az formai hibák, amiket nem szabad elkövetni.

Hogy csak a legegyszerűbbet említsük, a terheltnek a vádemelést követően iratbetekintési joga lesz, azaz minden dokumentumot megismerhet, ami a nyomozati szakaszban keletkezett, aminek persze része a nevén nevezett eseti szakértő szakvéleménye is. Az eseti szakértő pedig vagy kérheti az adatai zárt kezelését vagy sem, viszont indokolt lehet, hogy a vádlott ne ismerje meg a személyazonosságát, ha éppen az eseti szakértő véleménye kulcsfontosságú volt a bizonyítás során. Az alapján is dönt majd úgy a bíró, hogy a vádlottat sittre vágja mondjuk 15 évre, aminek az elítélt annyira nem fog örülni.

Hasonlóan, az eseti szakértő akkor tud hatékonyan működni, ha az igazságügyi szakértővel értik egymás nyelvét, tisztában van a bizonyítástan alapjaival és így tovább.

etikus-hekkelesA végére hagytunk egy nagyon fontos részletet. Ha egyszer eseti szakértőként jársz el, még akkor se tedd ki a kirakatba, ha egyébként nagyon-nagyon jól mutatna a CV-ben, na meg a LinkedInen. Már nem a 90-es években vagyunk, amikor a szervezett bűnözésnek még volt lehetősége a fegyveres rendvédelmi szerveknél dolgozókra is nyomást gyakorolni, zsarolni őket, ilyentől egy állományban lévő zsarunak, igazságügyi szakértőnek nem kell tartania különösebben.

Inkább csak filmekben fordul elő, hogy a hűvösről kijön az elítélt, aztán  kellemetlenkedni próbál például egy nyomozóval, már csak azért sem, mert a bűncselekményeket a törvény tipikusan súlyosabban bünteti, ha azt hivatalos személy ellen követik el.

Az eseti szakértő nem hivatalos személy, de alapvetően nem kell tartania attól, hogy lófejet talál a párnáján egyik reggel. Ha pedig megpróbálnak borsot törni a korábbi eseti szakértő orra alá, szinte megállapíthatatlan, hogy a cél és motiváció egyáltalán összefügg-e azzal, hogy eseti szakértőként járt el valakinek az ügyében és olyan bizonyítóerővel rendelkező információt tett az ügyész vagy a bíró elé, amitől leszakadt az asztal – vagy teljesen másról van szó.

Nem zárható ki azonban, hogy polgári perben az alperes, büntetőügyben a gyanúsított vagy vádlott egyszerűen a megfélemlítés, bosszú okán olyan helyzetbe hozza az eseti szakértőt, hogy az végül is megsértse a törvényt. Például azzal, hogy ízesen elküld valakit melegebb égtájra többek előtt, esetleg lecsavar a kellemetlenkedőnek egyet, ha pedig feljelentik, könnyen eleshet emiatt egy ideig attól, hogy szakértői tevékenységet végezhessen.

Ugyanakkor tanulni érdemes, tudni kell, alkotni jó, eredetit alkotni még jobb, közben pedig a legkülönbözőbb területeken tehet olyan szaktudásra szert valaki, amit kamatoztathat az igazságszolgáltatásban. Nagyon jó alapot jelenthet erre, ha valaki elkezd foglalkozni például az etikus hekkeléssel, aztán ha Justitia és Sevillai Szent Izidor is úgy akarja, akár rendszeresen felkért eseti szakértő is lehet, amivel ugyan nem keres vagyonokat, az igazságszolgáltatás világában olyan dolgokat tanulhat meg, olyan szemléletmódra tehet szert, amilyenre máshol nem lenne lehetősége.

Ha pedig valakit beszippantott az igazságszolgáltatás világa, sosem késő arra a pályára állni, még ha sok-sok olyan dolgot is kell megtanulni a szakértőjelöltnek a szakértővé váláshoz, ami az elején fölöslegesnek tűnik.

képek: Wikipedia, ec.europe.eu