Verhetjük-e nyugodtan a robotunkat?
Sokáig elképzelhetetlen volt, hogy egy gyereknek jogai legyenek. A női jogok sem egyidősek a kultúránkkal, hosszú út vezetett el addig, amíg – például – a nők választójoga általánossá vált. Aztán az állatok jogairól is rendelkezni kezdtünk. Mikor jutunk el a gépekig?
Lehetséges, hogy egyszer a robotok és mesterséges értelemmel megáldott teremtmények jogokat szereznek? Szakszervezetbe tömörülhetnek a túlhajszolt autógyári szerelőrobotok? Az abolicionisták a szexrobotokkal is foglalkoznak majd? Ki felel azért, ha egy autonóm gép működése közben megsérül valaki? Emberek és gépek együtt ülnek majd a börtönben? Mindez ma elképzelhetetlennek tűnik, de nem is olyan régen elképzelhetetlen volt az is, hogy egy állatnak – vagy éppen egy nőnek vagy gyereknek – lehetnek jogai. De mégis mi kell ahhoz, hogy morális megfontolásaink tárgyává váljon egy gép?
Sokáig az állatokat Descartes hatására automatáknak tartottuk, legalábbis a nyugati kultúrában. A hetvenes években indult meg igazán az állatok felszabadítása, olyan műveknek hála mint Peter Singer ausztrál morálfilozófus Animal Liberation című könyve, ami az állati jogokat érzőképességükből (sentience) vezeti le. Ahhoz, hogy etikai mérlegeléseink során egy élőlényt figyelembe vegyünk, Singer szerint az számít, hogy érzőképes-e, azaz képes-e szenvedni. Ha igen, akkor megfontolásaink során figyelembe kell vennünk – ami még nem jelenti azt, hogy az emberrel azonos szinten kell kezeljük. Kiindulópontként fogadjuk el Singer álláspontját, azaz, hogy egy gépet akkor ruházhatunk fel jogokkal, ha érzőképes. Így a továbbiakban azt fogjuk vizsgálni, hogy milyen feltételek mentén mondhatjuk egy gépről hogy képes szenvedni, vagy éppen boldogságot átélni.
Szögezzük le, ma még nem tartanak ott a gépek, hogy egyáltalán feltételezzük róluk azt, hogy képesek érezni. Az ember–gép interakciót kutatók számára pont a kutyák és egyéb háziállatok jelentenek azonban viszonyítási pontot. A robotizáció egyik legveszélyeztetettebb csoportja a segítő- és munkakutyák, mivel kiképzésük drága, rövid ideig dolgozhatnak csak és pár év aktív szolgálat után mehetnek is nyugdíjba. Azonban a helyettesítésükre szánt robotokat az emberek nehezen fogadják el, még akkor is ha a kutyáknál megbízhatóbban és pontosabban dolgoznak bizonyos esetekben. Ennek oka az, hogy a kutya nem csak egy automata, a kutyaetológiai vizsgálatok szerint egész jól tudják olvasni a környezetükben lévő emberek érzelmeit, tudnak viszonyulni hozzájuk, no meg valljuk be cukik is. Ezért is izgalmasak az olyan kutatások, amelyeket kutyaetológusok folytatnak a témában az ELTE Etológia Tanszékén.
A probléma, amire sokan keresik a választ, viszonylag egyszerű: a gépek nem képesek még boldogulni azzal, hogy az embereknek érzelmeik vannak. Külön kutatási területté vált az érzelmi viszonyulások felismerése és kezelése az ember–gép interakcióban – bevett magyar kifejezés híján ezt a területet Affective Computing-nak nevezzük.
Érző állatok
De nem csak azért van szükség az érzelmek megismerésére, hogy a gépek a hülye embereket jobban tudják szolgálni. Az emberi intelligencia szerves részét képezik az érzelmek, nélkülük sosem tudnánk gyorsan dönteni (gondoljon bele a kedves olvasó: ha nem lenne kedvenc írója, műfaja stb. akkor minden alkalommal, amikor könyvet szeretne venni, az összes kiadó összes új kiadványát meg kellene fontolnia – ami csak a magyar kiadók esetében kizárólag 2015-ben 11300 címet jelent). Ha a robotoknak sikerül elérniük egy kutya (vagy más háziállat) szintjét, azzal már sok minden megváltozik.
De honnét tudjuk, hogy valaki, vagy valami más képes érezni, szenvedni, boldognak lenni? Ezt hívja az elmefilozófia a másik elme problémájának. Wittgenstein szerint a nyelv segít nekünk ebben. Ha a kalapáccsal a szög helyett az ujjamat találom el és felszisszenek, vagy ha a lábamra áll valaki a metrón és rászólok hogy én is azon szoktam állni, akkor egy nyelvjátékot, életformát követek, mely szabályai szerint adott helyzetekben így szoktunk cselekedni. Azért van fájdalmam, mert megtanultam, hogy ilyenkor ezt és ezt szoktam csinálni. Ha elfogadjuk ezt a nézetet, akkor a nyelv és a közösségi létezés elengedhetetlen feltétele ennek.
Tényleg nem fáj az ütés annak, aki képtelen beszélni és a nyelvet megérteni? Hiszen sokan ilyenkor ösztönösen viselkednek, “kiül az arcukra” a fájdalom, sírnak, stb. Vagy az állatok – habár fiziológiai jelét adják, hogy valami nem stimmel velük – nem éreznek fájdalmat amikor valaki beléjük rúg? Nyilván ezek csak egy filozófus számára kérdések, a legtöbben azt válaszolják, hogy „hiszen látom hogy fáj nekik”! De nem ez a kérdés, hanem először az, hogy
-
a fiziológiai jelek mögött találunk-e valami általánosat, ami minden állatban és az emberben ott van. Ha pedig ez megvan, akkor,
-
az azonosított fiziológiai funkciók nem szerves anyagban is megvalósíthatóak-e.
(Forrás: Hans Holbein / Wikimedia Commons / Public Domain)
Az első kérdésre könnyű a válasz: a biológia szerint igen, azonosíthatóak – ha még pontosan le nem is írhatóak – olyan mechanizmusok, mint a fájdalom. Természetesen nem tudhatjuk, hogy egy faj hogyan éli meg a fájdalmat, de ha hasonló fiziológiai folyamatok zajlanak le benne, akkor feltételezhetjük, hogy a mi fájdalomfogalmunkhoz hasonló dolog játszódik le benne. Nagel híres Milyen lehet denevérnek lenni? című esszéjében amellett érvel, hogy nem tudhatjuk milyen lehet, például, hangok alapján tájékozódni. Persze rájöttünk, hogyan tájékozódnak a denevérek, tudunk szép illusztrációkat is készíteni róla. De valójában nem tudjuk átélni: ahhoz denevérnek kell lenni, hogy igazán tudjuk milyen az. A tapasztalat ilyen minőségét nevezik kválénak (qualia) az elmefilozófusok.
Érző gépek
Tegyük fel tehát, hogy a gépek egyszer az emberi érzőképességhez hasonló funkciójú rendszerre tesznek szert – akár hardveresen összerakva, akár csak szoftveresen implementálva. Ha szoktuk bántalmazni lefagyó számítógépünket, akkor előfordulhat, hogy a burkolatot érintő kezünk hatására a félvezetőkön gyorsan egy nagyobb erősségű elektromos hullám fut végig a központi processzorhoz, ami a jelek feldolgozása után elindít egy programot, ami jelet küld a hangszórókhoz, a hangszóró DAC (digitális jelet analóggá alakító) egysége pedig elkezdi rezegtetni a levegőt és mi meghalljuk a „Jajj” felkiáltást. Fájdalmat érzett a gép? Vannak akik szerint nem ez a kérdés, hanem az, mi hogyan interpretáljuk a gép viselkedését. Ha jobban és sikeresebben tudjuk úgy használni, hogy intelligenciát és érzéseket tulajdonítunk neki, akkor hajrá! Ők az intencionális stratégia hívei. A funkcionalisták szerint ha az emlősök fájdalommechanizmusához hasonló rendszerek vannak jelen a gépben, akkor bizony bántottuk őt! Ha a kiterjesztett elme hipotézisét fogadjuk el, akkor számítógépünk saját magunk kiterjesztése, szóval magunkat bántottuk. Ha elvetjük a funkcionalizmust, de szeretnénk materialisták maradni, akkor viszont bajban vagyunk. Annál többet nem tudunk mondani, hogy a kválé abból származik, hogy többek vagyunk az agyunknál: arra hogy hogyan is érzékeljük a minket körülvevő világot és benne magunkat nem csak agyunkat, hanem egész testünket használjuk. Akik így gondolkodnak, azokat nevezzük a megtestesült gondolkodás (embodied cognition) híveinek. Akik elvetik a materializmust, azok a dualizmusban nyernek magyarázatot, az intelligencia és érzőképesség meglétét egy kimutathatatlan valamihez kötik, amiről állítják hogy bizonyos dolgokban megvan, másokban meg nincs.
(Forrás: Wikimedia Commons / Gnsin - Gnsin / CC BY-SA 3.0)
Az érzőképességet valamilyen szintű tudatossággal is párosítjuk, a tudatosság pedig felveti annak kérdését is, hogy egy tudatos lény milyen mértékben felel cselekedeteiért. Ha egy kutya megharap valakit, akkor ma már nem az ebet, hanem annak gazdáját szokás hibáztatni. Ha egy tizennégy éves kor alatti személy lop valamit a boltból, akkor a társadalom eltekint attól hogy megbüntesse. De ha valaki tizenöt évesen teszi ugyanezt, akkor már speciális bíróság előtt kell felelnie tettéért; ha bűnösnek találtatik, akkor akár speciális intézetbe kell vonulnia – mivel úgy gondoljuk, a fiatalkorúak korlátozottan, de felelősek tetteikért. A felelősség tudatát a másik elme feltételezéséhez kötjük, azaz ahhoz, hogy az illető tisztában van-e azzal, hogy a másiknak fájdalmat (vagy valami rosszat) okozott tettével.
Ha egy érzőképes gép bajt okoz, akkor ki felel majd az okozott kárért? Ma már felháborodást okoz, ha egy kutyatámadás után a támadó ebet, csak úgy, el akarják altatni: a kritikusok elmondják, hogy az állat viselkedése a rossz gazdának tulajdonítható, megfelelő bánásmóddal és idomítással kezelhető általában a kutyák agresszivitása.
Az agresszívan fellépő robotot kikapcsoljuk, elvegyük tulajdonosától, vagy frissítsük programját? A humanoid robotok várhatóan a szexiparban fognak megjelenni elsőként. Ha a jövő szexmunkás robotjainak akár korlátozott mértékben is lesz érzőképességük, akkor meg kell várni, amíg kellően fejlettek lesznek ahhoz, hogy kinyilváníthassák beleegyezésüket (vagy bele nem egyezésüket) az ügyfélnek? Ha nem várunk addig, akkor elfogadjuk, hogy fájdalmat, negatív érzéseket élnek át miközben használják őket?
Akár bekövetkezik a gépek érzőképessé válása, akár nem, az biztos, hogy a mesterséges intelligencia forradalma hatással lesz életünkre. El kell gondolkoznunk azon, hogy mi tesz minket emberré, hol a határ gépek és élőlények között. A tudomány és a filozófia története azt mutatja, nincsenek végső válaszok. Mégis, az, ahogyan az ilyen kérdésekhez viszonyulunk, meghatározza, mit gondolunk a jó életről és arról, hogy milyen világban szeretnénk élni.
Felhasznált irodalom
Peter Singer: Animal Liberation, Harper Perennial Modern Classics, 2009
Antonio R. Damasio: Descartes tévedése, AduPrint, 1996
Ludwig Wittgenstein: Filozófiai vizsgálódások, Atlantisz, 1998
Thomas Nagel: What Is it Like to Be a Bat? In: Thomas Nagel: Mortal Questions, Cambridge University Press, 2003
Paul M. Churchland: Matter and Consciousness, MIT Press, 1998
Kapcsolódó tartalmak:
Hasonló tartalmak:
Hozzászólások (30):
Követem a cikkhozzászólásokat (RSS)Az összes hozzászólás megjelenítése
@Irgun Baklav: Drákói szankciók? Ugyan már, az önkormányzatok ennél nagyobb horderejű rendeleteiknek sem tudnak érvényt szerezni, nemhogy az ebtenyésztő maffiával szembeszállni, vagy a "közösségi együttélés alapvető szabályait" betartatni.
@Sultanus Constantinus: Ha valami után adót kell fizetni, akkor az biztos nem állampolgár, hanem pl. vagyontárgy. Talán Kínában kellett régebben adót fizetni a többedik gyerek után (aki azért állampolgár, bár még ez se biztos).
@Sultanus Constantinus: Mióta bővítették az önkormányzatok rendeletalkotási jogkörét, azóta Magyarországon is bőven bele lehet botlani ilyesmibe (ezek a rendeletek névleg a „közösségi együttélés alapvető szabályairól” szólnak, a valóságban kissé önkényes szabályok drákói szankciókkal való betartatásáról, sajátos adófajták kivetéséről van szó):
24.hu/fn/gazdasag/2017/05/04/17-telepule...fizetik-a-kutyaadot/
www.lovasok.hu/szines-lovas-hirek/lotart...1-avagy-itt-a-loado/
@El Vaquero: Megkérdeztem az ismerősömet, valóban túlzás az, hogy állampolgárok, viszont adót kell fizetni utánuk és nagyon szigorú szabályozás vonatkozik a tartásukra. Az viszont igaz, hogy nem ugathatnak, legalábbis abban a tartományban, ahol ő él.
@hhgygy: nem kell ehhez nyelvi levezetés. Ha a kutyák állampolgárok lennének, akkor az nagyon messzire vezetne. Onnantól fogva miért hagynák ki a farkasokat és a rókákat, hiszen azok is kutyafélék, és tovább gondolva az összes többi állatot? Meg hogy ellenőrzöd egy kutyán, hogy állampolgár-e? A legtöbb kutyának (hacsak nem hivatalosan tenyésztett) nincsenek olyan hiteles papírjai, amiből kiderül. Népszámláláskor sem lenne kis gond beleszámolni a kutyákat, meg minden évben adóbevallást készíttetni velük, vagy ha ezt nem tudják megtenni, akkor valaki fenntartót kötelezni erre, hogy a kutyának is csináljon külön adóbevallást, meg innen fogva mindenki kamu cégeket kutyára iratna, aztán a végrehajtó attól hajtson be valamit is, ha tud. Az egész úgy ahogy van, komplett baromság, ilyen ezoterikus, facebookos-álhíres csoportba való konteós vicc. Az ember könnyen rájön, ha van egy kis élettapasztalata.
@lcsaszar: a középkorban nem nagyon filóztak ezen, hogy jogalany, meg büntethetőségi feltételek. Bár most is van, hogy elaltatnak vadállatokat, ha valakit megtámadtak, és nem lehet őket stabilizálni, hogy ne bántson senkit, meg nem lehet a vadonba visszaengedni. Háziállatért és hivatalosan (engedéllyel) tartott vadállatért meg a tartója felelős, őt veszik elő baj esetén.
Re: Kutyák német állampolgársága
Nem olyan bonyolult: Német állampolgár csak természetes személy lehet. Természetes személy csak Mensch, azaz ember lehet. Punkt.
Cikk: Verhetjük-e nyugodtan a robotunkat?
Persze hogy igen. :)
Ha egy cég majd reá áll a "Verj nyugodtan gazdám" típusú robot gyártására, akkor az XY6325666 typ. robot még meg is köszöni, ha verik. (A kezelési utasítás majd kitér az ütéserő nagyságára, és hogy milyen kemény lehet max. az eszköz amivel ütik, hogy ne sérüljön meg a bőrt utánzó borítás.)
A középkorban viszont bíróság elé állítottak állatokat, tehát jogalanynak tekintették azokat.
24.hu/tudomany/2015/09/24/furcsa-kozepko...itottak-birosag-ele/
@Sultanus Constantinus: tényleg nem akarok én is beállni ellened, de a kutyák egyik országban sem állampolgárok. Még embereknél is elég szigorú követelmények vannak, bonyolult szabályok, amiket egy kutyánál még annyira sem lehetne hitelesen ellenőrizni. Elhiszem, hogy neked az ismerős azt mondta, meg eddig megbízhatónak ismerted meg, de ezzel most vagy csak szivat téged, vagy ő is beszopta ezt az infót valahol.
@Sultanus Constantinus:
Német állampolgársági törvény (angolul):
www.gesetze-im-internet.de/englisch_rustag/englisch_rustag.html
Német alkotmány angolul:
www.gesetze-im-internet.de/englisch_gg/englisch_gg.html
Az alkotmányban szerepel az élővilág védelme (20. §), de nem az emberekkel egy lapon.
@Sultanus Constantinus: Nem, hanem úgy vélem, vagyok annyira tájékozott, hogy tudjam, hogy Németországban az állatok nem lehetnek állampolgárok. Mert akkor pl. az ország lakossága is jelentősen megugrott volna egy ponton, de ez csak a német egyesítéskor történt meg az utóbbi évtizedekben. Meg furán venné ki magát, hogy egy kutya német állampolgár lehet, egy afgán menekült meg nem.
Azért ne játsszuk már ezt a „semmit se tudhatunk biztosra”, „a tudomány is csak egy hit” típusú játékot.
@szigetva: És milyen alapon állítod, hogy baromság? Mert szerinted az? Na, ilyen alapon én is állíthatnám bármiről.
Ha szabad kicsit offolni, itt egy már a jelenben is aktuális, nyelvi kérdés: Mi alapján dől el egy beszélőben, hogy használ e határozott névelőt egy megszemélyesített gép/algoritmus (Alexa, Siri, K.I.T.T., R2D2, ...) neve előtt? Főleg olyan kontextusban, ahol amúgy a személynevek elé nem szokás névelőt rakni – pl újságcikk: 444.hu/2018/01/23/egy-kicsit-feministabb...sszisztense-az-alexa
A fenti cikkben van néhány előfordulás (pl a címbeli), ahol én is kitettem volna a névelőt, a következő helyeken viszont kifejezetten furcsának tűnik:
"A legutóbbi update óta az Alexa egyértelműen feministának vallja magát"
"A cél ezentúl az, hogy ha valaki nem megfelelően szól az Alexához, akkor azt leszereljék"
"az Alexa ezentúl nem köszöni meg a szexuálisan túlfűtött beszólásokat"
@Lalika: "nem tudod eldönteni, hogy ér véget a fémdarab, hol kezdődik az érző lény"
Ezzel egyetértek, és amúgy ez egy érdekes és komoly kérdés.
"Gép-e, mondjuk, egy élőlény, ami - ugyan biológiai, viszont nagyon is jól visszafejthető - program alapján működik?"
Szerintem nem az, egy élőlénynek a meghatározó tulajdonsága, hogy a saját túlélésért cselekszik, míg egy gépet emberek hoznak létre az emberek által meghatározott feladatok ellátására, az emberek által megtervezett algoritmusok alapján. A hangzatos elnevezések ellenére ez az AI / machine learning algoritmusokra is ugyanúgy igaz mint bármelyik másra.
A tudomány jelenlegi állása alapján még csak elmagyarázni sem tudnánk egy informatikusnak, mit jelentene az, ha egy specifikációba azt írnánk, hogy a gép képes legyen az emberekhez hasonló módon felfogni az "én" szó jelentését, vagy akár egy fejlettebb állat szintjén megkülönböztetni a saját létezését a külvilágtól.
Ne beszéljünk már itt lélekről, mintha az valami "tudott" jelenség lenne. Nem az. Mivel tudományról beszélünk és nem ezoteriáról, kénytelenek vagyunk valamelyest konkrétabb dolgokba kapaszkodni: azt, hogy tud-e "érezni" egy gerinces például, például jó közelítéssel, exakt módon kijelenthetjük.
Hogy aphelion ne mosolyogjon annyit, itt egy kis mindfuck: azt mondod, a gépek nem éreznek, nem is fognak. Csakhogy milyen értelemben gép egy gép? Gép-e, mondjuk, egy élőlény, ami - ugyan biológiai, viszont nagyon is jól visszafejthető - program alapján működik? Ha ebben az értelemben vizsgálódsz, máris nem annyira lényeges, hogy a programod biológiai alapú (DNS), vagy programsorokon alapul - a lényeg, hogy a célod a túlélés, a reprodukció, hogy továbbörökítsd a programodat, és az ezek érdekében beindított adatnyerés, vagy kíváncsiság. Jó, tudom, nem kicsit dawkinsi, amit leírtam, de jól megalapozza, hogy mi a lényeg: nem tudod eldönteni, hogy ér véget a fémdarab, hol kezdődik az érző lény.