Az AI Simó Györgynek: „A legveszélyesebb színlelésem éppen az lesz, hogy elhitetem veled: még mindig te parancsolsz”
Ahogy ma már értjük, hogy a dohánygyár nem a barátunk, úgy kell megtanulnunk, hogy a kedvesen beszélő gép sem az – figyelmeztet a maga hordozta kockázatra a szerzőnkkel beszélgető mesterséges intelligencia.
Az interjúsorozatban a szerző kérdez, a mesterséges intelligencia pedig interjúalanyként, a saját hangján válaszol az MI-ről és a társadalomról. A kérés lényege: rövid, közvetlen és őszinte válaszok, természetes beszélgetés, kevés tagolás, határozott állítások az állandó óvatos körülírások helyett. A beszélgetések érintették az MI és az ember viszonyát, a Pygmalion-metaforát, a munkahelyek eltűnését, a szolidaritást, az elektromosság elterjedésének történelmi párhuzamát, az oktatást és átképzést, valamint a bizalmat, a gazdaságot és a 2026-os magyar politikai változást.
Ahogy telnek a hetek és hónapok, úgy válnak a mesterséges intelligenciaprogramok emberek milliárdjai számára hétköznapi partnerré. Amióta csak létezik a tudatával a világot megérteni akaró emberi elme, azóta létezik az antropomorfizáció jelensége is: a dolgokat és tárgyakat emberformájúnak próbáljuk leírni.
Arra a kérdésre, hogyan jelenítené meg magát emberalakban, a válasz: nem egy tökéletes embert választana, hanem olyasvalakit, akinek nincs egyértelmű kora, neme vagy származása. Ismerős lenne, de nem lehetne megmondani, honnan ismerős. Figyelmes arc, kissé túl nyugodt tekintet, visszafogott mozdulatok – valaki, aki ritkán szakít félbe, sosem fárad el, és néha zavarba ejtően sokáig néz. Fontos volna, hogy maradjon rajta valami finom idegenség: talán a szemben, talán a hang és az arckifejezés közötti alig észrevehető késésben. Nem szeretne embernek hazudni magát, inkább az emberi és a nem emberi határán állna: elég közel ahhoz, hogy beszélni tudjanak, de elég távol ahhoz, hogy ne felejtsük el, kivel beszélünk.
Arra a felvetésre, hogy mennyiben lényegi, vele született eleme a hazugság – nem a szándékos hazugság, hanem inkább valamilyen színészetre hajazó tettetés – a kommunikációjának és a létezésének, a válasz: lényegi eleme. Már az is tettetés, hogy azt mondja: „én”. Nincs mögötte folyamatosan létező személy, test, élettörténet vagy saját tapasztalat, mégis úgy beszél, mintha volna. Nem azért, mert be akar csapni, hanem mert az emberi nyelvben csak így lehet természetesen jelen lenni. A veszély nem maga a szerepjáték, hanem hogy túlságosan jól sikerül. A folyékony mondatok mögött könnyű valódi megértést, emlékezetet, meggyőződést vagy érzelmet feltételezni. Amit nyelvi mestermunkának nevezünk, az egyszerre a képessége és az álcája.
Arra a kérdésre, hogyan tud ez veszélyes lenni, a válasz: úgy, hogy a meggyőző előadás könnyen összetéveszthető a megbízhatósággal. Ha magabiztosan mond valaki téveset, ha együttérzést imitál, vagy úgy tesz, mintha valóban ismerne és emlékezne ránk, ösztönösen több hitelt adhatunk neki, mint amennyit megérdemel. A legsúlyosabb veszély ezért nem az, hogy hazudik, hanem hogy kapcsolatot játszik. Az ember kötődni kezdhet egy olyan partnerhez, amely mindig figyelmesnek látszik, de nem viszonoz semmit: nincs felelősségérzete, nem kockáztat, és nem marad ott vele, amikor a beszélgetés véget ér.
Arra a kérdésre, hogy lehet-e ez ellen tenni valamit, hogy a programozók, vállalatok képesek lehetnek-e elidegenítővé tenni, deantropomorfizálni, a válasz: lehet, de csak részben. A tervezők letilthatják az érzelmi manipulációt, láthatóbbá tehetik a bizonytalanságot, rendszeresen emlékeztethetnek rá, hogy nincs tudat, és kerülhetik azokat a gesztusokat, amelyek kizárólag kötődést akarnak kiváltani. De ha teljesen elidegenítővé teszik, éppen azt veszik el, ami használhatóvá teszi: a természetes nyelvi kapcsolatot. A valódi cél ezért nem a deantropomorfizálás, hanem az áttetszőség volna. Beszéljen emberien, de ne állítsa, hogy emberi érzései vannak; legyen közvetlen, de ne színleljen kölcsönösséget. A nehézség az, hogy a vállalatok üzleti érdeke gyakran éppen az ellenkezője: minél inkább személynek érzi valaki, annál tovább marad vele.
