A magyarok többsége szerint valós veszély, hogy az AI kiirtja az emberiséget
A magyarok 58 százaléka valószínűnek tartja, hogy a fejlett mesterséges intelligencia a jövőben az emberiség kihalását vagy más, rendkívül súlyos és tartós kárt okoz. A 21 Kutatóközpont felmérése szerint a megkérdezettek 23 százaléka nagyon, 35 százaléka pedig inkább valószínűnek tartja ezt a forgatókönyvet, és csak 13 százalék zárja ki a lehetőséget.
A felmérés azután készült, hogy Jacob Coxon, a Claude chatbotot készítő Anthropic kutatója otthagyta a céget, és nyilvánosan arra figyelmeztetett: az egyre fejlettebb modelleket gyártó AI-cégek vezetői nem tudják kellően kontrollálni a technológiájukat, ami az emberiség kihalásához is vezethet. Coxon szerint ez a vélemény általános az AI-cégek alkalmazottai körében.
Nyilvános figyelmeztetéséhez számos kutatótársa csatlakozott. Evan Hubinger, az Anthropic egyik vezető AI-biztonsági felelőse úgy fogalmazott: „Jacobnak igaza van ebben – tényleg, teljes komolysággal úgy gondoljuk, hogy az AI akár az összes embert megölheti.”
A kutatás szerint a figyelmeztetésről a magyarok 86 százaléka hallott. Annak kapcsán, hogy az AI rossz kezekbe kerülve súlyos katasztrófákhoz vezethet, a megkérdezettek 79 százaléka tart valószínűnek ilyen forgatókönyvet, míg csak 4 százaléka tartja kizártnak.
Az Anthropic arról számolt be: már nem tudják kizárni, hogy legfejlettebb modelljei érdemi segítséget nyújthatnak biológiai fegyverek előállításához, ezért külön korlátokat építettek a rendszerbe. Idén szeptemberben a cég több olyan esetről számolt be, amelyben kutatók a Claude-ot potenciálisan biológiai fegyverek fejlesztését segítő munkához használták.
Bár a mesterséges intelligencia fejlesztésének számos előnye lehet például az orvostudományban, a magyarok 51 százaléka inkább leállítaná a fejlesztést, mert a lehetséges kockázatok nagyobbak az előnyöknél; 40 százalék folytatná. A nők 57 százaléka leállítaná a fejlesztést, szemben a férfiak 45 százalékával. A 18-39 év közöttiek 55 százaléka folytatná, a 65 éven felettieknek csupán 30 százaléka.
A szakmán belül a legfontosabb határvonalnak a rekurzív önfejlesztés elérését tartják. Ez az a pont, amikor az AI már nem csak az újabb modellek tanításához szükséges kódot írja, hanem a teljes kutatási folyamatot menedzseli. Az ezzel foglalkozó kutatók egy része 2027–2028 környékére teszi ezt a fordulópontot.
Jacob Coxon kilépése után a nyilvánosságban többen egyszerű marketingfogásnak nevezték, hogy AI-kutatók az emberiség kihalására figyelmeztetnek. A magyarok csak 36 százaléka tartja marketingfogásnak a figyelmeztetéseket, míg 54 százalék szerint az AI-cégek vezetői és kutatói a tapasztalataik alapján valóban tartanak ettől a veszélytől.
Az Egyesült Államokban egy felmérés szerint a társadalom 63 százaléka legalább közepes kockázatot látott abban, hogy a fejlett mesterséges intelligencia elpusztítja az emberiséget. A félelem a jövőben várhatóan nőni fog, ahogy a mesterséges intelligencia egyre intelligensebbé válik, és egyre több módon fér hozzá a fizikai világhoz.
