Lassítaná a mesterséges intelligencia fejlesztését az Anthropic vezére
Dario Amodei, az egyik vezető mesterségesintelligencia-vállalat, az Anthropic vezérigazgatója a fejlesztések lassítására szólította fel a technológiai szektort. Az üzletember egy három részből álló tervet osztott meg közösségi oldalán.
Amodei bejelentette, hogy az Anthropic egyoldalú kötelezettséget vállal az első lépés megtételére: független ellenőröknek adnak hozzáférést belső rendszereikhez, hogy azok felmérhessék modelljeik megbízhatóságát, és meggyőződhessenek a biztonsági intézkedések betartásáról. A javasolt második lépés az iparág egészére kiterjedő együttműködés előírása, a harmadik pedig a globális szintű koordináció biztosítása.
Sam Altman, a ChatGPT-t fejlesztő OpenAI vezetője egy válaszbejegyzésben azt írta, egyetért Amodeival, és az ő vállalatuk is hozzáférést biztosít rendszereihez a független ellenőrök számára. Elon Musk szintén úgy fogalmazott, hogy az Anthropic vezérének igaza van, hasonló vállalást azonban nem tett.
Mindez napokkal azután történt, hogy az Anthropic és más mesterségesintelligencia-cégek munkavállalói nyíltan beszéltek a technológia egész emberiséget érintő veszélyeiről. Jacob Coxon MI-kutató arról írt, hogy az elmúlt három évet az OpenAI-nál és az Anthropicnál töltötte, és állítása szerint egyik cég sem cselekszik felelősségteljesen, mert az önfejlesztő szuperintelligencia megalkotásáért versenyeznek, miközben az életünkkel játszanak. Bejegyzésében arról is írt, hogy a mesterséges intelligencia hamarosan az egész emberiség végét jelentheti.
Evan Hubinger, az Anthropic egyik vezető kutatója egy válaszposztban megerősítette ezeket az állításokat: azt írta, Jacobnak igaza van, és tényleg úgy gondolják, hogy a mesterséges intelligencia végezhet minden emberrel. Személy szerint tíz százaléknál nagyobb esélyt lát rá, hogy ez már a következő évtizedben megtörténhet.
Az Anthropic nem sokkal ezután tette közzé friss veszélyforrás-felderítési jelentését, amelyben arról írtak, hogy az elmúlt nyolc hónapban bűnözők, állami támogatású csoportok, kémszoftvereket értékesítő vállalatok, tudósok és propagandisták is megpróbálták felhasználni mesterségesintelligencia-modelljeiket rakéták, bombák és biofegyverek készítéséhez, kibertámadások lefolytatásához, valamint másként gondolkodók megfigyeléséhez.
A mesterséges intelligenciával kapcsolatos agglomerációk miatt Sam Altman nemrég azt is bejelentette, hogy a korábbi tervekkel ellentétben az OpenAI 2026-ban nem fog a tőzsdére lépni.
