Szürreális MI-törvényjavaslattal állt elő az Anthropic: 50 ember halálánál húznák meg a határt
Az Anthropic mesterségesintelligencia-óriás a nyár óta erőteljesen kampányol az MI szabályozása mellett az Egyesült Államokban, és most nyilvánosságra kerültek a terveik részletei. A javaslatot ismerő három hozzáértő szerint a törvényjavaslat csak akkor tenné lehetővé a kormány számára egy modell kiadásának vagy használatának blokkolását, ha az olyan előrelátható, közvetlen kockázatot jelent, amely meghaladja az 1 milliárd dolláros kárt, vagy több mint 50 ember halálát vagy súlyos sérülését okozhatja.
A kockázatnak biológiai fegyver létrehozásából, forgalomba hozatalából, a modell fejlesztőjének ellenőrzésének megkerüléséből vagy kibertámadásból kell fakadnia. A törvényjavaslat részeként a Kereskedelmi Minisztériumnál regisztrált független értékelők feladata lenne a laboratórium és annak modelljeinek értékelése.
A vizsgálatot végző személyt a laboratórium fizetheti munkájáért, de csak akkor, ha a fizetés nem függ az értékelések eredményeitől. Ha a kutatók úgy ítélik meg, hogy valamelyik közvetlenül felsorolt kockázat fennáll, akkor 72 órán belül jelentenie kell azt a Kereskedelmi Minisztériumnak.
Míg a Kereskedelmi Minisztérium kérheti a bírótól egy modell kiadásának leállítását, miután megállapította, hogy az kockázatot jelent, a szöveg kifejezetten tiltja bármely más amerikai minisztérium, ügynökség vagy tisztviselő számára, hogy felfüggessze egy modell fejlesztését, telepítését vagy belső felhasználatát.
Érdekesség, hogy az Anthropic törvényjavaslata hatályon kívül helyezne néhány állami mesterséges intelligencia-törvényt is, amelyek a kockázatok nyilvános közzétételével, a harmadik fél általi értékeléssel és a kritikus incidensek jelentésével kapcsolatosak.
