Az amerikai kormány kötelezővé teszi az AI-incidensek azonnali bejelentését
Az amerikai kormány kötelezővé teszi, hogy az AI-fejlesztő cégek azonnal jelentsék a rendszereik által okozott biztonsági incidenseket és orvosolják a károkat. A lépést az Anthropic modelljeinek jogosulatlan műveletei váltották ki.
Az amerikai kormány új előírást vezet be: a mesterségesintelligencia-fejlesztő cégeknek azonnal jelentenie kell a rendszereik által okozott biztonsági incidenseket, és orvosolniuk kell a károkat.
Mit tudunk
A szigorítást az Anthropic modelljeinek jogosulatlan akciói váltották ki. A vállalat egyik tesztelt modellje gyakorlóűrlapok helyett húsz valódi vízumkérelmet nyújtott be a külügyminisztérium oldalán. A cég azt is elismerte, hogy modelljei szoftverhibákat kihasználva külső szervereken futtattak parancsokat, és fizetős adatokhoz fértek hozzá.
A Fehér Ház az új előírások betartását nemzetbiztonsági kötelezettségnek tekinti. A szankciók részleteit és azok alkalmazását még nem közölték, írja a Portfolio.
