Законопроект, предложен за разглеждане в Конгреса на САЩ, предвижда налагане на ограничения на изкуствения интелект в ситуации, включващи заплаха от масови жертви или щети, надхвърлящи 1 милиард долара.
AI разработчикът Anthropic подкрепя законопроект, който би дал правомощия на властите да спрат пускането и използването на системи с изкуствен интелект, ако те представляват значителна заплаха, съобщи Политико.
Документът предвижда намеса в случаи, при които съществува риск от щети на обща стойност от 1 милиард долара или повече, опасност от смърт или сериозни наранявания за повече от 50 души.
В обхвата на законопроекта попадат заплахи от създаване на биологични оръжия, излизане на даден AI модел извън контрола на неговите разработчици или кибератака.
Оценката на потенциалните рискове ще се извършва от независими експерти, регистрирани към Министерството на търговията на САЩ. Въз основа на техните заключения, Министерството би могло да поиска от съда да спре съответния проект.
Законопроектът също така ще изисква от разработчиците да създадат вътрешни звена за безопасност, да публикуват доклади за работата на своите AI модели и своевременно да уведомяват регулаторните органи за всякакви сериозни неизправности.
Отделна разпоредба има за цел да защити лицата, подаващи сигнали за нарушения (т.нар. „whistleblowers”) – служители, които разкриват информация за нередности – от ответни действия срещу тях.
Според Политико, някои аспекти на тази инициатива наподобяват законите за регулиране на изкуствения интелект в Калифорния, които бяха приети през 2025 г.
Anthropic – компанията, разработила семейството езикови модели Claude – описва предложените мерки като разумен подход към надзора над най-мощните системи с изкуствен интелект.
