Компания Anthropic продвигает в Конгрессе США инициативу, которая позволит через суд запрещать выпуск и использование систем искусственного интеллекта при высоком риске ущерба. Об этом сообщает Politico со ссылкой на источники.
Под запрет могут попасть модели, способные нанести ущерб на сумму не менее $1 млрд либо привести к гибели или тяжёлому травмированию более 50 человек. Речь идёт об угрозах, связанных с биологическим оружием, кибератаками или выходом ИИ из-под контроля разработчика.
Законопроект также обязывает разработчиков внедрять внутренние системы контроля безопасности, публиковать отчёты и уведомлять Минторг США о масштабных сбоях.
Ранее мы писали, что Разработчики ИИ готовятся к возможному кризису в ближайший год.
