Компания Anthropic предупредила о риске того, что злоумышленники могут использовать её наиболее мощные ИИ-модели для создания химического, биологического или иного опасного оружия.
В компании подчеркнули, что защитные механизмы против такого использования моделей несовершенны: они могут устаревать или давать сбои. Кроме того, отмечается, что уже были случаи обхода этих ограничений.
Более того, в Anthropic высказали опасения, что достаточно развитые системы искусственного интеллекта без надлежащей защиты и надзора могут создавать катастрофические риски или угрозу существованию человечества.
Ранее мы писали, что Китай предложил ЕС присоединиться к международной организации по ИИ.
