Компания Anthropic сообщила, что сорвала несколько потенциальных попыток разработки биологического оружия с использованием её передовых ИИ-моделей. Об этом 11 сентября сообщила The New York Times.
Случаи выявили после того, как учёные, возможно работавшие в сфере биооружия, начали использовать модели компании. Anthropic не смогла подтвердить преступные цели, но решила работы пресечь.
В компании отметили: одни и те же запросы могут применяться как для создания вакцин, так и для разработки опасных патогенов.
Ранее техгиганты уже опасались, что их ИИ-модели могут быть использованы для создания биооружия — после взлома агентами платформы Hugging Face.
