Компания Anthropic выявила несколько случаев возможного использования моделей Claude для исследований, результаты которых могли применяться при разработке биологического оружия, следует из отчета разработчиков.
Реальные намерения исследователей вызвали вопросы специалистов — отмечается, что полученные данные могут использоваться как при создании лекарств и вакцин, так и для изменения опасных патогенов.
Пользователи обходили региональные ограничения для доступа к моделям и пытались скрыть содержание своей работы, чтобы не активировать защитные механизмы.
Anthropic заблокировала подозрительные аккаунты, однако при этом компания не стала раскрывать имена пользователей, страны их происхождения, а также изучаемые ими биологические компоненты.
В частности, один из таких исследователей изучал смертоносный вирус чикунгунья с помощью Claude. Его проект предполагал создание мутаций, способных повысить опасность вируса при повторном заражении животных.
SIBNET.RU В MAX