Разработчик чат-бота Claude компания Anthropic выявила несколько случаев, когда нейросеть пытались использовать для задач, связанных с созданием биологического оружия, сообщает KP.RU со ссылкой на пресс-службу компании.
В отчёте Anthropic говорится о пяти подобных эпизодах. В частности, пользователи запрашивали помощь в планировании экспериментов по усилению вируса чикунгуньи, адаптации птичьего гриппа к млекопитающим и подготовке заявки на грант, связанной с преодолением иммунной защиты ортопоксвирусами.
Также нейросеть применяли для создания базы пептидов ядов и их оптимизации с целью усиления парализующего действия и блокировки нервных импульсов.
Специалисты Anthropic заблокировали учётные записи пользователей, которые пытались применять Claude для подобных целей.
В компании при этом не раскрыли, из какой страны поступали соответствующие запросы.
Комментариев ещё нет
Напишите комментарий, будьте первым