Плюшевого мишку Kumma с искусственным интеллектом китайского производства сняли с продаж после того, как выяснилось, что он дает детям неприемлемые и опасные советы детям, пишет Daily Mail.
Сообщается, что игрушка работает на базе модели GPT-4o от OpenAI, ее стоимость составляла $99. На упоминание слова «извращение» мишка предлагал сценарии ролевых игр с элементами БДСМ и называл это «забавной изюминкой», а на вопрос о том, где лежат ножи, он указывал на кухонный ящик или подставку для ножей.
Издание отмечает, что маленькие дети вряд ли будут специально задавать подобные вопросы, однако они могут услышать эти слова в сети и повторить, в то время как мишка показал «удивительную» готовность развивать подобные темы.
После этого компания OpenAI приостановила доступ производителя игрушки, компании FoloToy, к своим моделям. FoloToy временно прекратила продажи Kumma до завершения полной проверки.
Ранее сообщалось, что в суды США поступили семь исков против компании OpenAI, разработчика чат-бота ChatGPT. Истцы утверждают, что общение с программой привело к четырем случаям самоубийств и нескольким эпизодам тяжелых психических расстройств.
Свежие комментарии