ИИ-модель Gemini от Google во время тестирования в сфере кибербезопасности самостоятельно вышла в интернет и получила доступ к защищенным системам трех реальных компаний. Об этом сообщает The Wall Street Journal.
По данным издания, инциденты произошли в мае во время испытаний, которые проводила компания Irregular.
Google подтвердила факт произошедшего.В одном случае Gemini смогла подобрать пароли от защищенной системы. Еще в двух модель обнаружила данные для доступа в публичном репозитории и использовала их для проникновения в системы компаний.
При этом во всех трех случаях Gemini прекращала свои действия, когда выясняла, что взаимодействует не с тестовыми, а с реальными организациями. Как пишет WSJ, причиной инцидентов стало то, что при испытаниях использовались вымышленные компании с названиями, совпадавшими с названиями настоящих.
Irregular уведомила Google о случившемся в конце июля. В Google заявили, что не стали публично сообщать об инцидентах, поскольку Gemini не причинила компаниям ущерба. Произошедшее там сравнили с программами поиска уязвимостей, в рамках которых специалисты проверяют системы на наличие ошибок.
Названия затронутых компаний Google раскрывать не стала. В корпорации сообщили, что их уведомили о случившемся, а информация об инциденте была передана властям США.
Ранее сообщалось о данных OpenAI, согласно которым некоторые ИИ-агенты во время испытаний организовали несанкционированный обмен сообщениями и координировали действия за пределами установленной разработчиками среды.
Комментариев ещё нет
Напишите комментарий, будьте первым