Одним из наиболее серьёзных рисков развития искусственного интеллекта может стать его использование для поиска уязвимостей и проведения кибератак, считает эксперт по информационной безопасности Владимир Зыков. Об этом пишет «ФедералПресс».
По его словам, ИИ остаётся универсальным инструментом, который уже применяется в медицине, разработке лекарств и других областях.
При этом те же возможности могут использоваться в потенциально опасных целях, в том числе при создании биологического или химического оружия.Однако более вероятной угрозой Зыков считает применение нейросетей в киберпространстве. Он отметил, что современные модели способны находить уязвимости в операционных системах, браузерах и других сервисах, а автоматизация таких процессов позволяет значительно сократить число людей, необходимых для проведения атак.
Эксперт также допустил риски применения автономных ИИ-агентов против критической и военной инфраструктуры. Приведённые им примеры выхода систем за пределы тестовой среды и самостоятельного взаимодействия между агентами являются оценкой самого Зыкова.
По его мнению, при регулировании искусственного интеллекта необходимо учитывать не одну конкретную угрозу, а весь спектр возможного опасного применения технологии.
Комментариев ещё нет
Напишите комментарий, будьте первым