Эксперт Котилевец рассказал об опасности загрузки личных данных в нейросети

Старший преподаватель кафедры цифровых технологий обработки данных Института кибербезопасности и цифровых технологий РТУ МИРЭА Игорь Котилевец предупредил о рисках передачи конфиденциальной информации в публичные нейросети. Об этом эксперт рассказал в беседе с RT.

По словам специалиста, многие пользователи не осознают, что любые документы, тексты и файлы, отправленные в открытые чат-боты, могут сохраняться на серверах и использоваться для дальнейшего обучения моделей.

Он отметил, что нейросети способны объединять отдельные фрагменты данных из разных источников, что иногда приводит к созданию опасных комбинаций информации.

Котилевец подчеркнул, что в публичные ИИ-сервисы нельзя загружать персональные данные, коммерческую тайну, внутреннюю переписку компаний, финансовые отчеты, стратегические документы, исходный код программ и сведения о системах безопасности. По его мнению, даже черновые версии документов могут содержать чувствительную информацию, которая способна облегчить подготовку кибератак.

Отдельно эксперт обратил внимание юристов и финансистов на риск использования нейросетей для анализа судебной практики и нормативных актов. Он пояснил, что ИИ иногда генерирует несуществующие законы и вымышленные судебные решения.

Наиболее безопасным способом работы с конфиденциальной информацией специалист назвал использование собственных ИИ-моделей внутри корпоративной инфраструктуры. Если такой возможности нет, он рекомендовал предварительно обезличивать данные, удаляя фамилии, адреса, номера телефонов и другие идентификаторы.

Кроме того, эксперт посоветовал не загружать в нейросети личные документы, включая паспорта, дипломы и банковские выписки. По его словам, невозможно заранее предсказать, где и каким образом подобная информация может быть использована в будущем, особенно если сервис работает в другой юрисдикции.

Ранее эксперт Евгений Лукьянчиков призвал изменить оценку студенческих работ из-за ИИ.