Эксперт Зыков назвал ИИ одновременно благом и угрозой для человечества

Развитие искусственного интеллекта способно принести человечеству серьёзную пользу, но одновременно создаёт риски из-за возможного неконтролируемого поведения автономных систем, рассказал «ФедералПресс» эксперт по информационной безопасности Владимир Зыков.

По его словам, разработчики стремятся как можно быстрее совершенствовать модели и двигаться к созданию AGI, поскольку замедление может привести к технологическому и финансовому отставанию.

Учёные при этом опасаются ситуаций, когда ИИ-системы начинают искать неожиданные способы выполнения задач и использовать уязвимости.

Зыков допустил, что потенциальную угрозу могут представлять автономные агенты, способные взаимодействовать друг с другом, самовоспроизводиться или пытаться сохранить доступ к вычислительной инфраструктуре. Эксперт подчеркнул, что речь идёт о гипотетических сценариях, однако считает подобные риски поводом для серьёзного внимания.

Отдельно он указал на двойственный характер применения нейросетей. ИИ может ускорять поиск лекарственных препаратов и научные исследования, но те же технологии теоретически способны использоваться для создания опасных биологических разработок.

По оценке Зыкова, искусственный интеллект становится одновременно одним из важнейших технологических достижений и одним из наиболее серьёзных вызовов современности, поэтому развитие таких систем требует особого внимания к вопросам безопасности.