Специалист Дмитриев назвал ИИ-агентов новой серьёзной угрозой для бизнеса

Интеллектуальные агенты, встроенные в ПО и действующие от лица пользователей, — новая серьёзная угроза для бизнеса, так как они могут стать инструментом киберпреступников, заявил в беседе с RT заместитель генерального директора по безопасности компании «СберКорус» Иван Дмитриев.

Он уточнил, что непосредственно у ИИ-агентов нет собственных желаний, чувств или стремлений к личной выгоде.

Их поведение определяется заложенными человеком-разработчиком целями, алгоритмами обучения и правилами, которым они следуют.

По словам эксперта, ИИ-агенты уже сейчас активно меняют содержание электронных документов до момента их подписания. Они несут угрозу проставления фальшивых подписей и побеждают людей на соревнованиях так называемых белых хакеров. Всё это упрощает возможности кибератак со стороны злоумышленников.

С развитием инструментария искусственного интеллекта преступники получают доступ к мощным инструментам, доступным прежде только крупным участникам рынка, отметил собеседник RT.

«Традиционные меры защиты электронной почты и мессенджеров теперь являются лишь базовым уровнем гигиены, сравнимым с мытьём рук перед едой», — подчёркивает Дмитриев.

Отмечается, что реальная угроза сегодня сконцентрирована вокруг принципиально новых способов взаимодействия пользователей с приложениями и системами. Речь идёт об интеллектуальных агентах (ИИ-агенты), встроенных в ПО и действующих от лица пользователя.

Чтобы защитить бизнес от киберугроз, необходим комплексный подход к обеспечению информационной безопасности компаний, считает Дмитриев.

«Среди них — развитие автоматизированных решений на базе ИИ, которые смогут противостоять новым видам киберугроз, и участие квалифицированных специалистов для проверки корректности алгоритмов, выработанных ИИ», — пояснил эксперт.

По его словам, обеспечение информационной безопасности — одна из ключевых задач современного цифрового мира, особенно для крупных предприятий и организаций, работающих с большим объёмом конфиденциальных данных и важных документов.

Ранее депутат Госдумы Дмитрий Гусев объяснил в беседе с RT важность законопроекта, в котором предлагается ввести обязательную маркировку видео, созданных с помощью искусственного интеллекта (ИИ).