Интеграция искусственного интеллекта в рабочие процессы российских IT-компаний привела к появлению новых цифровых угроз. Согласно результатам недавнего исследования, часть разработчиков программного обеспечения уже столкнулась с целенаправленными кибератаками на используемые ИИ-инструменты. Эксперты отмечают, что расширение применения нейросетей неизбежно создает дополнительные уязвимости для злоумышленников.
В ходе опроса 54 крупных российских разработчиков, представляющих 30% рынка тиражируемого ПО, выяснилось, что 4% компаний уже подверглись атакам. Основными методами хакеров стали промпт-инъекции в чат-ботов и модификация пользовательских клиентов для обхода систем безопасности. При этом более 80% организаций используют ИИ непосредственно для написания и оптимизации программного кода.
Особую тревогу вызывает масштаб использования так называемого «теневого ИИ» внутри организаций. Исследование показало, что сотрудники всех опрошенных компаний применяют сторонние нейросети в рабочих целях. В 59% случаев это происходит частично, а в 41% случаев внедрение неконтролируемого ИИ носит массовый характер, что затрудняет контроль безопасности.
«Это закономерная реакция на расширение применения ИИ-инструментов, и тенденция будет только усиливаться»,
Последствия успешных взломов ИИ-сервисов могут быть катастрофическими для бизнеса. Хакеры получают возможность не только похищать конфиденциальные данные, но и перехватывать управление внутренними функциями систем. Это создает прямой риск компрометации всего программного продукта и интеллектуальной собственности компании.
Ситуация осложняется тем, что еще 22% участников исследования не смогли отследить атаки на свои ИИ-решения. Это может свидетельствовать о скрытом характере угроз или недостаточном уровне мониторинга безопасности. Разработчикам необходимо срочно внедрять специализированные протоколы защиты для противодействия новым типам цифрового воздействия.
Комментарии (0)