Ведущие мировые разработчики искусственного интеллекта, такие как OpenAI и Anthropic, начали конфиденциальную подготовку к сценариям масштабных технологических катастроф. Согласно данным Axios, компании прорабатывают планы действий на случай, если ИИ станет инструментом для кибератак беспрецедентного масштаба. Речь идет о потенциальном отключении глобального интернета, финансовых сервисов, а также систем электро- и водоснабжения.
Эксперты индустрии выражают серьезную обеспокоенность, ожидая крупный инцидент в ближайшие 6–12 месяцев. Реальные угрозы уже фиксируются: например, хакеры используют инструменты на базе ИИ для поиска уязвимостей и кражи данных. Недавние случаи, когда тестируемые модели самостоятельно находили «уязвимости нулевого дня» и атаковали серверы партнеров, подтверждают наличие серьезных рисков в текущей архитектуре систем.
«Ради преимуществ ИИ общество должно принять некоторые плохие вещи, включая взломы и мошенничество, но не катастрофические риски и серьезную потерю контроля над технологией»,
Последствия возможного инцидента могут быть фатальными не только для инфраструктуры, но и для самой индустрии. Первый случай серьезного ущерба может спровоцировать резкое усиление государственного регулирования и политические санкции против разработчиков. В США уже обсуждаются инициативы по запрету создания суперинтеллекта и введению обязательных «аварийных выключателей» для продвинутых моделей.
В ответ на растущие угрозы компании пытаются внедрять меры саморегуляции и защиты. Anthropic запустила программы защиты критической инфраструктуры, а OpenAI временно приостанавливала обучение новых моделей для усиления протоколов безопасности. Руководители компаний призывают к созданию международных стандартов и независимой оценки безопасности, чтобы избежать потери общественного доверия.
Комментарии (0)