Технологический гигант Google через свое подразделение DeepMind объявил о создании нового специализированного института. Основная миссия организации заключается в изучении безопасного пути развития общего искусственного интеллекта (AGI). Это решение продиктовано растущей необходимостью контроля над экспоненциально развивающимися технологиями.
Деятельность института будет сосредоточена на исследовании практического применения AGI и его долгосрочных последствий для человечества. Эксперты планируют анализировать не только технические аспекты, но и социальные изменения. Площадка станет открытой для обмена идеями между сотрудниками Google, DeepMind и мировым научным сообществом.
Особое внимание будет уделено предотвращению критических угроз, которые уже начинают проявляться. Исследователи выделяют риски в области кибербезопасности и потенциальные биологические опасности. Главная задача — разработать механизмы, которые позволят избежать утраты контроля над автономными системами.
«Мы уже замечаем последствия все более мощного ИИ для кибербезопасности и биологических рисков, при этом есть вероятность в будущем утратить контроль над саморазвивающимися системами»,
Данная инициатива проходит на фоне острых дискуссий в индустрии о темпах прогресса. Бывший сотрудник DeepMind Билал Чугтай ранее предупреждал о катастрофических сценариях, вплоть до угрозы существованию человечества. Он настаивал на необходимости координации действий компаний и замедления темпов разработки.
Подобные призывы разделяют и другие лидеры рынка, включая Дарио Амодеи из Anthropic. Илон Маск и Сэм Альтман также выразили поддержку идеям безопасного и контролируемого внедрения ИИ. Эксперты сходятся во мнении, что общество должно успевать адаптироваться к изменениям.
Комментарии (0)