На заседании Совета Безопасности ООН генеральный директор одной из ведущих мировых ИИ-компаний Anthropic Дарио Амодеи выступил с очередным предостережением о возможных катастрофических последствиях стремительного развития искусственного интеллекта. По его словам, технология уже сейчас развивается настолько быстро, что может стать угрозой для человечества в целом. «Я даже полагаю, что ИИ может представлять угрозу человечеству в целом», — приводит ТАСС высказывание топ-менеджера. Это заявление прозвучало на фоне активного обсуждения международных механизмов регулирования ИИ.
Амодеи проиллюстрировал скорость прогресса конкретными примерами. Он отметил, что всего четыре года назад ИИ едва ли мог написать строку кода или решить математическую задачу для старшеклассников. «Теперь он пишет большинство кодов Anthropic», — продолжил глава компании. По его оценке, если технология сохранит текущую траекторию, то уже через год-два или даже меньший срок она достигнет состояния, которое он называет «страной гениев в дата-центре». Это означает появление систем, способных решать интеллектуальные задачи на уровне лучших специалистов мира.
Несмотря на очевидные преимущества, которые передовые ИИ-модели могут принести человечеству, Амодеи указал на сопряжённые с ними существенные риски. Среди них — возможность ненадлежащего использования технологий для создания биологического оружия, а также опасность в целом утратить контроль над развитием ИИ. По его мнению, такие сценарии требуют пристального внимания не только со стороны разработчиков, но и всего международного сообщества. Именно поэтому он и решил выступить на площадке Совбеза ООН.
В связи с этим Амодеи заявил о готовности возглавляемой им компании замедлять скорость развития ИИ настолько, насколько потребуется для гарантирования безопасности. Он подчеркнул, что такие усилия должны иметь общеотраслевой и глобальный масштаб. «Мы готовы затормозить, если это необходимо для безопасности», — передаёт его слова ТАСС. Таким образом, Anthropic декларирует приоритет безопасности над скоростью коммерциализации.
Ранее Амодеи уже публиковал письмо с предложением затормозить прогресс ИИ, чтобы «с умом распорядиться выигранным временем». Его инициативу поддержал генеральный директор OpenAI Сэм Альтман. Однако не все представители индустрии согласны с такой позицией. Известный инвестор Майкл Бьюрри, неоднократно предсказывавший обвалы на американском фондовом рынке, раскритиковал подобные призывы.
Бьюрри предположил, что топ-менеджеры ИИ-компаний набивают цену своему бизнесу перед IPO и пытаются скрыть реальное снижение темпов роста отрасли. По его мнению, разговоры о безопасности могут быть лишь ширмой для решения финансовых задач. Таким образом, дискуссия о рисках ИИ приобретает всё более выраженный экономический и политический подтекст.
Комментарии (0)