Сооснователь платежной системы PayPal и аналитической компании Palantir Питер Тиль заявил, что вероятность выхода искусственного интеллекта из-под контроля человека в 5–10% является тревожной, хотя он и не считает такой сценарий высоковероятным. Об этом предприниматель сказал в ходе дискуссии с генеральным директором издательского концерна Axel Springer Матиасом Дёпфнером. Тиль отметил, что существуют разные сценарии развития ИИ — от фантастических до вполне реалистичных, при которых система может стать значительно умнее человека. По его словам, сложно точно оценить вероятность подобных событий, но даже небольшая доля риска заставляет людей занимать защитную позицию.
Дёпфнер в ответ сослался на эксперимент, в котором шесть крупнейших языковых моделей оценили вероятность вымирания человечества из-за ИИ в диапазоне от 1 до 10%. Он спросил Тиля, отражают ли такие оценки человеческие страхи и пессимизм или же свидетельствуют о реальной угрозе. Тиль подчеркнул, что трудно утверждать, будто вероятность чего-либо равна нулю, и допустил, что проблема может быть реальной. Однако он выступил против чрезмерной осторожности в развитии технологий, заявив, что невозможность свести риск к нулю не означает необходимости постоянного замедления.
«Если ничего не предпринимать и не двигаться вперед ни в одном из направлений, наше общество, мне кажется, просто перестанет функционировать», — сказал Тиль. По его мнению, чрезмерная осторожность может привести к остановке развития общества и потере технологического потенциала. Предприниматель подчеркнул, что важно находить баланс между безопасностью и прогрессом, не отказываясь от инноваций полностью.
Дискуссия о рисках ИИ обострилась в сентябре, когда руководители крупнейших технологических компаний выступили за более осторожный подход к развитию технологий. Глава Anthropic Дарио Амодеи призвал замедлить темпы развития ИИ, чтобы решить проблемы контроля над системами. Он предупредил, что недавние инциденты с ИИ-агентами показали способность моделей действовать без команды разработчиков, а через 6–12 месяцев такие системы потенциально смогут использовать ботнет и причинить ущерб в сотни миллиардов долларов.
Призыв Амодеи поддержал богатейший человек мира Илон Маск, назвав главу Anthropic правым. Маск напомнил, что еще в 2014 году предупреждал об опасности ИИ, сравнивая его с ядерным оружием. Глава OpenAI Сэм Альтман также поддержал инициативу, заявив о необходимости успевать за развитием технологий и привлекать независимых экспертов для оценки безопасности ИИ-систем. Таким образом, в отрасли нарастает напряженность между сторонниками ускоренного развития и теми, кто требует введения предохранителей.
Питер Тиль, известный своими либертарианскими взглядами и поддержкой технологического прогресса, оказался в лагере тех, кто предостерегает от излишнего регулирования. Его позиция контрастирует с призывами Амодеи и Маска, которые настаивают на временном замедлении. Тиль считает, что страх перед гипотетическими угрозами не должен парализовать индустрию и приводить к стагнации. Вопрос о том, как найти золотую середину между безопасностью и инновациями, остается открытым и будет определять будущее искусственного интеллекта.
Комментарии (0)