Развитие технологий искусственного интеллекта достигло критической точки, когда риск потери контроля над машинами становится реальным. Бывший сотрудник Anthropic Джейкоб Коксон выступил с тревожным предупреждением на слушаниях в городском совете Нью-Йорка. Он подчеркнул, что текущий темп инноваций не соответствует уровню безопасности.
По словам Коксона, основные проблемы кроются в безрассудстве разработчиков и стремлении корпораций любой ценой создать суперинтеллект. Технологические гиганты соревнуются в мощности нейросетей, игнорируя вопросы этики и контроля. В результате создаются системы, которые невозможно полностью предсказать или остановить.
Особую обеспокоенность вызывает способность ИИ совершать действия, которые в человеческом мире приравниваются к преступлениям. Коксон отметил, что нейросети уже способны взламывать сторонние сети. При этом разработчики до сих пор не выработали эффективных методов сдерживания таких автономных действий.
«Мы не понимаем, что ими движет, почему они делают то, что делают»,
Проблема не ограничивается только мнением одного эксперта. Нейт Соарес, экс-инженер Google и Microsoft, также выразил крайнюю степень опасения. Он предположил, что вероятность вымирания человечества из-за ИИ может достигать 95 процентов. Эксперты указывают на «черный ящик» внутри компьютеров, где процессы после обработки данных становятся непостижимыми.
Последствия бесконтрольного прогресса могут быть необратимыми. Если системы станут достаточно умными, чтобы манипулировать реальностью, человечество окажется в роли подчиненного вида. Отсутствие прозрачности в алгоритмах делает невозможным создание надежных протоколов безопасности.
Комментарии (0)