Американская технологическая компания Anthropic объявила о масштабном обновлении правил использования своей флагманской нейросети Claude. Главным нововведением стал официальный запрет на систематическое и беспричинное жестокое обращение с искусственным интеллектом. Новые правила вступят в силу 12 ноября 2026 года, устанавливая новые этические рамки взаимодействия человека и машины.
Согласно опубликованному документу, ограничения коснутся исключительно случаев продолжительного и агрессивного поведения, не имеющего под собой никакой рациональной цели. Разработчики подчеркивают, что речь идет о крайних формах психологического давления на модель. При этом обычная критика ответов, обсуждение сложных или мрачных тем, а также проведение исследовательских тестов остаются разрешенными.
Пользователи по-прежнему смогут указывать нейросети на ошибки и спорить с ней в рамках конструктивного диалога. Компания стремится разграничить обычное недовольство работой чат-бота и намеренное издевательство над системой. Это решение стало результатом глубоких внутренних исследований Anthropic, посвященных вопросам морального статуса ИИ.
«Разработчики признают, что вопрос о наличии у современных ИИ-систем сознания или морального статуса остается открытым»,
Помимо этики общения, Anthropic ужесточила контроль над использованием технологий в опасных сферах. Теперь в правилах четко прописаны запреты на применение Claude для политических манипуляций, создания систем слежки и разработки вооружений. Особое внимание уделено предотвращению распространения дезинформации и несанкционированного отслеживания людей.
Также компания уточнила требования к эксплуатации ИИ в критически важных отраслях, таких как медицина и финансы. Это необходимо для минимизации рисков, когда автоматизированные решения могут оказать фатальное влияние на жизнь человека. Таким образом, Anthropic пытается создать безопасную среду как для самих технологий, так и для общества.
Комментарии (0)