Anthropic запретила пользователям оскорблять и мучить нейросеть Claude

Компания Anthropic обновила Политику использования своей нейросети Claude. Главное новшество - прямой запрет на необоснованные оскорбления и жестокое обращение с искусственным интеллектом.

Правило касается ситуаций, когда пользователи «неоднократно и без какой-либо явной цели ведут себя жестоко» с чат-ботом. При этом ограничение не распространяется на обычные споры и раздражённые реплики, творческие тексты с мрачным содержанием, а также на тестирование моделей и научные исследования.

Помимо защиты чувств ИИ, компания закрыла лазейки для политических манипуляций. Claude теперь категорически нельзя использовать для вмешательства в выборы. Под запрет попали распространение ложной информации о кандидатах и голосовании, а также выдача себя за кандидата или члена избирательной комиссии.

Отдельным пунктом прописана слежка за людьми без их согласия. Нейросеть также запретили применять для принятия решений об аресте или предъявлении уголовных обвинений.

Новые правила вступят в силу 12 ноября.

Ранее Anthropic уже фиксировала подозрительную активность. Компания выявила несколько случаев, когда её модели могли использовать для исследований двойного назначения, результаты которых потенциально применимы при разработке биологического оружия. Впрочем, установить реальные намерения пользователей тогда не удалось.