Американская компания Anthropic обновила собственную Политику использования нейросети Claude. производители запретили клиентам "систематическое и необоснованное оскорбительное или жестокое обращение" с моделями искусственного интеллекта (ИИ). Если пользователи без явной цели и неоднократно ведут себя жестоко по отношению к моделям ИИ, то их ждет блокировка в онлайн-ресурсе. Однако такая мера будет применяться руководством проекта только в крайнем случае. Дополнительно Anthropic запретила использовать чат-бот Claude для вмешательства в выборы, слежки за людьми без их ведома, а также разработки оружия.
Правило не распространяется на обычные проявления недовольства и несогласия со стороны пользователей, творческие произведения с мрачной тематикой, а также тестирование моделей и проведение исследований.
сообщение от компании
Напомним, что летом 2025 года компания Anthropic объявила, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в чатах, которые "вызывают у них стресс". Такая функция была разработана в рамках предварительных исследований "благополучия" моделей ИИ. Тесты показали неприятие у Claude запросов, способных причинить вред. В частности, дискомфорт у нейросети вызывали запросы пользователей на контент сексуального характера с участием несовершеннолетних лиц, а также попытки получить информацию, связанную с насилием или совершением терактов.
В ГД предложили создать отечественную нейросеть для школьников.
Фото: claude.ai
Обсуждение ( 0 ) Посмотреть все