Компания Anthropic объявила о внесении изменений в свою политику использования модели Claude, впервые за более чем год. Одним из ключевых нововведений стало запрещение 'долговременного и ненужного жестокого или оскорбительного поведения' в отношении модели. Это решение было принято в контексте выявления новых случаев злоупотреблений, таких как вмешательство в выборы и разработка оружия.

В августе прошлого года Anthropic уже анонсировала возможность для Claude завершать разговоры с пользователями, проявляющими 'постоянно вредное или оскорбительное' поведение. Обновленная политика подтверждает, что прекращение общения остается основным механизмом обеспечения соблюдения правил. Однако компания не предоставила комментариев по поводу других аспектов обновлений.

Эти изменения подчеркивают важность соблюдения этических норм в использовании искусственного интеллекта. Учитывая растущие опасения по поводу злоупотреблений в области ИИ, такие меры могут способствовать более безопасному и ответственному использованию технологий в будущем.