Anthropic обновила правила использования Claude для высокорисковых сценариев
Anthropic опубликовала новую версию Usage Policy, которая вступит в силу 12 ноября. Компания уточнила запреты на обманные кампании, оружие и наблюдение, а также требования к использованию Claude в сферах, где решения могут повлиять на здоровье, финансы или права людей.
Anthropic сообщила о новой версии Usage Policy, опубликованной 8 октября 2026 года. Компания подчёркивает, что большая часть изменений уточняет уже существующие правила, но документ получил новые примеры, связанные с более самостоятельной работой Claude и новыми способами злоупотребления моделями.
В политике появился отдельный раздел о запрете обманных кампаний и искусственной активности. Он охватывает создание сетей фальшивых аккаунтов и новостных сайтов, сокрытие инициатора сообщения и инфраструктуру для кампаний влияния — независимо от того, имеют ли они политический или коммерческий характер. Раздел о выборах теперь прямо сосредоточен на обмане избирателей и нарушении демократических процессов. При этом Anthropic убрала общий запрет на персонализированный таргетинг голосов и кампаний, сохранив ограничения на обман и неправомерное использование персональных данных.
Компания также уточнила запрет на разработку оружия: он распространяется на программное обеспечение и компоненты, необходимые для его работы, а также на вооружение дронов и других автономных транспортных средств. Для наблюдения запрещено отслеживание людей без их согласия и создание или улучшение инструментов наблюдения. В высокорисковых сценариях сохраняются требования о квалифицированном человеке, способном пересмотреть рекомендацию Claude, и об уведомлении затронутого человека. Для оборудования с автономными физическими действиями оператор должен иметь возможность остановить его, а система — перейти в безопасное состояние при отключении Claude.
Почему это важно
Обновление формализует правила для сценариев, где ошибки или злоупотребления Claude могут затронуть выборы, безопасность, здоровье, финансы и физическое окружение. Разработчикам и организациям придётся соотносить такие применения с требованиями Anthropic к человеческому контролю и информированию пользователей.
