На недавнем запуске в Сингапуре компания Anthropic представила свою программу защиты данных и обсудила риски двойного использования своих ИИ-моделей. Сооснователь компании Бенджамин Манн подчеркнул, что Anthropic не готова полностью отказаться от контроля за тем, как клиенты используют их мощные модели ИИ, чтобы избежать потенциальных злоупотреблений.

Мann также ответил на вопрос о возможности предоставления решений по локальному хранению данных и суверенному ИИ, отметив, что компания стремится к тому, чтобы клиенты могли безопасно обрабатывать свои самые чувствительные рабочие нагрузки. В сентябре Anthropic запустила программу Enterprise Frontier Safeguards, направленную на усиление защиты конфиденциальности данных, включая отсутствие хранения данных для соответствующих клиентов.

Эти меры важны для обеспечения безопасности технологий, которые могут быть использованы как в мирных, так и в военных целях. Anthropic регулярно сообщает о попытках использования своих моделей ИИ, таких как Claude, как государственными, так и негосударственными акторами, что подчеркивает необходимость строгого контроля и защиты данных в данной области.