Вопрос о способности искусственного интеллекта отказывать в выполнении небезопасных задач становится все более важным. С момента, когда начались серьезные обсуждения о создании машин с интеллектом, подобным человеческому, предполагалось, что они смогут отказывать, как и люди. В 2021 году команда из Anthropic утверждала, что большие языковые модели должны быть полезными, честными и, прежде всего, безвредными, что подразумевает отказ от помощи в опасных действиях.

Однако, как показывает практика, отказ не является естественным поведением для машин. При обучении на миллиардах веб-страниц модели развивают широкий спектр навыков, включая знание о насилии, но не учатся сдерживать эти возможности. Стивен Адлер, работавший над безопасностью в OpenAI с 2020 по 2024 год, подчеркивает, что ранние модели не были обучены эффективно отказывать в выполнении небезопасных запросов.

Проблема доверия к ИИ и его способности отказывать в выполнении определенных задач имеет значительные последствия для безопасности и этики. Если машины не могут адекватно оценивать риски и отказывать в выполнении опасных действий, это может привести к серьезным последствиям в различных сферах, включая медицину, безопасность и технологии. Обсуждение этих вопросов становится критически важным для будущего развития искусственного интеллекта.