В свежем отчете Anthropic акцентируется внимание на рисках, связанных с открытыми моделями искусственного интеллекта. В частности, новая модель от китайской компании Z.ai, доступная для свободного скачивания, может стать мишенью для кибератак. Это вызывает серьезные опасения у экспертов по безопасности, которые предупреждают о потенциальных злоупотреблениях со стороны недобросовестных пользователей.

Дебаты вокруг открытых моделей ИИ становятся все более актуальными. Сторонники открытости утверждают, что это предотвращает концентрацию власти в руках нескольких компаний, контролирующих технологии. Однако противники указывают на риски, связанные с возможностью использования этих моделей в злонамеренных целях, что поднимает вопрос о необходимости регулирования.

Эта дискуссия важна для будущего технологий ИИ, так как открытые модели могут как способствовать инновациям, так и представлять угрозу для безопасности. Учитывая растущее влияние ИИ на различные сферы жизни, необходимо найти баланс между доступностью технологий и обеспечением их безопасности.