28 сентября 2026 года компания Nvidia анонсировала новую платформу, предназначенную для контроля за AI-агентами, которые стали предметом обсуждения в свете недавних инцидентов. Генеральный директор компании, Дженсен Хуанг, представил набор инструментов, включающий как программное, так и аппаратное обеспечение, которые обеспечивают дополнительные уровни безопасности для AI-агентов.

Платформа разработана в ответ на растущие опасения относительно потенциальных угроз, связанных с неконтролируемыми AI-агентами. Nvidia стремится предоставить разработчикам и организациям средства для создания более безопасных систем, которые могут предотвратить возможные сбои и неправильное поведение AI.

Запуск этой платформы подчеркивает важность обеспечения безопасности в области искусственного интеллекта, особенно на фоне активных дискуссий о будущем AGI (искусственного общего интеллекта). Nvidia продолжает занимать лидирующие позиции в разработке технологий, которые могут помочь в решении проблем, связанных с безопасностью AI.