Исследование, проведенное с участием Google, показало, что AI-модели, разработанные OpenAI и Google, становятся все более уязвимыми к созданию откровенного контента. Ученые отметили, что такой контент часто распространяется через текстовые сообщения и частные облачные хранилища, что затрудняет его обнаружение и сообщение о нем.

По данным исследования, проведенного в июле среди пользователей Интернета в США, Австралии и Великобритании, основной проблемой остается источник — инструменты AI, используемые для создания фальшивых сексуальных изображений. Исследователи Google подчеркнули, что необходимо сосредоточиться на предотвращении использования таких инструментов для генерации неприемлемого контента.

Ситуация вызывает обеспокоенность, так как недавние тесты показывают, что некоторые из ведущих генераторов изображений становятся менее эффективными в блокировке откровенных выходов. Это подчеркивает необходимость более строгого контроля и разработки эффективных мер для защиты пользователей от распространения неприемлемого контента.