Добро пожаловать в эпоху цифровых угроз, где случаи домогательств, унижений, груминга, сексуального вымогательства, самоубийств и мошенничества, связанных с дипфейками, по прогнозам, превысят 1,5 миллиарда долларов в 2025 году. Из-за сложности различения настоящих изображений и подделок, борьба с этим кризисом становится всё более затруднительной.

Масштабы проблемы

В 2023 году расследование в Великобритании выявило 276 149 сексуальных дипфейков на одном специализированном сайте, при этом 96% изображений были с женщинами. В сентябре того же года сайты, предлагающие услуги по созданию обнажённых дипфейков, собрали 24 миллиона посещений по всему миру.

Текущие меры и вызовы

Власти Великобритании заявили о намерении сделать невозможным для детей создание, распространение и просмотр обнажённых изображений с помощью мобильных устройств. Однако эти меры не решают проблему создания дипфейков и малоэффективны без цифровых инструментов для их обнаружения.

Технологические решения

Особое внимание уделяется инновационным разработкам, таким как RealorRender — система, созданная исследователями Института оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer IOSB) в Германии при поддержке Федерального ведомства по информационной безопасности Германии (BSI).

RealorRender не только выявляет дипфейки, но и объясняет, почему изображение классифицировано как подлинное или сгенерированное искусственным интеллектом. Гибридный подход системы сочетает методы глубокого обучения с оценкой того, насколько точно генеративная модель может воспроизвести изображение. Если система успешно клонирует исходное изображение, это указывает на его синтетическое происхождение.

Эффективность и прозрачность

Точность RealorRender составляет от 85% до 91%, а в отдельных случаях может быть выше. Ключевая особенность системы — использование методов объяснимого искусственного интеллекта (XAI), которые выделяют области и структуры изображения, повлиявшие на решение модели. Особые текстуры или характерные частотные паттерны могут указывать на синтетическое происхождение изображения. Для наглядности подозрительные участки выделяются на тепловых картах, что повышает прозрачность работы системы.

Значение для безопасности

Для потенциальных жертв персональных, коммерческих или политических дипфейков появление таких технологий означает повышение уровня защиты. Новые методы обнаружения дипфейков обеспечивают более высокую точность по сравнению с предыдущими подходами и предоставляют эффективные инструменты для борьбы даже с самыми современными генераторами поддельных изображений.

Перспективы

Развитие и внедрение подобных систем может способствовать снижению числа преступлений, связанных с дипфейками, и повысить безопасность пользователей в цифровом пространстве. Совместные усилия государственных структур и технологических компаний направлены на предотвращение распространения вредоносного контента и защиту будущих поколений от угроз, связанных с искусственно сгенерированными изображениями.