Если еще год назад определить картинку, сделанную нейросетью, можно было без труда, то отличить работы самых современных нейросетей от реальных фото может быть очень сложно. На помощь в распознавании фейковых картинок могут прийти специализированные сервисы. Рассказываем, как они работают и какие из них самые точные.
Сервис-детектор после непродолжительного анализа может сразу показать вероятность искусственного происхождения картинки: в виде однозначного ответа (да, сгенерировано нейросетью или нет), либо вероятность в процентах того, что это нейросетевое изображение.
Сервисы для «детектирования» ИИ-картинок очень часто ошибаются. Тем не менее, они могут быть полезными, если, например, вам нужно проверять большие объемы картинок на ежедневной основе — например, если вы занимаетесь факт-чекингом.
Как работают сервисы для определения искусственно сгенерированных изображений
Для идентификации изображений, сгенерированных MidJourney и другими нейросетями, детекторы используют различные методы. Чаще всего применяются три:
- Нахождение сходства в БД. Детектор этого типа сравнивает картинку с лежащей на отдельном сервере огромной базой данных изображений, которые были сгенерированы нейросетями. Если проверяемое изображение похоже на уже существующее, то сервис показывает предупреждение.
- Проверка качества изображения. Этот тип детектора анализирует техническое качество изображения и сопутствующие параметры. Здесь делается упор на том, что у картинок, созданных нейросетью, много общего: шумовые паттерны, несоответствия, сжатие. Этот тип сервисов для детектирования ИИ-картинок — самый часто встречающийся. 4 из 5 сервисов, которые мы разберем ниже, используют именно его.
- Проверка содержания картинки. Детекторы этого типа работают эффективнее всего, ведь такая модель позволяет быстро обнаружить аномалии (пальцы, глаза и другие слабые места, которые нейросети так и не научились пока рисовать реалистично).
Подборка сервисов
Внимание: все сервисы ниже могут дать только предположение о том, было сгенерировано изображение нейросетью или нет. Полагаться на них не стоит. И вообще в отношении синтетических изображений всегда будет существовать такая вот неоднозначность, ведь существуют очень реалистичные фотографии (такие часто принимаются за результат генерации) или изображения с комбинированными сценами (задник наложен в фотошопе, а человек — реальный).
AI or Not
Сайт: aiornot.com
Цена: бесплатно
AI or Not — онлайн-сервис детектирования ИИ-картинок. Отлично распознаёт изображения, созданные генеративными моделями (включая MidJourney).
Для использования сервиса понадобится загрузить картинку с жесткого диска или указать ссылку. AI or Not поддерживает форматы jpeg, png, webp, gif, tiff, bmp. Максимальный размер проверяемого файла — 10 мегабайт.
Сразу же начнется проверка, которая займет секунд 10-20. Сервис не покажет, какая именно нейросеть сгенерировала вашу картинку, а даст однозначный ответ.
Сервис может ошибаться. Удивительно, но характерные для нейросетевых алгоритмов квадратные изображения небольшого разрешения в 2 случаях из 10 AI or Not признал творчеством человека.
Отдельно отметим: AI or Not обучался на материалах генеративных моделей и реальных фотографиях, благодаря чему он ищет характерные для нейросетевых работ артефакты.
Учтите, что точность AI or Not может варьироваться в зависимости от метода генерации проверяемой картинки — результаты генерации новых усовершенствованных нейросетей он может не распознать.
Вердикт: в наших тестах сервис правильно определил ИИ-картинки и настоящие фотографии. Его точность не 100-процентная, но со временем он будет становиться все совершеннее благодаря новым обучающим выборкам.
illuminarty.ai
Сайт: illuminarty.ai
Цена: бесплатно
На сайте разработчика написано, что «illuminarty.ai использует передовое глубокое обучение для выявления изображений, сгенерированных искусственным интеллектом, и является одним из самых точных сервисов обнаружения ИИ-картинок на сегодняшний день». Весьма амбициозно! Скоро проверим.
Сервис появился еще в 2022 году. Он, также как и предыдущий, использует глубокое обучение для анализа изображений и определения того, были ли они созданы нейросетями.
illuminarty.ai лучше всего определяет картинки, сгенерированные MidJourney, DALL-E, Stable Diffusion. Все потому, что illuminarty.ai использует конволюционную нейронную сеть (алгоритм, предназначенный для работы с изображениями, принимающий их в качестве входных данных), которая обучалась на миллионах изображений именно вышеуказанных сервисов.
illuminarty.ai проверяет согласованность цветов, шумовые паттерны, распределение энтропии, артефакты сжатия и другие признаки.
Мы проверили illuminarty.ai на фотографии шоколада и он… ошибся: вероятность ИИ 91%. Явно не тот результат, которого мы ждали. Но стоит отметить: сервис лучше определяет именно сгенерированные изображения, поэтому даже некоторые реальные фото он может «клеймить» как нейросетевые.
Вердикт: выявить ИИ-картинки путем быстрого анализа подлинности изображений с помощью illuminarty.ai будет крайне непросто. Но сервис, по крайней мере, постоянно совершенствуется.
Maybe's AI Art Detector
Сайт: huggingface.co/spaces/umm-maybe/AI-image-detector
Цена: бесплатно
Сервис Maybe's AI Art Detector — это нейросетевая модель, разработанная пользователем с ником Matthew Maybe (Мэтью Мэйби) и выложенная в открытый доступ на портале Hugging Face.
В основе сервиса лежит модель ViT. Она натренирована таким образом, чтобы определять творчество нейросети.
С нашей фотографией шоколада сервис ошибся и выдал некорректный результат. искусственное происхождение — 68%, человеческое — 32%.
Причина в том, что как и предыдущий сервис, Maybe's AI Art Detector лучше всего определяет картинки, сгенерированные DALL-E 2, MidJourney и Stable Diffusion. Настоящие же фотографии он распознает плохо.
Детектор umm-maybe был обучен на более чем 130 000 изображений. Работает он на основе конволюционной нейронной сети, которая специально подстроена под определение артефактов, характерных для ИИ-картинок. Компания-разработчик обещает: модель разработана таким образом, что со временем она будет совершенствоваться, по мере добавления новых обучающих данных и развития архитектуры модели.
Вердикт: сервис правильно определил только некоторые ИИ-изображения. Многое было распознано некорректно. Есть куда совершенствоваться. Ложные срабатывания часто оказывались комбинированными фотографиями, скриншотами из игр, изображениями мемов. Это и понятно: в обучающую базу данных не входили изображения такого типа.
Hive AI Detector
Сайт: chrome.google.com/webstore/detail/hive-ai-detector/cmeikcgfecnhojcbfapbmpbjgllklcbi
Цена: бесплатно
Инструмент был разработан учеными и инженерами Hive — стартапа, специализирующегося на ИИ. С помощью машинного обучения Hive AI Detector может обнаружить незаметные различия между настоящей фотографией и ИИ-изображением.
Сервис умеет анализировать глаза, пальцы, другие детали, которые сразу выдают генерацию нейросети. Важно, что Hive AI Detector создал свою модель вообще с нуля и обучил ее более чем на миллионе реальных фотографий. По словам разработчика, Hive AI Detector умеет находить самые маленькие артефакты и несоответствия, которыми грешат популярные сегодня нейросети.
Расширение выдает % вероятности того, что изображение сгенерировано ИИ, а также указывает наиболее вероятный источник (DALL-E, MidJourney, другие).
Удобно, что Hive AI Detector можно использовать не только путем загрузки изображения с жесткого диска. Вы можете задействовать сервис вообще на любом сайте — установите расширение для Google Chrome и затем сделайте правый клик по проверяемому изображению.
Само расширение очень легкое и быстрое — результаты появляются за 2-3 секунды.
Вердикт: в целом, хорошо — сервис выдал вероятность ИИ-генерации нашей фотографии шоколада лишь в 12,9%. Но были и ошибочные результаты — ИИ-изображения не были распознаны сервисом как таковые. Более того, у нас сложилось ощущение, что расширение выдает вероятность вообще случайным образом. И, тем не менее, разработчик заявляет о высокой точности — более 90%. Но на практике понятно: эта цифра сильно завышена.
contentatscale.ai
Сайт: contentatscale.ai/ai-image-detector/
Цена: бесплатно
Сервис компании Content At Scale. Анализирует изображения на предмет ИИ-генерации. Обучена модель более чем на двух миллионах образцов. Для интеграции детектора в другие приложения и пакетной обработки больших объемов изображений предусмотрен API. Сейчас в разработке находится расширение для браузера — оно позволит детектировать ИИ-картинки прямо на странице любого сайта.
Загрузите картинку или введите URL-адрес изображения на главной странице. Результат будет в течение 10 секунд. Детектор работает по принципу поиска соответствия изображению в своей базе данных.
В нашем случае сервис сильно ошибся и решил, что изображение шоколада было сгенерировано нейросетью. И это при том, что разработчик утверждает, что в идеальных условиях детектор способен идентифицировать происхождение с точностью до 99%.
Вердикт: сырое и не решает главную задачу. Ждем обновлений.
Выводы
Действительно рабочих и качественных сервисов для распознавания сгенерированных нейросетями изображений крайне мало. Связано это в значительной степени с тем, что найти различия между генерацией последней версии, например, MidJourney и произведением цифрового художника очень сложно.
Самые продвинутые алгоритмы, способные определить следы генерации нейросети, как ни странно, сами используют нейросети. Лучшими, согласно нашим тестам, оказались сервисы Hive AI Detector и AI or Not.
Читайте также:
71 бесплатная нейросеть на все случаи жизни – выбор TexTerra
28 лучших нейросетей для видео: проверенный список
Как составлять запросы к нейросетям: примеры, настройки, параметры