Как понять, что картинку сделала нейросеть — 5 сервисов

06 Сентябрь 2023

Время чтения: 18 минут

Точность некоторых из них довольно высокая, но и нейросети не стоят на месте.

Если еще год назад определить картинку, сделанную нейросетью, можно было без труда, то отличить работы самых современных нейросетей от реальных фото может быть очень сложно. На помощь в распознавании фейковых картинок могут прийти специализированные сервисы. Рассказываем, как они работают и какие из них самые точные.

Сервис-детектор после непродолжительного анализа может сразу показать вероятность искусственного происхождения картинки: в виде однозначного ответа (да, сгенерировано нейросетью или нет), либо вероятность в процентах того, что это нейросетевое изображение.

Сервисы для «детектирования» ИИ-картинок очень часто ошибаются. Тем не менее, они могут быть полезными, если, например, вам нужно проверять большие объемы картинок на ежедневной основе — например, если вы занимаетесь факт-чекингом.

Как работают сервисы для определения искусственно сгенерированных изображений

Для идентификации изображений, сгенерированных MidJourney и другими нейросетями, детекторы используют различные методы. Чаще всего применяются три:

Нахождение сходства в БД. Детектор этого типа сравнивает картинку с лежащей на отдельном сервере огромной базой данных изображений, которые были сгенерированы нейросетями. Если проверяемое изображение похоже на уже существующее, то сервис показывает предупреждение.
Проверка качества изображения. Этот тип детектора анализирует техническое качество изображения и сопутствующие параметры. Здесь делается упор на том, что у картинок, созданных нейросетью, много общего: шумовые паттерны, несоответствия, сжатие. Этот тип сервисов для детектирования ИИ-картинок — самый часто встречающийся. 4 из 5 сервисов, которые мы разберем ниже, используют именно его.
Проверка содержания картинки. Детекторы этого типа работают эффективнее всего, ведь такая модель позволяет быстро обнаружить аномалии (пальцы, глаза и другие слабые места, которые нейросети так и не научились пока рисовать реалистично).

Подборка сервисов

Внимание: все сервисы ниже могут дать только предположение о том, было сгенерировано изображение нейросетью или нет. Полагаться на них не стоит. И вообще в отношении синтетических изображений всегда будет существовать такая вот неоднозначность, ведь существуют очень реалистичные фотографии (такие часто принимаются за результат генерации) или изображения с комбинированными сценами (задник наложен в фотошопе, а человек — реальный).

AI or Not

Сайт: aiornot.com

Цена: бесплатно

AI or Not — онлайн-сервис детектирования ИИ-картинок. Отлично распознаёт изображения, созданные генеративными моделями (включая MidJourney).

Для использования сервиса понадобится загрузить картинку с жесткого диска или указать ссылку. AI or Not поддерживает форматы jpeg, png, webp, gif, tiff, bmp. Максимальный размер проверяемого файла — 10 мегабайт.

Сразу же начнется проверка, которая займет секунд 10-20. Сервис не покажет, какая именно нейросеть сгенерировала вашу картинку, а даст однозначный ответ.

Сервис может ошибаться. Удивительно, но характерные для нейросетевых алгоритмов квадратные изображения небольшого разрешения в 2 случаях из 10 AI or Not признал творчеством человека.

Отдельно отметим: AI or Not обучался на материалах генеративных моделей и реальных фотографиях, благодаря чему он ищет характерные для нейросетевых работ артефакты.

Учтите, что точность AI or Not может варьироваться в зависимости от метода генерации проверяемой картинки — результаты генерации новых усовершенствованных нейросетей он может не распознать.

Вердикт: в наших тестах сервис правильно определил ИИ-картинки и настоящие фотографии. Его точность не 100-процентная, но со временем он будет становиться все совершеннее благодаря новым обучающим выборкам.

illuminarty.ai

Сайт: illuminarty.ai

Цена: бесплатно

На сайте разработчика написано, что «illuminarty.ai использует передовое глубокое обучение для выявления изображений, сгенерированных искусственным интеллектом, и является одним из самых точных сервисов обнаружения ИИ-картинок на сегодняшний день». Весьма амбициозно! Скоро проверим.

Сервис появился еще в 2022 году. Он, также как и предыдущий, использует глубокое обучение для анализа изображений и определения того, были ли они созданы нейросетями.

illuminarty.ai лучше всего определяет картинки, сгенерированные MidJourney, DALL-E, Stable Diffusion. Все потому, что illuminarty.ai использует конволюционную нейронную сеть (алгоритм, предназначенный для работы с изображениями, принимающий их в качестве входных данных), которая обучалась на миллионах изображений именно вышеуказанных сервисов.

illuminarty.ai проверяет согласованность цветов, шумовые паттерны, распределение энтропии, артефакты сжатия и другие признаки.

Мы проверили illuminarty.ai на фотографии шоколада и он… ошибся: вероятность ИИ 91%. Явно не тот результат, которого мы ждали. Но стоит отметить: сервис лучше определяет именно сгенерированные изображения, поэтому даже некоторые реальные фото он может «клеймить» как нейросетевые.

Вердикт: выявить ИИ-картинки путем быстрого анализа подлинности изображений с помощью illuminarty.ai будет крайне непросто. Но сервис, по крайней мере, постоянно совершенствуется.

Maybe's AI Art Detector

Сайт: huggingface.co/spaces/umm-maybe/AI-image-detector

Цена: бесплатно

Сервис Maybe's AI Art Detector — это нейросетевая модель, разработанная пользователем с ником Matthew Maybe (Мэтью Мэйби) и выложенная в открытый доступ на портале Hugging Face.

В основе сервиса лежит модель ViT. Она натренирована таким образом, чтобы определять творчество нейросети.

С нашей фотографией шоколада сервис ошибся и выдал некорректный результат. искусственное происхождение — 68%, человеческое — 32%.

Причина в том, что как и предыдущий сервис, Maybe's AI Art Detector лучше всего определяет картинки, сгенерированные DALL-E 2, MidJourney и Stable Diffusion. Настоящие же фотографии он распознает плохо.

Детектор umm-maybe был обучен на более чем 130 000 изображений. Работает он на основе конволюционной нейронной сети, которая специально подстроена под определение артефактов, характерных для ИИ-картинок. Компания-разработчик обещает: модель разработана таким образом, что со временем она будет совершенствоваться, по мере добавления новых обучающих данных и развития архитектуры модели.

Вердикт: сервис правильно определил только некоторые ИИ-изображения. Многое было распознано некорректно. Есть куда совершенствоваться. Ложные срабатывания часто оказывались комбинированными фотографиями, скриншотами из игр, изображениями мемов. Это и понятно: в обучающую базу данных не входили изображения такого типа.

Hive AI Detector

Сайт: chrome.google.com/webstore/detail/hive-ai-detector/cmeikcgfecnhojcbfapbmpbjgllklcbi

Цена: бесплатно

Инструмент был разработан учеными и инженерами Hive — стартапа, специализирующегося на ИИ. С помощью машинного обучения Hive AI Detector может обнаружить незаметные различия между настоящей фотографией и ИИ-изображением.

Сервис умеет анализировать глаза, пальцы, другие детали, которые сразу выдают генерацию нейросети. Важно, что Hive AI Detector создал свою модель вообще с нуля и обучил ее более чем на миллионе реальных фотографий. По словам разработчика, Hive AI Detector умеет находить самые маленькие артефакты и несоответствия, которыми грешат популярные сегодня нейросети.

Расширение выдает % вероятности того, что изображение сгенерировано ИИ, а также указывает наиболее вероятный источник (DALL-E, MidJourney, другие).

Удобно, что Hive AI Detector можно использовать не только путем загрузки изображения с жесткого диска. Вы можете задействовать сервис вообще на любом сайте — установите расширение для Google Chrome и затем сделайте правый клик по проверяемому изображению.

Само расширение очень легкое и быстрое — результаты появляются за 2-3 секунды.

Вердикт: в целом, хорошо — сервис выдал вероятность ИИ-генерации нашей фотографии шоколада лишь в 12,9%. Но были и ошибочные результаты — ИИ-изображения не были распознаны сервисом как таковые. Более того, у нас сложилось ощущение, что расширение выдает вероятность вообще случайным образом. И, тем не менее, разработчик заявляет о высокой точности — более 90%. Но на практике понятно: эта цифра сильно завышена.

contentatscale.ai

Сайт: contentatscale.ai/ai-image-detector/

Цена: бесплатно

Сервис компании Content At Scale. Анализирует изображения на предмет ИИ-генерации. Обучена модель более чем на двух миллионах образцов. Для интеграции детектора в другие приложения и пакетной обработки больших объемов изображений предусмотрен API. Сейчас в разработке находится расширение для браузера — оно позволит детектировать ИИ-картинки прямо на странице любого сайта.

Загрузите картинку или введите URL-адрес изображения на главной странице. Результат будет в течение 10 секунд. Детектор работает по принципу поиска соответствия изображению в своей базе данных.

В нашем случае сервис сильно ошибся и решил, что изображение шоколада было сгенерировано нейросетью. И это при том, что разработчик утверждает, что в идеальных условиях детектор способен идентифицировать происхождение с точностью до 99%.

Вердикт: сырое и не решает главную задачу. Ждем обновлений.

Выводы

Действительно рабочих и качественных сервисов для распознавания сгенерированных нейросетями изображений крайне мало. Связано это в значительной степени с тем, что найти различия между генерацией последней версии, например, MidJourney и произведением цифрового художника очень сложно.

Самые продвинутые алгоритмы, способные определить следы генерации нейросети, как ни странно, сами используют нейросети. Лучшими, согласно нашим тестам, оказались сервисы Hive AI Detector и AI or Not.