Эксперимент The New York Times. Искусственный интеллект: возможно ли обмануть алгоритмы обнаружения?

В мире искусственного интеллекта реалистичные изображения уже были успешно использованы для создания фейков, в которые многие люди поверили.

В связи с этим, все больше компаний предлагает услуги по обнаружению таких подделок. Чтобы проверить эффективность этих сервисов, журналисты из The New York Times провели эксперимент, в котором были протестированы пять таких сервисов, используя более 100 синтетических изображений и реальных фотографий.

Оказалось, что обмануть эти алгоритмы достаточно легко. Дэн Литл, художник, работающий с искусственным интеллектом и известный под именем The_AI_Experiment на TikTok, попросил компанию Midjourney создать старинное изображение гигантского неандертальца, стоящего среди обычных людей. Удивительно, но все пять детекторов подделок считали это изображение реальным.

Нашумевшее фото неадертальца, нарисованное в Midjourney художником Дэн Литлом

Алгоритмы обнаружения фокусируются на поиске необычного расположения пикселей, нехарактерных переходов яркости и контраста. Однако сжатые или обработанные изображения могут легко обмануть их. При этом они игнорируют контекстуальные подсказки, такие как человек, танцующий с фантастическим роботом или сказочный лохматый великан, которые не вызывают подозрений у алгоритмов обнаружения.

Редакция Travel Guide решила нарисовать в Midjourney своего неандертальца 😉 И на наше мнение, он более реалистичен ))