Комментарии
- 29 июн 2023 20:31Дмитрий ЦветЭто точно. Даже в фотошоп взял своё фото на берегу Томи (1-й скрин), выделил место слева, нажал ИИ генеративную заливку и вписал в запрос "elephant" (слон англ) и вот что получилось (второе фото)
Для того чтобы оставить комментарий, войдите или зарегистрируйтесь
Компьютерный доктор
Нейросети настолько хороши в создании подделок,
что даже специализированные сервисы не могут их распознать
Эксперты предупреждают о новых вызовах и угрозах, которые может создать поддельный сгенерированный контент.Нейросети наращивают обороты и качество генерации с каждым месяцем, поэтому крайне важно уже сейчас научиться различать реальные фотографии от наглых подделок.
Упростить поставленную задачу обещают специальные сервисы-детекторы, способные анализировать сомнительные изображения с помощью сложных алгоритмов и выносить свой собственный вердикт. Но насколько такие сервисы эффективны и надёжны?
Американское издание The New York Times решило проверить пять таких сервисов: «Umm-maybe», «Illuminarty», «A.I. or Not», «Hive» и «Sensity». Для этого исследователи «скормили» сервисам более 100 фотографий, на которых были изображены различные пейзажи, архитектурные строения, еда, портреты людей и животных и многое другое. Многие изображения были реальными, но остальные, разумеется, были сгенерированы при помощи нейросетей.
Для создания реалистичных подделок исследователи воспользовались ИИ-генераторами — Midjourney, Stable Diffusion и DALL-E. Когда как настоящие изображения были взяты из старого городского фотоархива или вовсе являлись малоизвестными произведениями искусства.
Детекторы ищут необычные закономерности в расположении пикселей, которые часто возникают при искусственной генерации. Однако подобные сервисы не учитывают контекст и логику изображения, поэтому иногда могут пропустить очевидные подделки или же принять за подделку реальное фото.
Например, на одном из проверенных изображений был изображён Илон Маск в компании реалистичной девушки-андроида. Изображение было создано с помощью Midjourney, однако смогло обмануть два из пяти детекторов, посчитавших, что изображение подлинное.
Например, одно из изображений содержало очень старую фотографию гигантского неандертальца, стоящего рядом с обычными людьми. Разумеется, изображение было создано с помощью Midjourney. Когда детекторы анализировали изображение с высоким разрешением, все они правильно определили его как поддельное, однако, когда изображение было намеренно снижено в качестве, все пять детекторов сообщили, что изображение подлинное.
С определением настоящих изображений детекторы справлялись куда лучше. Хотя порой один из сервисов и мог ошибочно посчитать какую-нибудь картину художника-абстракциониста за работу нейросети.
Искусственный интеллект способен генерировать не только реалистичные изображения, но и тексты, аудио и видео, которые также могут быть использованы для манипуляции общественным мнением, финансовыми рынками и политическими процессами. Это создает новые вызовы и угрозы для общества, которые требуют повышенной бдительности и скептического отношения к любому интернет-контенту.
Источник