Опасная милота: почему видео со сгенерированными ИИ животными могут навредить природе

ИИ-животные покоряют соцсети и маркетинговые кампании: кролики на батуте, панды в ресторане и другие милые существа, сгенерированные нейросетями, собирают миллионы просмотров. Другие видео настолько правдоподобны, что их почти невозможно отличить от реальных съемок. Ученые бьют тревогу из-за возможных последствий для охраны природы и отношения детей к окружающему миру: подобные видео с ИИ-животными искажают восприятие фауны и уменьшают интерес к настоящей природе. Forbes Life рассказывает, какие риски несут вирусные ролики и почему важно учиться отличать ИИ-образы от реальной жизни животных

Милые кролики синхронно прыгают на трамплине. Панда ужинает в ресторане. Черепаха пьет коктейль на шезлонге. Или же огромный медведь забегает во двор частного дома, но неожиданно храбрая домашняя кошка прогоняет хищника, спасая ребенка. Вы уже собираетесь отправить ролик другу — но в последний момент закрадывается сомнение. Это вообще реально? Некоторые видео, созданные с помощью искусственного интеллекта, выглядят настолько правдоподобно, что отличить их от настоящих съемок почти невозможно.

Подобные ролики собирают миллионные просмотры — и мало кто задается вопросом: а что происходит с нашим восприятием природы, когда «дикие» животные становятся управляемыми?

Сгенерированные животные становятся частью экономики внимания — от рекламы до инфлюенсерского контента и AI-art рынка, который растет на фоне глобального petconomy-тренда (быстрорастущей экономики товаров и сервисов для домашних животных. — Forbes Life). Люди готовы тратить время и внимание на «звериный» контент и образы питомцев — даже если они существуют только на экране. Чем реалистичнее эти цифровые животные, тем сильнее они влияют на восприятие живой природы и ожидания от нее. В частности, не экспертам становится все сложнее отличить подделки от настоящих изображений дикой природы, что подрывает доверие к реальным фотографиям и видео.

Бренды также стали активно использовать ИИ-животных в кампаниях и соцсетях. Не отстают и инфлюенсеры. «Я вижу, что модные девушки подхватили ИИ-тренд: фото-сюрреализм с милыми животными»,  — озаглавила пользователь @jameygammon свое видео, набравшее более 27 млн просмотров в соцсети X (бывший Twitter, заблокирован в России). Она рассказала о тренде: авторы размещают посты с животными, сгенерированными ИИ, контент пользуется успехом. «Бренды, которые используют этот тренд в свою пользу и создадут полезное, смогут стать лавмарком для будущего поколения. Как McDonald’s растят своих фанатов с детства. Не удивлюсь, если ИИ-коты-подкастеры станут фигурками или будут распаковывать «хэппи мил» в своем новом выпуске», — рассуждает  в разговоре с Forbes Life директор по маркетингу и клиентскому опыту «СберМаркетинга» Анна Тупикина.

Причины потенциального вреда

В исследовании, опубликованном в журнале Conservation Biology, ученые из Университета Кордобы проанализировали потенциальный вред ИИ-сгенерированных фото и видео диких животных в соцсетях. Они выделили три основные проблемы: искаженное представление о поведении животных, антропоморфизация (приписывание животным человеческих качеств) и усиление отчуждения общества от природы.

Вот основные претензии к созданным ИИ образам:

Один из авторов исследования, Хосе Герреро Касадо, приводит в пример видео, где птицы-родители убивают «злых» змей: «Некоторые пользователи поддерживают такой исход в комментариях. Но какие последствия это имеет для охраны змей? Если государственные ресурсы направляются на защиту этих видов, а общественная поддержка отсутствует, усилия могут быть подорваны», — добавляет ученый.

Риски антропоморфизации

Не отражающий реальность, но убедительный ИИ-контент часто придает антропоморфность зверям: черепаха наслаждается морским видом на лежаке, пантера идет в маникюрный салон: привычное нам нормализуется в контексте образа жизни животного мира. Тогда новость о том, что «дайверы нарушили среду обитания черепах в акватории», не звучит так тревожно, ведь черепахи, как мы привыкли видеть в генерациях, «легли на шезлонги и заказали по коктейлю».

Зоозащитники напоминают, что ИИ-видео — развлечение, которое может создать опасную иллюзию, что диких зверей можно содержать как домашних любимцев (особенно популярны дикие «милые котики» — по данным европейских зоозащитных организаций, сервалы и их гибриды входят в число самых часто изымаемых и передаваемых в приюты экзотических кошачьих в Европе. В итоге в лучшем случае такие питомцы окажутся в приютах, так как жить с ними сложно и опасно. Активисты хотят, чтобы было больше роликов, которые бы транслировали: дом для человека — квартира, а для дикого животного — природа.

Нейробиология и дети

Мозг человека эволюционно «заточен» на распознавание детских черт: распахнутые глаза, круглое лицо, мягкие черты, — педагог-психолог Мария Лимно объясняет для Forbes Life, почему мы так умиляемся гипертрофированной реальности, если видим там симпатичного зверька: «Это так называемая «схема младенца» (baby schema) — набор внешних признаков вроде больших глаз, круглого лица и мягких черт, автоматически вызывающих у человека чувство заботы и удовольствия, активируя дофаминовую систему. Алгоритмы ИИ масштабируют этот эффект: они создают животных с гипертрофированными «детскими» признаками и нереалистично дружелюбным поведением, превращая природный механизм привязанности в инструмент бесконечного удержания внимания».

Неверное представление о дружеском взаимодействии человека с хищниками вводит в заблуждение тех, кто имеет мало опыта — детей, которым особенно нравится смотреть ролики. Видео также могут создать ожидания у юных пользователей, которые будут искать капибар или другие неэндемичные виды там, где их быть не должно. Исследователи говорят, что в итоге так разрывается связь между «людьми и биоразнообразием»: узнав, что «прикольные» звери были ненастоящими, ребенок может разочароваться и потерять интерес к живой природе. Лемно предупреждает, что реальный лес или двор уже не дают настолько сильного дофаминового отклика, как «панда в ресторане». В итоге ребенок хуже узнает животных, а в крайних случаях — теряет интерес к наблюдению за живым миром и начинает ожидать от реальности того, что возможно только в генераторах — идеально выстроенной, безопасной и «мимимишной» версии жизни. «Именно это ученые называют искажением восприятия дикой природы», — подчеркивает психолог.

«Государственным и научным институтам стоит активно сотрудничать с российскими блогерами для создания образовательного контента: например, роликов, сравнивающих AI-фейки с реальными съемками, объясняющих поведение животных», — считает генеральный директор КРОС Екатерина Мовсесян. Она предлагает дополнить курсы по информационной безопасности и ОБЖ модулями по визуальной медиаграмотности, а крупным платформам внедрять проекты по добровольной маркировке AI-генерированного контента. «В TikTok такая маркировка уже встречается», — говорит Мовсесян.

Анна Тупикина напоминает о существовании  детских программ для создания анимации — Pollo AI, Colorcinch: «Благодаря ИИ появились революционные решения: за минуты нейросети оживляют животных в неожиданных сценариях — лев делает приседание с гантелями, черепаха — выпады, медведь тягает гири — все в реалистичном или мультяшном стиле». Эксперт уверена, что примеры вроде «Animal AI Gym» или генераторов на PixelPlus показывают, как ИИ упрощает производство, делая контент вирусным в TikTok и YouTube. «Это те же мультики, только созданные при помощи новых технологий, но важный вопрос — какой видеоконтент смотрит ребенок», — уточняет Тупикина.

Генерациии с животными все-таки отличаются от мультиков «нашего детства», поясняет Мария Лимно. В «Ну, погоди!» или «Простоквашино» ребенок ясно понимал, что это условный, нарисованный мир, а ИИ-видео стирают границу, ведь они выглядят как документальные. В итоге дикие животные воспринимаются как «милые персонажи», а не как живые существа со своими законами, страхами и рисками.

Разница в масштабе и механике воздействия, подчеркивает психолог: «Это были художественные образы, существующие в рамках сказки и культуры — ограниченные по времени, стилю и каналу восприятия. Сегодня ИИ-животные выглядят как реальные, появляются бесконечно, подстраиваются под алгоритмы дофаминового подкрепления и встроены в среду лайков и трендов. В результате старые психологические искажения усиливаются в разы: ребенок не просто видит сказку, а начинает воспринимать смоделированную «идеальную природу» как норму жизни».

Как отличить сгенерированное от реального

Человек чистит снег, а секундой позже на него налетает тигр и начинает пожирать, тот отмахивается лопатой, на снег капает кровь, в итоге хищник оттаскивает еще живое тело за автомобиль. «Фейк и пример опасного распространения дезинформации, подобные ролики вводят людей в заблуждение и создают ложное ощущение угрозы», — так власти Приморья прокомментировали напугавшее жителей вирусное видео с «нападением амурского тигра» на человека. В январе правоохранительные органы Приморья заявили, что собираются найти и оштрафовать автора — штраф может быть  до 100 000 рублей. «В новогодние каникулы у многих появляется больше времени для общения в соцсетях. К сожалению, этим часто пользуются для распространения шокирующих фейков, сеющих панику!» — написали в Минприроды.

Проблема не в самом креативе, а в мисконцепции: технологии по умолчанию — это нереальный мир, но с их развитием мы начинаем об этом забывать. Особенно тяжело отличить реальность от генераций будет поколениям и людям, основной опыт которых будет основан на онлайн-информации. Поехать в леса Бразилии дорого и тяжело. И в этом плане интернет помогает не только визуализировать флору и фауну региона, но и прочувствовать ее. Но будет ли пользователь верифицировать каждый куст или животное, которое видит на сгенерированной картинке? Эксперты рекомендуют учиться «ИИ-гигиене»: литература о дипфейках говорит, что убеждающая сила визуальной дезинформации тесно связана с медиа-образованностью.

«Сгенерированные ИИ-видео о дикой природе могут убедительно выглядеть, но обычно содержат характерные признаки, — рассказал компьютерный инженер Сивей Лью из Университета Баффало. — У ИИ-моделей иногда неестественно повторяются узоры или размыта часть изображения».

«На то, что видео является фейком, указывает ряд факторов. Лопата в руках мужчины ведет себя неестественно — словно проходит сквозь тигра, а затем исчезает. Заметная размытость и нетипичная гладкость контуров, характерные для ИИ. Движения неестественные», — говорится в сообщении «про тигра» от Минприроды Приморского края.

Руководитель лаборатории ИИ Школы управления «Сколково» Александр Диденко рассказывает Forbes Life, как отличить качественную генерацию: «В науке об ИИ уже давно известен «парадокс Моравеца» — простые для человека задачи сложны для ИИ, сложные для человека — просты для ИИ». Грубо говоря, ИИ может (относительно) легко доказать математическую теорему или выдвинуть гипотезу, но не имеет настоящей интуиции о физическом мире».

«Блестящая от влаги поверхность воды — это просто паттерн в чередовании темных и светлых пикселов, ухваченный сложными скрытыми слоями нейронной сети в обучающих данных. Генерируемые сетью животные не имеют скелета, в том смысле что у нейронной сети нет реалистичного внутреннего представления о такой штуке, как «скелет», — поясняет Диденко. Чтобы отличить ИИ-генерацию, эксперт советует обратить внимание на следующие признаки:

«Пока еще Земля не успела родить в достаточном количестве таких homo sapiens, которые перепутают хищного зверя с милым домашним котиком, — говорит Диденко. — Но в эпоху генераций стоит смотреть видео с Дроздовым или Аттенборо, чтобы проблематизировать уже сложившуюся интуицию». Он добавляет, что не стоит забывать о другой проблеме: если генерация праздная, то это лишь зря израсходованный ресурс. Один условный котик «съедает» энергии столько, сколько нужно, чтобы зарядить iPhone до 30%, а воды выпаривает с чайную ложку, подсчитывает эксперт — обидно, если он не несет никакого смысла.

«ИИ-тигры» наносят ущерб природе: за каждым вирусным роликом стоит энергоемкая инфраструктура дата-центров. Обучение и запуск генеративных моделей требуют огромных объемов электроэнергии и воды для охлаждения серверов, что приводит к росту выбросов парниковых газов, тепловому, световому и шумовому загрязнению в районах размещения вычислительных центров, соглашается Анна Тупикина. «Но то же самое железо, профинансированное нерациональным спросом на ИИ-контент, используется для распознавания вокализаций дельфинов и мониторинга вырубки лесов в Амазонии. И нет никакого другого способа мобилизовать такие колоссальные суммы денег на такое количество оборудования, кроме как тик-ток-челленджи с милотой и инвестиционные пузыри», — резюмирует директор по маркетингу и клиентскому опыту «СберМаркетинга».

Сказать сейчас, что ИИ несет чистый вред животным, нельзя: многие ждут, когда технологии помогут природе давать нам еще более четкую обратную связь, желательно на нашем языке (ученые из Италии уже заявили о прогрессе в распознавании эмоций коров, коз и лошадей). Тогда мы услышим ответы. Парадокс в том, что ИИ одновременно отдаляет человека от живой природы и дает инструменты для ее сохранения. В эпоху генераций ответственность смещается с машин на людей — именно они выбирают, превращать ли природу в цифровой аттракцион или использовать ИИ как переводчика между человеком и живым миром.

• Нейросети
• Искусственный интеллект

Поделиться