Сможете ли вы заметить этот новостной выпуск, созданный с помощью искусственного интеллекта? Ультрареалистичные фейковые новости уже здесь.


Смогли бы вы распознать фейковые новости, если бы у них были надежные ведущие, актуальная графика и репортер «вживую» в зоне боевых действий? Что, если бы эти новости, такие же реалистичные, как и любой репортаж по ТВ, были созданы искусственным интеллектом за считанные секунды?
Чувство странности, которое вызывает этот тип контента, не является чем-то новым. Но то, что когда-то было грубыми монтажами или грубыми мемами, теперь мутировало в видеоролики с профессиональной эстетикой, плавными повествованиями и убедительной силой, которая грозит подорвать доверие к СМИ и даже к тому, что мы можем или не можем считать реальным.
В последние дни в социальных сетях начали распространяться видеоролики, созданные искусственным интеллектом, на которых изображены репортеры в различных ситуациях: освещающие наводнения, атаки и даже инопланетные вторжения. Большинство из них имеют юмористический подход или финальное подмигивание, показывающее, что они каким-то образом сгенерированы, но вопрос в том: сможем ли мы отличить их, когда этой доброй воли не будет?
Google Veo 3, инструмент, который, судя по всему, используется для этих видеоПоявление Google Veo 3 в цифровой экосистеме знаменует собой поворотный момент для подобных видеороликов, поскольку, по всей видимости, именно этот инструмент используют «генераторы» фейковых новостей.
В одном из самых впечатляющих видеороликов показана предполагаемая репортерша Анджела Картер, освещающая наводнение в жилом районе. Сцена реалистична, с типичной атмосферой срочных новостей. Однако через несколько секунд созданная искусственным интеллектом фигура улыбается и говорит: «Я просто пошутила, я не настоящая», как раз в тот момент, когда за ней подплывает вымышленная акула. Поворот комичен, но тревожен: если это можно сделать ради юмора, чего можно добиться со злым умыслом?
Другой клип воссоздает предполагаемую войну между Канадой и Соединенными Штатами , с репортерами на границе, логистическими данными и очень убедительным визуальным отображением. В конце появляется предупреждение: все было сгенерировано с помощью Google Veo 3 , одного из самых передовых инструментов аудиовизуальной генерации на базе ИИ на сегодняшний день.
Что такое Google Veo 3 и почему он такой страшный?Запущенный как эволюция предыдущей модели, Google Veo 3 может создавать видеоклипы длительностью до восьми секунд с уровнем визуальной и звуковой детализации , граничащим с гиперреализмом . В отличие от других инструментов, он не ограничивается созданием статических изображений или немых видео. Veo 3 генерирует лица, выражения, движения губ, синхронизированные со звуком, и даже звуковые эффекты.
Другими словами, можно создать журналиста, который говорит убедительно, с уникальным голосом, в обстановке, напоминающей прямую телевизионную трансляцию. И самое удивительное: все это может произойти за считанные минуты.
Если бы в 90-х вам показывали новости об искусственном интеллекте… Вы бы поняли, что это фейк?
Что, если он существует гораздо дольше, чем нас заставляли верить, и нам медленно скармливают старые, плохие версии, чтобы заставить нас думать, что мы знаем его ограничения? pic.twitter.com/L2p66JpXGs
Google, осознавая риски, поддерживает веб-сайт, посвященный ответственному использованию ИИ. Он заявляет, что его цель — помочь «ответственно создавать и идентифицировать контент, созданный ИИ». Но корпоративные намерения — это одно, а использование его тысячами пользователей в социальных сетях или когда эта технология расширяется до других видов использования, не контролируемых компанией — это совсем другое.
Дезинформация в эпоху чрезмерной открытостиРаспространение фейковых видеороликов не ново, но уровень их изощренности достиг опасного уровня. И это касается не только ничего не подозревающих зрителей. Журналистка Нина Шик , эксперт по дипфейкам и дезинформации, в 2023 году предупредила, что следующей большой угрозой станет «демократизация визуальной лжи». Она говорила не только о выборах или войнах, но и о повседневной жизни: личных отношениях, репутации, шантаже, эмоциональной манипуляции.
В этом контексте сфабрикованная сцена стихийного бедствия может стать вирусной и вызвать панику. Фейковая новость о геополитическом конфликте может подорвать рынки. А клеветническая кампания может разрушить карьеру одним нажатием кнопки.
Международные организации, такие как «Репортеры без границ», выразили свою обеспокоенность этим явлением. В этом новом сценарии единственным эффективным инструментом является не технологический, а образовательный. Медиаобразование должно стать глобальным приоритетом, считают эксперты. Умение анализировать источники, сравнивать факты и понимать, как создается информация, будет таким же важным, как умение читать или писать.
eleconomista