Миллионы используют его каждый день. Это один из важнейших сайтов в Интернете. Боты уничтожают его по частям.

Подпишитесь на Slatest , чтобы ежедневно получать на свой почтовый ящик самую содержательную аналитику, критику и советы.

За годы, прошедшие с тех пор, как дебют ChatGPT превратил Кремниевую долину в фабрику шумихи вокруг искусственного интеллекта, самые яркие сообщества интернета ломали голову над тем, как приспособиться к последующему потоку ИИ-отстоев, особенно по мере того, как автоматически генерируемые результаты становятся все более сложными. Возможно, ни одна платформа не иллюстрирует эту головоломку лучше, чем Reddit, анонимная сеть досок объявлений, которая объединяет миллионы людей по всему миру вот уже 20 лет, поскольку многие пользователи все чаще задаются вопросом, действительно ли они все еще общаются с другими людьми .

Такие опасения не новы, но они усилились из-за шокирующего примера манипуляции с помощью ИИ. В конце апреля команда модераторов популярного сабреддита r/ChangeMyView раскрыла, что исследователи из Цюрихского университета провели « несанкционированный эксперимент » над членами сообщества, которые «использовали комментарии, сгенерированные ИИ, для изучения того, как ИИ можно использовать для изменения взглядов». Модератор написал, что в марте ученые Цюриха связались с ними, чтобы сообщить, что «за последние несколько месяцев мы использовали несколько учетных записей» для публикации комментариев, сгенерированных ИИ, на r/ChangeMyView, выступая в роли «жертвы изнасилования» и «чернокожего мужчины, выступающего против движения Black Lives Matter», среди прочих гипотетических ролей. «Мы не раскрывали, что для написания комментариев использовался ИИ, поскольку это сделало бы исследование невозможным», — написала команда из Цюриха . «Однако мы считаем, что, учитывая высокую общественную значимость этой темы, было крайне важно провести исследование такого рода, даже если это означало нарушение правил».

Руководители r/ChangeMyView не согласились с этим и ответили, подав этическую жалобу в университет, потребовав не публиковать исследование и связавшись с вышестоящими лицами юридической команды Reddit. Неназванные исследователи, которых пригласили ответить на вопросы subreddit под именем пользователя LLMResearchTeam , настаивали на том, что «мы считаем, что потенциальные преимущества этого исследования существенно перевешивают его риски». И без того возмущенные пользователи Reddit были недовольны. ( Репрезентативный комментарий : «Это потенциально дестабилизирует чрезвычайно хорошо модерируемое и эффективное сообщество. Это реальный вред».) Не были довольны и руководители Reddit: сам главный юридический директор Бен Ли написал , что «мы находимся в процессе обращения к Университету Цюриха и этой конкретной исследовательской группе с официальными юридическими требованиями», отметив далее, что администраторы компании заблокировали все учетные записи, используемые для эксперимента. Впоследствии школа сообщила 404 Media, что не будет публиковать исследование, а исследователи в начале мая принесли официальные извинения r/ChangeMyView, заявив, что они «сожалеют о дискомфорте», и предложили «сотрудничать» с сабреддитом для внедрения защитных мер против других нарушений доверия сообщества.

Модераторы отметили, что они отклонили предложение исследователей о сотрудничестве, отметив: «Это событие негативно повлияло на CMV способами, которые мы все еще пытаемся расшифровать». Один пользователь, который был активным комментатором в r/ChangeMyView в течение почти пяти лет, написал, что последствия эксперимента «в некотором роде убили мой интерес к публикации. Я думаю, что многому здесь научился, но для Reddit слишком много ботов с искусственным интеллектом, чтобы быть интересным. Я стал почти параноиком по этому поводу». Другой пользователь согласился , что «так много популярных сабов заполнены сообщениями об искусственном интеллекте и комментариями ботов». Ссылки на новостные репортажи об исследовании Цюриха, размещенные в других сабреддитах, постоянно ссылались на « теорию мертвого интернета », давнее утверждение о том, что большая часть киберпространства населена только ботами, которые взаимодействуют с другими ботами. В сообщении Reddit модераторы популярного сабреддита r/PublicFreakout сообщили мне, что эта новость «подтвердила наши подозрения, что эти фермы ботов активны и успешны на Reddit». Другой пользователь написал мне на условиях анонимности, что теперь он рассматривает каждое взаимодействие с «возросшим подозрением».

Брэндон Чин-Шу, модератор ar/ChangeMyView, который был Redditor в течение 15 лет, рассказал мне, что исследования проводились в сабреддите и раньше, но только с явного одобрения модераторов заранее, вместе с уведомлениями для их пользователей. «Обычно каждые пару месяцев к нам приходит учитель, который хочет, чтобы его ученики зашли на ChangeMyView, чтобы они могли узнать, как работают обсуждения и дебаты, или есть научный сотрудник, который спрашивает о скрапинге некоторой информации», — сказал Чин-Шу. «За последние несколько лет ChangeMyView был более или менее очень открыт для такого рода вещей». Он указал на недавнее исследование , которое создатель ChatGPT OpenAI провел в сабреддите, чтобы проверить, насколько «убедительной» может быть его новая модель o3-mini при генерации ответов на аргументы; стартап также провел аналогичный эксперимент на r/ChangeMyView для своей модели o1 в 2024 году. OpenAI также тестировал модели генеративного текста на таких досках, как r/AskReddit , r/SubSimulatorGPT2 и r/AITA (также известная как «Я мудак?»).

«У нас довольно строгие правила, которым должны следовать не только пользователи, но и модераторы», — добавил Чин-Шу. «Мы стараемся хорошо общаться с нашими пользователями. Каждый раз, когда мы получаем и удовлетворяем запрос на исследование, мы даем людям знать об этом». Он также заявил, что он и его коллеги-модераторы в целом довольны реакцией Reddit и помощью во время этого фиаско.

Так было не всегда, особенно когда дело доходит до изменений платформы в эпоху ИИ. Взрывной запуск ChatGPT в конце 2022 года натолкнулся на планы Reddit работать не как бесплатный форум, а как самодостаточный бизнес с новыми источниками дохода (платные подписки, реклама) и публичным размещением акций на фондовом рынке. Самым спорным решением по зарабатыванию денег стал план генерального директора Стива Хаффмана взимать плату за доступ к ранее бесплатному API данных Reddit в качестве средства ограничения объема текста Reddit, который веб-сканеры из фирм ИИ могли автоматически принимать и использовать для обучения моделей. Это вызвало широкое возмущение среди пользователей Reddit , особенно тех, кто воспользовался бесплатным доступом к API для кодирования мобильных приложений, пользовательских ботов и других расширений для улучшения и настройки опыта Reddit. Однако Хаффман одержал победу над этими обиженными пользователями, подавив их бунт , установив ценник, выведя акции Reddit на биржу и даже выведя компанию на первый прибыльный квартал в конце 2024 года.

Возможно, самое важное, что он заключил эксклюзивные сделки по ИИ в течение этого года. Теперь Google платит компании 60 миллионов долларов в год за разрешение обучать свои модели ИИ на тексте Reddit, а технологический гигант также получает эксклюзивные права на отображение страниц Reddit в поисковых индексах. (По данным аналитиков, Reddit теперь является вторым по цитируемости веб-сайтом в обзорах ИИ Google, сразу после все более переполненного ИИ Quora .) OpenAI, возглавляемая бывшим руководителем Reddit Сэмом Альтманом, установила партнерство с платформой для цитирования вывода Reddit в ответах ChatGPT, использования рекламных мест Reddit для продвижения OpenAI и разрешения социальной платформе использовать программное обеспечение OpenAI для функций внутри приложения. ( Semafor сообщил в пятницу , что Reddit ведет переговоры с другой компанией, основанной Альтманом, Worldcoin, чтобы участники Reddit проверяли свои личности с помощью спорной технологии сканирования глазного яблока стартапа.) Некоторые из внутренних инструментов ИИ, которые Reddit сейчас тестирует, включают функцию генеративного поиска « Reddit Answers » и инструмент « Reddit Insights », позволяющий рекламодателям узнавать о темах, вызывающих массовый интерес и одобрение в сети. Есть также модераторы-боты, которые, как я сообщал, вызвали некоторую негативную реакцию из-за якобы чрезмерно агрессивного контроля комментариев о спорных знаменитостях, таких как Илон Маск и Луиджи Манджоне.

Тем не менее, контроль Reddit был признанной борьбой . В интервью в прошлом году с Verge Хаффман яростно выступил против компаний ИИ, таких как Anthropic, Perplexity и Microsoft, за использование данных Reddit без надлежащей компенсации. В то время Anthropic сказал Verge: «Reddit был в нашем черном списке за веб-сканирование». Но Reddit по-прежнему не считает, что Anthropic был слишком откровенен, и в этом месяце он подал в суд на стартап ИИ за «продолжение атак на серверы Reddit более ста тысяч раз» без разрешения, обвинение, с которым Anthropic «не согласен». В заявлении для Slate Ли, главный юридический директор Reddit, написал: «Мы не потерпим, чтобы такие стремящиеся к прибыли организации, как Anthropic, коммерчески эксплуатировали контент Reddit за миллиарды долларов без какой-либо компенсации для пользователей Reddit или уважения к их конфиденциальности».

Если и была задача посложнее, чем контроль за хищными ИИ-краулерами, так это сохранение личных, здоровых и максимально свободных от ботов взаимодействий на Reddit. Поскольку модераторы работают на добровольной основе, они могут сделать лишь немногое для модерации комментариев и постов, особенно если они отвечают за более крупные сообщества. Модераторы r/PublicFreakout, в котором около 4,7 миллионов участников, написали мне, что они «получают, по крайней мере, 250 000+ комментариев в месяц ».

«У нас довольно большая и активная команда, но мы не можем читать так много комментариев в месяц, и мы определенно не можем просматривать профили каждого комментатора», — сказал один из модераторов. Бывший Reddit под ником Zakku_Rakusihi, который был модератором сабреддита r/BrianThompsonMurder и работал с программным обеспечением для машинного обучения на своей основной работе, сказал мне, что «значительная часть Reddit не согласна с ИИ» и поэтому вообще отказывается с ним взаимодействовать, что только усложняет для пользователей обнаружение потенциальных явных признаков автоматизированных ответов или сгенерированного текста. «Многие пользователи по-прежнему воспринимают большинство взаимодействий как человеческие, даже если некоторые тексты ИИ довольно очевидны. Мне приходилось указывать на это людям несколько раз, и они не понимали. Это не всплывает у них в голове автоматически». Он добавил, что ситуация становится еще хуже, когда речь идет об изображениях, созданных с помощью ИИ: «В сабреддитах, посвященных искусству и DIY, с которыми я работал, нам пришлось ввести правило «никакого искусства, созданного с помощью ИИ »».

Что еще больше усложняет ситуацию, так это то, что пользователи Reddit давно подозревали, что на сайте больше ботов, чем люди думают, — еще с тех пор, как основатели признались в использовании фейковых аккаунтов для создания иллюзии активности на ранних этапах существования платформы. Действительно, на Reddit было много ботов и фейковых пользователей задолго до того, как ChatGPT сделал генеративный ИИ мейнстримом. Но не все эти боты были обманчивыми или злонамеренными — многие из них были инструментами , которые модераторы использовали для обеспечения соблюдения правил сообществами.

В середине 2010-х годов компания по безопасности данных Imperva опубликовала отчет, в котором говорилось, что в 2015 году небольшое большинство трафика во всем Интернете было сгенерировано как «хорошими», так и «плохими» ботами. С тех пор антенны «теории мертвого интернета» были направлены, особенно на Reddit. В эпоху после ChatGPT вы не найдете недостатка в сообщениях на форумах и эссе , а также в сообщениях Reddit , утверждающих, что эта платформа теперь в основном представляет собой ботов, взаимодействующих с другими ботами, судьба, которая постигла такие любимые интернет-репозитории, как Quora и DeviantArt . Еще до того, как был разоблачен эксперимент в Цюрихе, один из участников r/ChangeMyView утверждал, что «в настоящее время происходит гораздо больше активности ботов, чем об этом открыто говорят, и последствия ботов более выражены, чем люди готовы признать».