От редакции

В конце марта 2026 года в Государственную Думу было направлено обращение, в котором обращается внимание на очевидную тенденцию к воплощению теории «мёртвого интернета» в ближайшем будущем. Речь идёт о сценарии, при котором подавляющую часть контента в глобальной сети будут создавать нейросети, а не люди. Об этом сообщил депутат Государственной Думы Антон Горелкин, заместитель председателя Комитета по информационной политике, информационным технологиям и связи.

В чём заключается реальная опасность данного явления? Что необходимо понимать и знать, чтобы обезопасить себя и быть осмотрительным во избежание его негативных последствий? С этими вопросами редакция журнала обратилась к ведущему эксперту в сфере кибербезопасности, доценту Института проблем безопасности Национального исследовательского университета «Высшая школа экономики» Роману Торшину. Предлагаем вниманию читателей его экспертное мнение.

Роман Викторович, как бы вы охарактеризовали концепцию «мёртвого интернета»? Это действительно реальная угроза или преувеличение, которым любят пугать в СМИ?

Концепция «мёртвого интернета» (dead internet theory) первоначально возникла в 2021 году на интернет-форумах Reddit и 4chan как маргинальная гипотеза. Однако за прошедшие четыре года она из разряда конспирологических теорий переместилась в плоскость академических исследований и повестку законодательных органов. Данная концепция описывает гипотетический сценарий, при котором преобладающая часть контента, воспринимаемого пользователями, в глобальной сети генерируется, модерируется и потребляется автоматизированными системами с минимальным участием человека.

Иными словами, речь идёт о ситуации, когда алгоритмы создают контент, другие алгоритмы взаимодействуют с ним — лайкают, комментируют, репостят, — а третьи алгоритмы принимают решение, кому именно показать этот контент. Человек в данной цепочке фактически исключён из процесса создания контента и становится лишь его потребителем. Причём потребителем контента, качество и достоверность которого не поддаются объективной верификации.

Насколько это реально уже сегодня? Есть ли конкретные данные? 

Безусловно. Исследователи Оксфордского университета в своём докладе 2023 года установили, что доля алгоритмически генерируемого контента в совокупном интернет-трафике превышает сорок процентов. Отчёт Imperva Bad Bot Report 2024 подтверждает: доля бот-трафика в интернете составляет порядка сорока девяти процентов, из которых тридцать два процента — так называемые «плохие боты», то есть автоматизированные системы, действующие в нарушение правил платформ. Аналитическая компания NewsGuard в 2024 году зафиксировала рост количества сайтов с AI-сгенерированным контентом более чем на тысячу процентов по сравнению с предыдущим годом.

Данные показатели позволяют утверждать, что процесс, о котором предупреждает депутат Горелкин, не просто гипотетическая угроза будущего — это текущая реальность, которая с каждым годом ускоряется.

Какие факторы, на ваш взгляд, являются основными драйверами этого процесса? Почему именно сейчас эта тенденция стала столь заметной?

Фундаментальный драйвер — экономический. Стоимость генерации текстового контента с помощью современных больших языковых моделей (LLM), таких как GPT-4, составляет менее трёх центов за тысячу слов. Для сравнения: привлечение квалифицированного копирайтера для аналогичного объёма обойдётся от пятидесяти до двухсот долларов. Разница в стоимости — три-четыре порядка. Для бизнеса это создаёт непреодолимый экономический стимул к автоматизации контент-производства.

Второй фактор — качественный скачок в возможностях генеративных моделей. Современные системы способны создавать тексты, изображения и аудиоматериалы, которые практически неотличимы от созданных человеком. Исследование MIT Media Lab (2024 г.) продемонстрировало, что средняя точность распознавания AI-сгенерированного контента экспертами-людьми не превышает пятьдесят два процента — значение, статистически не отличимое от случайного угадывания.

Третий фактор — формирование самоподдерживающегося цикла. Боты генерируют контент, другие боты «взаимодействуют» с ним, алгоритмы платформ повышают видимость «популярного» контента, а аналитические системы используют эту активность для обучения новых моделей. Возникает замкнутая петля обратной связи, разорвать которую техническими методами становится всё сложнее.

Четвёртый фактор — так называемое «проклятие рекурсии» (The Curse of Recursion), описанное исследователями из журнала Nature (Shumailov et al., 2023). Когда AI-модели обучаются на данных, частично или полностью сгенерированных предыдущими моделями, происходит постепенная деградация качества и смыслового разнообразия. Модель начинает «забывать» реальный мир и всё больше существует в собственной синтетической реальности. Это явление получило название model collapse.

Давайте перейдём к конкретным рискам. В чём заключается опасность для обычного пользователя?

Ключевые риски можно разделить на несколько категорий. Первая — информационная. Массовая генерация дезинформации с помощью AI создаёт беспрецедентные возможности для манипуляции общественным мнением. Координированные бот-кампании способны формировать ложное восприятие общественного консенсуса: когда пользователь видит, что определённая точка зрения доминирует в обсуждении, он склонен присоединяться к большинству, даже если это «большинство» состоит из алгоритмов. Это особенно опасно в периоды избирательных кампаний и кризисных ситуаций.

Вторая категория — экономическая. Фальсификация отзывов, рейтингов и рекомендаций на торговых площадках искажает потребительское поведение. Пользователь принимает решение о покупке на основании отзывов, написанных алгоритмом, и получает товар, качество которого не соответствует ожиданиям. Масштаб проблемы определяется тем, что доля фальсифицированных отзывов на крупных маркетплейсах, по различным оценкам, составляет от пятнадцати до тридцати процентов.

Третья категория — социальная инженерия. Современные AI-системы способны вести осмысленные, персонализированные диалоги с пользователем в течение длительного времени. Это открывает возможности для автоматизированной социальной инженерии: бот выстраивает доверие, собирает персональные данные и использует их для мошеннических целей. Причём пользователь в большинстве случаев даже не подозревает, что общался с программой, а не с живым человеком.

Четвёртая категория, о которой мало говорят, — технологическая. Процесс, известный как «отравление данных» (data poisoning), заключается в целенаправленном загрязнении обучающих выборок рекомендательных систем. Когда рекомендательные алгоритмы обучаются на данных, содержащих значительную долю AI-сгенерированного контента, качество их работы прогрессивно ухудшается. Пользователь получает всё менее релевантные рекомендации, а платформа теряет доверие аудитории.

И наконец, пятая категория — эрозия цифровой доверительной среды как таковой. Когда пользователь перестаёт доверять информации в интернете, начинается системный кризис цифровой экономики. Если за каждым текстом, изображением и видео подозревается синтетическое происхождение, потребность в верификации информации возрастает до такой степени, что использование интернета в привычном формате становится практически невозможным.

Вы упомянули опасность каскадных эффектов. Не могли бы вы пояснить?

Одно из наиболее тревожных направлений — риск так называемой «каскадной отмены» в бот-экосистемах. Масштабный сбой в сети Meta в октябре 2021 года, когда техническая ошибка в системе DNS BGP-маршрутизации привела к шестичасовому отключению всех сервисов компании (Facebook, WhatsApp, Instagram, Oculus), продемонстрировал уязвимость централизованных цифровых систем. В контексте «мёртвого интернета» аналогичный сценарий означает следующее: массовый выход из рабочего режима бот-сетей на одной крупной платформе способен вызвать цепную реакцию переконфигурации автоматизированных систем на других платформах. В результате доля синтетического контента в сети может кратковременно, но критически подскочить до восьмидесяти — девяноста процентов.

Подобный сценарий не является фантастикой. Уже сегодня координированные бот-сети способны в течение нескольких часов сгенерировать сотни тысяч публикаций по заданной тематике, создавая иллюзию массового общественного резонанса вокруг искусственно инициированной темы.

Что предпринимается для противодействия данным угрозам? И насколько эффективны существующие меры?

Существуют три основных направления противодействия: техническое, организационное и правовое. Рассмотрим каждое из них.

В части технических мер наиболее перспективным направлением является поведенческая биометрия (behavioral biometrics). Исследователи Carnegie Mellon University (2023 г.) доказали, что анализ паттернов человеческого поведения — скорости набора текста, траектории движения мыши, характера прокрутки страницы, временных интервалов между действиями — позволяет отличить человека от продвинутого бота с точностью до 94,7 %. Это существенно превышает точность традиционных методов, основанных на анализе IP-адресов и User-Agent строк.

Платформы также применяют многоуровневые системы изоляции. Первая ступень — «теневой бан» (shadow ban): подозрительный аккаунт не блокируется явно, но его контент перестаёт показываться другим пользователям. Вторая — ограничение частоты действий (rate limiting). Третья — «песочница» (sandboxing): контент подозрительных аккаунтов показывается только другим sandboxed-аккаунтам, создавая замкнутую экосистему, в которой боты «взаимодействуют» исключительно друг с другом.

Важнейшая технологическая инициатива — стандарт C2PA (Coalition for Content Provenance and Authenticity), разработанный при участии Adobe, Microsoft, BBC и других компаний. Данный стандарт предусматривает внедрение криптографически подписанных метаданных в каждый элемент генерируемого контента. Эти метаданные содержат информацию об источнике генерации, используемой модели, параметрах генерации и цепочке последующих модификаций. Если данный стандарт получит широкое распространение, верификация происхождения контента станет существенно более надёжной.

Что касается правовых мер, ситуация различается по юрисдикциям. Европейский союз в 2024 году принял AI Act — системный закон об искусственном интеллекте, предусматривающий штрафы до семи процентов от мирового оборота для компаний, нарушающих требования к прозрачности AI-генерируемого контента. Китай реализовал один из наиболее жёстких подходов: обязательная регистрация генеративных моделей, маркировка всего AI-контента и даже уголовная ответственность за нарушения.

В Российской Федерации статья 10.1 Федерального закона «Об информации, информационных технологиях и о защите информации» (в редакции ФЗ-398 от 29 декабря 2020 года) формально устанавливает требования к маркировке информации, распространяемой без участия человека. Однако, откровенно говоря, реальное применение данной нормы остаётся крайне затруднительным: механизмы контроля, идентификации и привлечения к ответственности за распространение немаркированного AI-контента до настоящего времени не разработаны в полной мере. Выступление депутата Горелкина в Государственной Думе свидетельствует о том, что данный пробел начинает привлекать внимание на законодательном уровне, что является позитивным сигналом.

Что бы вы посоветовали нашим читателям? Как обычный пользователь может защитить себя?

Рекомендации можно разделить на два уровня: для индивидуальных пользователей и для организаций.

Для пользователей. Первое и наиболее важное правило — информационная гигиена. Необходимо развивать критическое мышление и относиться к любой информации в интернете с должной долей скепсиса. Если новость вызывает слишком сильную эмоциональную реакцию — гнев, страх, восторг, — это повод остановиться и проверить информацию из независимых источников перед тем, как репостить или комментировать. Именно на эмоциональных реакциях построены алгоритмы распространения контента, и бот-сети это прекрасно понимают.

Второе правило — верификация источников. Прежде чем доверять информации, проверьте, является ли источник подлинным. Обращайте внимание на дату публикации, наличие подписи автора, ссылки на первоисточники. Сайты с AI-сгенерированным контентом часто содержат характерные признаки: шаблонная структура статей, отсутствие конкретных авторов, обтекаемые формулировки без фактического содержания.

Третье правило — осторожность при общении в сети. Не следует передавать персональные данные, финансовую информацию или конфиденциальные сведения собеседникам, чью личность вы не можете верифицировать. Современные AI-системы способны вести осмысленные диалоги в течение длительного времени, и отличить их от живого человека в ходе обычной переписки крайне затруднительно.

Четвёртое правило — использование инструментов верификации. Существуют сервисы и расширения для браузеров, которые помогают выявлять AI-сгенерированный контент. Их точность не стопроцентная, но дополнительный уровень проверки никогда не помешает.

Для организаций. Компании, оперирующие цифровыми платформами, должны инвестировать в многоуровневые системы обнаружения бот-активности. Комбинированный подход, включающий поведенческую биометрию как первичный фильтр, нейросетевой анализ как вторичную проверку и C2PA-маркировку как стандарт аутентичности, в настоящее время является наиболее эффективным решением. Для платформы среднего масштаба затраты на такую систему составляют от 2,5 до 8 миллионов долларов в год — сумма значительная, но несопоставимая с репутационными и финансовыми потерями от одной успешной бот-кампании.

Организациям также необходимо обновить условия использования платформ, внедрить автоматизированные системы лицензирования контента и регулярно проводить алгоритмический аудит — независимую проверку рекомендательных алгоритмов на предмет уязвимости к манипуляциям.

Роман Викторович, в заключение: как вы оцениваете перспективы? Мы в состоянии справиться с этой угрозой?

В настоящее время я вижу три вероятных сценария развития ситуации.

Первый — инерционный. Предполагает сохранение текущих темпов роста доли синтетического контента (около пяти-семи процентов в год) при отсутствии существенных контрмер. К 2030 году доля AI-контента может достигнуть 65–70 %. Это приведёт к системной деградации доверия к цифровым коммуникациям, хотя полного коллапса интернет-инфраструктуры, вероятно, не произойдёт.

Второй сценарий — регулятивный. Активное вмешательство регуляторов по аналогии с тем, как это было сделано в отношении персональных данных (GDPR). Введение обязательной маркировки AI-контента, создание международных механизмов координации и согласования подходов. Рост доли синтетического контента в данном сценарии замедлится, однако издержки на комплаенс окажутся существенными, особенно для мелких и средних компаний.

Третий сценарий — трансформационный. Принципиальный сдвиг парадигмы: переход от модели «фильтрации ботов» к модели «управляемой аутентичности» (controlled authenticity). Каждый элемент контента сопровождается криптографически верифицируемым происхождением. Пользователи получают инструменты для настройки «уровня аутентичности» своей информационной ленты, аналогично тому, как родительский контроль регулирует доступ к контенту для детей. Создаются независимые аудиторские органы, осуществляющие регулярную проверку эффективности систем контроля на платформах.

Лично я считаю наиболее перспективным именно трансформационный сценарий. При всех его затратах и сложности реализации, именно он обеспечивает долгосрочную устойчивость цифровой среды. Однако для его реализации необходимо активное участие государства, бизнеса и гражданского общества.

Обращение депутата Горелкина — это важный сигнал о том, что проблема начала осознаваться на высшем законодательном уровне. Вопрос в том, смогут ли законодательные инициативы опережать темпы развития технологий. История показывает, что обычно регуляторы реагируют на технологические вызовы с задержкой в несколько лет. В случае с «мёртвым интернетом» у нас, возможно, этого времени нет.

P.S. От редакции

Действительно, на фоне стремительного развития явления «мёртвого интернета» и засилья синтетического контента многократно возрастает роль профессиональных экспертных сообществ. Именно такие объединения, включающие в себя ведущие научно-образовательные центры и признанных практиков с многолетним опытом, сегодня целенаправленно развиваются силами Издательского дома «Мир безопасности+».

В эпоху, когда алгоритмы способны генерировать терабайты сомнительных данных, только от живых носителей самых актуальных экспертных знаний можно получить по-настоящему качественную, выверенную и достоверную информацию. При этом важно подчеркнуть: для настоящих современных экспертов в области безопасности цифровые инструменты, в том числе и искусственный интеллект, — это не враги, а эффективные помощники. Главное — соблюдать строгий баланс их применения, всегда оставляя за человеком право критической оценки и финального решения.