Анатомический театр имени Дурова: как показательный процесс над Telegram выстраивает отношения между государствами и IT-гигантами

Вина посредника

«На данный момент нет никакого единого международного соглашения по ответственности компаний — посредников распространения информации и модерации контента, — говорит сооснователь проекта «Роскомсвобода» Саркис Дарбинян. — Но есть позиции ООН и Совета Европы». По словам Дарбиняна, для 46 стран — участниц Совета Европы правовой стандарт задало одно знаковое дело ЕСПЧ: издание Delfi против Эстонии. Delfi опубликовало статью, в комментариях к которой стали появляться угрозы в адрес одного из ее героев. Адвокаты этого человека потребовали от платформы удалить комментарии и выплатить компенсацию морального ущерба. Издание удалило комментарии, но от выплаты отказалось. Суд же постановил, что Delfi несет ответственность за пользовательские действия: платформа могла ожидать, что статья спровоцирует появление негативных комментариев, но не приняла мер для их удаления.

Этот прецедент повлиял на трактовку европейских законов, которые регулируют модерацию контента, говорит Дарбинян. Речь идет прежде всего о Директиве об электронной коммерции и Законе о цифровых услугах. Согласно этим документам, платформы не несут ответственности за пользовательский контент, если они не знают о его незаконности, но должны удалить его, если получат уведомление об этом.

Помогла бы Дурову смена дубайской прописки Telegram на французскую? Нет, потому что место регистрации компании не имеет значения, как и гражданство ее директоров и акционеров. «Нормы по регулированию контента на платформах сейчас, как правило, имеют трансграничный характер, — отмечает Дарбинян. — Все обязаны соблюдать национальные законы и международные стандарты. Значение имеют лишь три фактора: таргетирует ли платформа свои сервисы на граждан этих стран, распространяет ли свои сервисы на их языках и получает ли компания доход от пользователей, являющихся гражданами этих стран».

Директор фонда «Общество защиты интернета» Михаил Климарев считает, что претензии к Telegram — проявление более масштабной проблемы.

«Вопрос стоит шире — как регулировать большие IT-корпорации? Стран много, везде свои особенности, и никто не знает, как привести их к одному знаменателю. Законодательства, которые приходится соблюдать, бывают в отрыве от нормальности — например, как в России или Мьянме».

Сотрудничество с властями

После сообщений о сотрудничестве Дурова с французскими силовиками пользователи из России стали вспоминать случаи, когда на граждан заводили дела из-за переписок и подписок в мессенджере. Однако приватность пользователей и модерация контента — разные вещи.

«Насколько я помню, Telegram не сливал именно частные переписки. В основном просто устройства отбирали и читали, — напоминает Климарев. — Facebook и Instagram заблокировали и признали экстремистскими в РФ, хотя они ничего не сделали, чтобы это “заслужить”, защитить свободу слова. Но WhatsApp <который принадлежит той же компании Meta, что и Facebook и Instagram — The Insider> работает — значит ли это, что он сотрудничает с органами?»

Также до конца не ясно, как Дуров мог так часто приезжать в Россию, если он покинул страну из-за давления властей, и зачем он вообще это делал. «Он же не находился под следствием или в розыске, — отмечает Климарев. — Но вопрос интересный. Во-первых, получается, что он врал. Во-вторых, он бывал в России в июне — октябре 2021 года, как раз когда в Telegram блокировали бота “Умного голосования”. Может, ему сказали “или бот, или мы тебя посадим…“, и после этого он больше не приезжал».

«С 2014 года и дальше Павел Дуров приезжал в Россию к маме и брату, плюс не все разработчики уехали, — размышляет автор книги “Код Дурова“ журналист Николай Кононов. — Странно то, что Дуров свободно приезжал в 2017–2018 гг., когда уже начался накат на Telegram. Я это объясняю тем, что Алишер Усманов и Роман Абрамович, с которыми Дуров хорошо знаком, могли как-то по-своему гарантировать ему безопасность. А последний визит Павла Дурова в Россию был осенью 2021 года. Это значит, что у него либо фантастически развито чутье, либо ему кто-то сказал, что будет полномасштабное вторжение, и он понял, что пора отказываться от токсичного актива под названием “Россия”. Может быть еще вариант с тем, что закручивали медийные гайки перед вторжением, и на Telegram могли насесть особенно горячо».

«О личном сотрудничестве Дурова и Telegram с ФСБ России нам ничего не известно, хотя, конечно, мы можем допускать, что какие-то метаданные и персональные данные они выдают, — говорит Дарбинян. — А после удаления бота “Умного голосования” многим стало ясно, что все-таки какой-то канал коммуникации для особых случаев у них есть. Ну и, конечно, на вооружении у российских силовиков стоит специальный софт, который позволяет собирать множество метаданных на платформе и деанонимизировать владельцев аккаунтов».

Трудности модерации

Эксперты соглашаются, что Telegram действительно долгое время игнорировал проблему с модерацией контента на платформе. Они выделяют несколько причин такого отношения, среди которых есть объективные, — такие как сложность и дороговизна этой процедуры, и субъективные — взгляды основателей. Кононов называет Дурова «киберлибертарианцем»:

«Он всегда прохладно и медленно реагировал на запросы разных прокуратур. Более того, когда модерация все-таки осуществлялась, это часто происходило непрозрачно».

Требования к контенту на онлайн-сервисах не всегда прозрачны и сильно разнятся от страны к стране. «В Terms of Service Telegram указано, что платформу нельзя использовать для пропаганды насилия, продажи наркотиков и публикации порнографии. Это прописано официально. Да, модерация идет плохо. Во-первых, объемы контента огромны, этот массив сложно фильтровать и искать в нем запрещенное. Во-вторых, модерировать дорого», — говорит Климарев.

По мнению Климарева, у Telegram нет возможности существенно повлиять на ситуацию.

«Telegram — это уже не мессенджер, а соцсеть. Не такая большая, как Facebook или Twitter (X), но всё же. Модераторы не могут контролировать, как кто-то договаривается о теракте в личных чатах. Meta, гигантская корпорация, не особенно преуспела в построении эффективной системы модерации. Их собственные стандарты жестче законодательства стран, где они работают, там просто невозможно общаться. С другой стороны, в X, где модерации вообще почти нет, среда очень токсичная».

«Непонятно, что такое эффективность, — добавляет Кононов. — Если цель — добиваться сокращения преступности, то можно просто закрывать соцсети. Либо можно вернуть их к самой первой версии Facebook, когда туда могли заходить только студенты Лиги Плюща, да и те были не без греха».

Дарбинян не согласен с коллегами. По его мнению, эффективная фильтрация контента возможна — на крупных платформах это делается силами ИИ и команды модераторов.

«Бóльший процент контента определяется нейросетями как незаконный еще на стадии загрузки на платформы — это педофильский контент, обнаженка и много чего еще, — говорит сооснователь «Роскомсвободы». — Кроме того, компании вроде Google или Facebook имеют в разных частях света команды модераторов, владеющих разными языками и локальным контекстом. Они и принимают решения, если контент уже попал на платформу и по нему есть жалобы».

Гиперконтроль или анархия?

«Чьи-то права всегда будут нарушаться в той или иной степени. Но что это за права? Допустим, мы не призываем никого убивать, но можем ли мы призывать пересажать путинских солдат? А как-нибудь обзывать французских полицейских?» — рассуждает Климарев.

Дарбинян считает, что модерация контента без нарушения прав пользователей возможна и необходима — если речь идет об открытом централизованном сервисе поколения Web 2.0, как Telegram:

«Для Дурова был и другой путь, если он не хотел модерацией заниматься: открыть исходный код, отдать платформу на управление самому коммьюнити. Так, например, сделал Евгений Рочко, который разработал Mastodon, свободное программное обеспечение поколения Web 3.0 для развертывания распределенных социальных сетей. К нему и вопросов никаких нет, потому что он там ничего не контролирует. Но Дуров не захотел идти по этому пути и в результате имеет сейчас те проблемы, которые создали ему французская жандармерия и прокуратура».

«А с другой стороны, есть Z-каналы, где публикуют отрубленные головы, насаженные на пики, что, конечно, надо удалять, а никто этим не занимается. Или в Мьянме в канале на миллион человек публиковали фото человека, а через какое-то время реплаем на эту фотку — фотография избитого трупа этого человека. И такие публикации были в течение нескольких лет. В итоге канал удалили, только когда дело получило огласку», — отмечает Климарев.

«Политика таких централизованных сервисов, как Telegram, зачастую соответствует взглядам их основателей. Дуров всегда признавал лишь один вид запрещенного контента, с которым нужно бороться, — это терроризм, — рассказывает Дарбинян. — Управляя изначально “пиратской шхуной” в интернете, Дуров начал заплывать в прибрежные границы государств и порты, при этом не соблюдая “Морской кодекс”. Правозащитное сообщество еще два года назад било тревогу по поводу проблем безопасности в Telegram: например, отсутствия четкой и прозрачной политики сервиса и работоспособных каналов поддержки. Пытались об этом предупредить Дурова и даже давали рекомендации, что делать. Ответа не последовало, как и каких-либо изменений в политике компании».

Доступ к перепискам и ключи шифрования

«Ключей шифрования <переписок пользователей Telegram — The Insider>, по сути, не существует, — объясняет Климарев. — Ключи — это доступ к серверам, где хранятся сообщения, прочитать их может только сама платформа. Хранятся они на облачных серверах. Иначе переписки бы не синхронизировались, и пользователи могли бы отправлять сообщения только с одного устройства».

«Что и как там работает, никто точно сказать не может. Потому что исходный код, написанный Николаем Дуровым, они не показывают. Мы можем только верить самому Дурову, который говорит, что сообщения фрагментируются и хранятся на разных серверах в разных странах, что обеспечивает безопасность», — уточняет Дарбинян.

Однако, по словам сооснователя «Роскомсвободы», у злоумышленников или силовиков остается достаточно способов получить чужие переписки в Telegram. Среди них:

• прямой доступ к устройству путем физического давления на человека либо из-за недостаточной защищенности доступа к устройству (биометрия, простой пароль);
• захват первоначальной сессии Telegram через доступ к устройству, что позволяет контролировать весь пользовательский аккаунт, а также сбрасывать другие сессии;
• перехват СМС с кодом подтверждения входа в аккаунт через уязвимость протокола SS7 или выпуск дубликата SIM-карты через оператора.

Модерация, открытость и совет мудрецов

По мнению экспертов, для решения вопросов и с модерацией и с взаимодействием с властями важнее всего разобраться с открытостью платформы.

«Главная задача состоит в том, чтобы сделать правила модерации более открытыми, чтобы на каждый пункт можно было сослаться, — уверен Климарев. — Когда что-то происходит в закрытом режиме, этому доверия нет. И в результате кто-то пользуется этой закрытостью в своих целях».

«На мой взгляд, существует не только проблема удаления или блокировки чего-либо, но и полной непрозрачности политики Telegram и отчетов транспарентности, которые ежегодно публикуют другие крупные платформы, — подтверждает Дарбинян. — Из них, по крайней мере, можно узнать, как компании работают с запросами от государственных органов. Есть такая инициатива — “Рейтинг цифровых прав”. Она существует и в США, и в Казахстане, и в РФ, и в других странах».

Один из способов обеспечить эту открытость — допуск третьих лиц к принятию решений на платформе. «Уже есть примеры создания наднациональных и надкорпоративных институтов для особых случаев. Например, это международный ”Наблюдательный совет” (Oversight Board), который был создан несколько лет назад, — рассказывает Дарбинян. — Если авторы контента исчерпали возможности поддержки в Facebook, Instagram или Threads, они могут оспорить решение компании, обратившись в эту организацию, куда входят известные адвокаты, университетские профессора, журналисты и политики. Meta также может передать дело для решения этой организации. Например, совсем недавно Совет вынес решение, согласившись с Meta в том, что три разных материала с фразой “from the river to the sea” не должны быть удалены с платформы».

«Есть понятие имущественного контроля, когда Дуров владеет и управляет Telegram как генеральный директор, — добавляет Кононов. — И есть общественный контроль, когда Telegram — это общественное достояние, которое касается жизни, контента и личных данных огромного количества людей. Ни единоличные харизматичные персоны, ни государство с его полицией не должны иметь доступа к нашей с вами информации и даже влиять на эту цифровую вселенную. Недавно Григорий Юдин, Артемий Магун и другие философы представили проект конституции России будущего для обсуждения, так же можно обсуждать контроль и над гигантскими платформами».