Одна из самых известных корпоративных миссий в истории звучит как клятва библиотекаря-идеалиста: организовать мировую информацию и сделать её доступной и полезной для всех. Эта история — о том, что случается, когда слово «всех» начинает требовать сносок.
В марте 2010 года Google совершила жест, который многие восприняли как редкий случай корпоративного героизма. Компания объявила, что больше не готова соблюдать требования цензуры для Google.cn — поисковой системы, адаптированной для материкового Китая. Формальным поводом стали кибератаки, направленные, среди прочего, на почтовые аккаунты китайских правозащитников. Фактическим — накопившееся напряжение между тем, что Google обещала миру, и тем, что делала на одном конкретном рынке.
Решение выглядело драматично: пользователей Google.cn перенаправили на Google Hong Kong, где поисковая выдача не фильтровалась по требованиям Пекина. Западная пресса писала о принципиальности. Но нюанс, который легко упустить: Google не покинула Китай. Рекламный бизнес продолжал работать. Офисы в Пекине и Шанхае оставались открытыми. Инвестиции в китайские стартапы шли своим чередом. Облачные сервисы, Android-экосистема, исследовательские лаборатории — всё это сохранялось. Уход касался одного конкретного продукта — поисковой системы, и даже этот уход был, по сути, переадресацией.
Для компании, чья капитализация в значительной мере строится на поисковом бизнесе, отказ от поиска в стране с крупнейшей интернет-аудиторией планеты — решение болезненное. К 2017 году китайский интернет насчитывал более 700 миллионов пользователей, и почти всё это пространство принадлежало Baidu. Google смотрела на этот рынок как человек, который ушёл из ресторана, хлопнув дверью, но через семь лет стоит на тротуаре напротив и изучает меню через стекло.
Весной 2017 года внутри Google началась работа над проектом, получившим кодовое название Dragonfly. У него были и другие имена — Maotai и Longfei, — что уже само по себе говорит о масштабе: проекты с одним названием обычно помещаются в одну комнату. Речь шла о создании специализированного Android-приложения для поиска, предназначенного для китайского рынка. Приложения, которое должно было работать по правилам, установленным Коммунистической партией Китая.
Что это значило на практике? Согласно внутренним документам, которые впоследствии стали достоянием журналистов, система должна была автоматически исключать из поисковой выдачи темы, признанные запрещёнными: права человека, демократию, протесты, упоминания BBC и Wikipedia. На месте удалённых результатов пользователь видел бы дисклеймер — уведомление о том, что часть информации недоступна в силу законодательных ограничений. Грубо говоря, поисковик честно сообщал бы, что врёт, — и продолжал бы врать.
Меня лично зацепила деталь с погодой и экологией. Прототипы Dragonfly, согласно описаниям, подменяли данные о загрязнении воздуха и погоде на официальные китайские показатели. Это тот уровень адаптации, который выходит за рамки простой фильтрации политически чувствительного контента. Качество воздуха — информация, от которой зависит решение, выводить ли ребёнка на прогулку. Когда поисковая система начинает подменять данные о том, чем люди дышат, слово «цензура» перестаёт быть достаточным.
Ещё один элемент проектируемой архитектуры, описанный в утёкших документах: привязка поисковых запросов к номерам телефонов пользователей. Здесь важна точность. Dragonfly не был запущенным продуктом. Никаких данных о том, что Google передавала запросы китайских пользователей властям, в публичном пространстве нет. Речь идёт о характеристике системы на стадии проектирования — но сама эта характеристика превращала гипотетический поисковик в нечто принципиально отличное от того, что Google предлагает в остальном мире. Поисковая система, в которой каждый запрос имеет имя и фамилию, — это инструмент с двойным назначением, и второе назначение очевидно.
1 августа 2018 года журналист Райан Галлахер из The Intercept опубликовал материал, который перевёл Dragonfly из категории корпоративного секрета в категорию публичного скандала. Документы, на которые он опирался, были достаточно детальны, чтобы реконструировать архитектуру проекта, и достаточно конкретны, чтобы исключить интерпретацию «это просто исследовательский эксперимент».
Реакция внутри Google оказалась острее, чем, вероятно, ожидало руководство. Сотрудники компании — инженеры, исследователи, менеджеры — начали подписывать внутренние письма с требованием прозрачности. Они хотели знать, над чем работают их коллеги, и хотели иметь право решать, участвовать ли в этом. Для Кремниевой долины, где лояльность к работодателю исторически подкрепляется опционами и бесплатными обедами, это был необычный жест. Люди рисковали карьерами ради вопроса, который не касался их зарплат.
Среди тех, кто ушёл, был Джек Полсон — старший научный сотрудник Google. Его увольнение стало одним из наиболее заметных публичных актов протеста. Полсон впоследствии направил письмо в Комитет Сената по торговле, объясняя, почему счёл невозможным оставаться в компании, которая проектирует инструмент слежки для авторитарного государства. Он не был единственным уволившимся, но стал лицом внутреннего сопротивления — отчасти потому, что был готов говорить об этом публично.
Протесты сотрудников Google в 2018 году не ограничивались Dragonfly. Параллельно шли споры вокруг контракта Project Maven с Пентагоном — системы распознавания объектов для военных дронов. Компания оказалась в необычном положении: её критиковали одновременно за сотрудничество с американскими военными и за готовность помогать китайской цензуре. Два фронта, два совершенно разных обвинения, и оба — про одно и то же: про границу между «мы делаем технологию» и «мы отвечаем за то, как она используется».
Скандал вокруг Dragonfly быстро перерос границы корпоративной этики и стал политическим. Шестнадцать членов Палаты представителей США обратились к Google с требованием разъяснений. Правозащитные организации — Amnesty International, Human Rights Watch — выступили с жёсткими заявлениями. Для них Dragonfly был конкретным инструментом, который мог бы использоваться для идентификации людей, ищущих информацию о правах человека, в стране, где такой поиск может иметь реальные последствия для свободы и жизни.
11 декабря 2018 года — дата, которая заслуживает внимания к деталям. Сундар Пичай, CEO Google, давал показания перед Юридическим комитетом Палаты представителей США. Его спрашивали о Dragonfly напрямую. Ответ Пичаи стал образцом корпоративной лингвистики: у компании нет планов запускать поисковый продукт в Китае «прямо сейчас» (right now). При этом он подтвердил, что внутренняя разработка велась, и назвал численность задействованной команды — около ста человек; утечки тем временем говорили о почти трёхстах.
Два слова — «прямо сейчас» — сделали больше для подрыва доверия, чем могла бы сделать любая утечка. Планы запуска отсутствуют прямо сейчас. А через полгода? А через год? Формулировка была юридически безупречной и коммуникационно катастрофичной. Она подтверждала, что проект существовал в масштабе, несовместимом с определением «исследовательский эксперимент» — сотня-другая инженеров не занимается абстрактными упражнениями, — и одновременно оставляла дверь открытой.
Контекст слушаний тоже важен. Пичаи оказался перед комитетом не из-за Dragonfly как такового — повестка была шире и включала вопросы о политической предвзятости поисковой выдачи, конфиденциальности данных, рыночной власти. Но именно китайский проект стал точкой, в которой абстрактные вопросы о корпоративной ответственности приобрели предельную конкретность: за спором о том, корректно ли алгоритм ранжирует новостные источники, стояла система, спроектированная так, чтобы государство могло знать, кто из его граждан интересуется демократией.
Отдельная линия этой истории — роль лично Сундара Пичаи. Проект Dragonfly, согласно опубликованным данным, курировался на уровне CEO. В декабре 2017 года Пичаи провёл встречу с Ван Хунином — одним из наиболее влиятельных членов Постоянного комитета Политбюро КПК, человеком, которого часто называют главным идеологом партии. О содержании разговора публично известно немного, но сам факт встречи на таком уровне говорит о серьёзности намерений.
Здесь полезно разделить два вопроса, которые в публичной дискуссии часто сливаются в один. Первый — фильтрация поисковой выдачи, то есть цензура контента. Второй — государственный доступ к пользовательским данным, правовые запросы, потенциальный надзор. Это связанные, но не тождественные проблемы. Поисковая система может фильтровать результаты и при этом не передавать данные о пользователях государству. И наоборот: система может показывать нефильтрованную выдачу, но при этом предоставлять властям доступ к логам запросов. Dragonfly, судя по описаниям прототипов, проектировался так, что обе проблемы оказывались встроены в архитектуру одновременно: и чёрные списки тем, и привязка запросов к телефонным номерам.
Руководство Google на протяжении многих лет использовало аргумент, который можно назвать «доктриной частичного доступа»: лучше дать пользователям хоть какой-то доступ к информации, чем не дать никакого. Этот аргумент звучал ещё в 2006 году, когда Google.cn только запускался, и Эрик Шмидт объяснял, что присутствие в Китае с ограниченным поиском лучше, чем полное отсутствие. Логика понятна и даже обладает определённой честностью. Но Dragonfly обнажил её предел: когда «частичный доступ» включает подмену данных о качестве воздуха и потенциальную идентификацию пользователей по их запросам, речь идёт уже не о компромиссе.
Проект Dragonfly, по имеющимся сведениям, был свёрнут. Точной даты официального закрытия в публичном пространстве нет — это характерно для внутренних разработок, которые не были анонсированы и потому не могут быть формально «отменены». В июле 2019 года вице-президент Google по государственной политике Кэран Бхатия заявил на слушаниях в Сенате, что работа над Dragonfly прекращена. Это наиболее определённое публичное подтверждение.
Меня не оставляет мысль о том, что главным результатом этой истории стала не отмена конкретного проекта, а обнажение механизма. Dragonfly показал, как выглядит процесс принятия решений внутри технологической корпорации, когда коммерческий интерес сталкивается с декларируемыми ценностями. Сотни инженеров работали над проектом, о котором большинство их коллег не знали. Решения принимались на уровне CEO. Этический контроль — если он существовал — не предотвратил разработку; его роль сыграла утечка в прессу.
Вопрос, который Dragonfly поставил перед индустрией, не исчез вместе с проектом. Любая глобальная технологическая компания, работающая в странах с авторитарным управлением, стоит перед той же развилкой. Apple хранит данные китайских пользователей iCloud на серверах, управляемых государственной компанией. Microsoft управляет цензурированной версией LinkedIn в Китае (до закрытия в 2021 году). Amazon предоставляет облачные сервисы через местных партнёров. Каждый из этих случаев — своя точка на шкале компромисса, и ни один из них не сопровождался скандалом масштаба Dragonfly, хотя этические вопросы в каждом случае не менее остры.
Фраза «организовать мировую информацию» содержит в себе тихое допущение: тот, кто организует, решает, что входит в «мировую», а что нет. Google в 2010 году решила, что цензура несовместима с этой миссией. Google в 2017 году начала проектировать систему, в которой цензура была бы базовой функцией. Google в 2018 году заявила, что запуска «прямо сейчас» не будет. Между этими тремя точками — не эволюция позиции, а колебание маятника, амплитуда которого определяется не принципами, а давлением: рыночным, политическим, репутационным. Маятник остановился лишь потому, что направления всех трёх сил совпали одновременно, — и никто не может гарантировать, что так будет всегда.