Zoom в Китае

Софтверные компании и Этическая ответственность

Я был очень разочарован тем, что западные компании помогают включить цензуру и слежку в недемократических странах, когда это прямо противоречит их ценностям в остальном. South Park фактически затронул этот вопрос непосредственно с группой в Китае в прошлом году (хотя речь шла именно о тлетворном влиянии на индустрию развлечений). Эта проблема вновь всплыла недавно, когда Zoom заблокировал конференцию, организованную в память о жертвах бойни на площади Тяньаньмэнь, закрыв несколько американских и гонконгских счетов. Их извинения Не то чтобы это было неправильно, но то, что они следовали китайскому законодательству и их единственной ошибкой было включение некитайских счетов в запрет. Грядущее исправление будет заключаться в том, чтобы построить свою инфраструктуру для подчинения только тех, кто находится в материковом Китае (и, предположительно, в других местах, которые ограничивают речь своих граждан).

Zoom не одинок в этом - у Google был проект Dragonfly, Cisco сделала шаг чтобы помочь построить сам великий брандмауэр, и даже Apple идет на уступки ради доступа на китайский рынок. Apple блокирует приложения для подкастов, которые не позволяют Китаю ограничивать доступный контент, удаляет тайваньский флаг с китайских iPhone и позволяет Китаю управлять инфраструктурой iCloud отдельно. Такое поведение является дефолтом, принятым западными компаниями: за исключением законов на родине компании, запрещающих продажи через такие вещи, как санкции, они будут использовать любые авторитарные ограничения, необходимые для доступа на большой рынок китайских граждан. Это проблема стимулов, но это также проблема характера. Люди в этих компаниях ответственны за то, как их программное обеспечение влияет на мир, и замешаны в злоупотреблении им. Они обязаны глубоко задуматься над этими вопросами и учитывать не только правовые стандарты страны, в которой они работают, когда принимают решение о привлечении.

Я постоянно вижу одни и те же аргументы и обоснования по этому вопросу, когда бы он ни поднимался. После того как я снова написал те же аргументы в Hacker News, что и в другом месте, я подумал, что было бы лучше иметь запись в блоге, на которую я мог бы сослаться, чтобы объяснить, как я думаю об этом.

Я также понимаю, что есть люди, которые не согласятся со мной (часто много людей) по поводу какой-либо конкретной политики. Если люди делают то, что они считают этичным, и они действительно думают, что это правильно, тогда, по крайней мере, это последовательно. Я могу не согласиться - я могу даже подумать, что это ужасно, но там есть подлинное несогласие, и об этом можно вести подлинную дискуссию (при условии, что дискуссия все еще разрешена).

То, против чего я выступаю, больше касается людей, которые знают лучше или делают что-то, что находится в прямом противоречии с тем, что они считают правильным. Они рационализируют это, перекладывая эту этическую ответственность на других (например, ссылаясь на правовую базу страны, в которой они работают, говоря, что не мое дело определять политику и т. Д.). Они говорят себе, что само их присутствие полезно, или что если бы это были не они, то это был бы кто-то другой, кто не заботится так сильно, как они.

Они структурируют нечто подобное в своем уме, чтобы иметь возможность придерживаться этих противоречивых мнений, которые позволяют им делать то, что они считают неправильным.

Одно дело утверждать, что цензура граждан - это хорошая идея-я категорически не согласен, но, по крайней мере, это подлинная позиция, с которой можно спорить. Позиции, которые позволяют кому-то поддерживать то, что прямо противоречит их ценностям, в конечном итоге оказываются в основном рационализированной ерундой.

Зло торжествует, когда хорошие люди ничего не делают, но оно также торжествует, когда хорошие люди делают плохие вещи, говоря себе, что это нормально.

Я думаю, что легче исследовать эту тему с помощью провокационного фальшивого примера, который действительно может понять лежащие в основе аргументы, не теряясь в специфике какого-либо конкретного современного примера или политики. Выбирая что-то, что, как мы надеемся, все считают неправильным, легче увидеть рационализацию более четко.

Об этике сжигания детей

Сара - разработчик программного обеспечения в крупной международной компании, базирующейся на западе, и в последнее время ей стало не по себе от некоторых их работ. Это разговор между ней и руководителем об этой работе.

Sarah: Мне очень неудобно, что мы поддерживаем детские поджоги в стране, в которой мы только начали работать. Я думаю, что это неправильно и неэтично, и я не думаю, что мы должны это делать. Мы несем ответственность за то, как используется наше программное обеспечение, и мы соучастники плохого поведения других, которые его используют.

Exec: Сжигание детей там совершенно законно, и мы соблюдаем все местные законы. Если бы мы подняли шум из-за этого, то не только нарушили бы местные законы, но и были бы вынуждены полностью покинуть регион. Вы и я лично можем найти эту политику неприятной, но это не делается произвольно - они сжигают только детей, которые, по их мнению, представляют угрозу стабильности их страны. Нестабильность в регионе может привести к большому количеству конфликтов, что может привести к худшему исходу для всех.

У каждой культуры свой взгляд на то, что правильно, и неудобство от поджогов - это просто ваша культурная позиция по этому вопросу-симптом окружающей среды и страны, в которой вы выросли. Навязывание своих культурных идеалов другим-это просто еще одна форма империализма.

Sarah: Но разве люди в этой стране не сопротивляются этой политике? Судя по тому немногому, что сообщают СМИ, похоже, что тех, кто протестует против сожжения детей, сажают в тюрьму или даже убивают. Даже если бы это было не так и все в стране были бы за поджоги, разве это не было бы неправильно? Разве целое общество не может ошибаться в чем-то (например, в рабстве)? Почему мы должны делать то, что считаем неправильным, только потому, что другие считают это правильным? Разве нельзя использовать региональную нестабильность для оправдания исторических уровней угнетения и насилия, в сущности, чего угодно, кроме войны?

Я понимаю исторический риск навязывания ваших взглядов другой культуре, но это не значит, что все взгляды одинаково справедливы, что вся мораль относительна. Я также не предполагаю, что мы обязательно навязываем им наши взгляды, просто, как минимум, мы не поддерживаем то, что считаем нежелательным.

Exec: Мы следим за средствами массовой информации, выходящими из этой страны, чтобы убедиться, что нет никаких злоупотреблений политикой. Мы не видели ничего, что указывало бы на то, что они злоупотребляют нашим программным обеспечением для этой цели. Наше программное обеспечение также не используется для непосредственного сжигания детей, мы просто помогаем с работой Министерства сжиганий в целом.

Sarah: Да, но сама политика-это злоупотребление. Кроме того, разве средства массовой информации, которые выходят, не жестко контролируются государством? Я не очень утешаюсь только потому, что мы не те, кто явно осуществляет поджоги.

Exec: Наше программное обеспечение также имеет решающее значение для других, менее спорных обязанностей Министерства. Это включает в себя такие вещи, как их мандаты по сохранению лесов и охране окружающей среды. Хотя я хотел бы иметь возможность выбирать только те рабочие процессы, которые мне лично удобны, это нереально для успешных переговоров по контракту или принудительного исполнения, и это снова навязывает наши культурные взгляды клиенту.

Sarah: Я готова признать, что с академической точки зрения существует некая теоретическая точка, в которой утилитарный компромисс мог бы сделать сжигание детей приемлемым, но это, конечно, не сохранение местных лесов. Я бы также не доверял нашему суждению при проведении такого рода расчетов, учитывая связанные с этим стимулы и риск рационализации наших действий. Мне было бы гораздо удобнее провести черту в обеспечении рабочих процессов клиентов, нарушающих права человека.

Exec: Не наше дело определять политику. Как глобальная компания, мы должны следовать законам в тех регионах, где работаем. Нам самим было бы крайне трудно оценить эти нюансы. Наша страна имеет свою собственную политику, которая десятилетиями лишала права голоса группы людей, возможно, даже нарушая их права человека, но мы все еще действуем в нашей родной стране. Разве это не просто двойной стандарт, который вы применяете к иностранному месту с иностранными законами? Мы должны действовать в рамках правового поля этих стран, мы должны уважать правила и нормы разных культур. Какое право имеем мы - иностранная компания - определять, что является или не является "правильным" для всего населения?

Sarah: Конечно, у нашей страны есть проблемы, но, по крайней мере, у нас есть подобие верховенства закона и свободы слова. Западные демократические республики также имеют некоторую зависимость от народа в принятии этих законов. Однако даже этого недостаточно, и я бы сказал, что мы не должны заниматься сжиганием детей в странах, даже если это было принято большинством людей. То, что законно, не то же самое, что право, это голый минимальный стандарт - и в странах без верховенства права или без демократических республик это даже не должно быть так. Я не спорю, что это легко, Я утверждаю, что у нас есть этическая ответственность лично рассматривать то, что мы делаем в дополнение к любому действующему закону - мы не можем полностью переложить свою этическую ответственность на других. Это включает в себя нашу работу дома, возможно, особенно, потому что у нас больше возможностей влиять на нее там.

Exec: Хорошо, но учитывая, что вы так заботитесь об этом - не лучше ли, чтобы вы были вовлечены? Если бы это были не мы, кто - то другой просто занял бы наше место-кто-то, кто меньше, чем ты, заботится о горящих детях. Тогда разве всем не хуже? С нами, возможно, мы сможем повлиять на политику сжигания детей или подчиниться таким образом, чтобы сжигание было более сострадательным. Местные компании сначала сдирают шкуру с детей, а это то, что мы пытаемся убедить местное правительство, противоречит их целям таким образом, который они могут найти убедительным, поскольку это менее эффективно, чем просто сжигать все подряд. Поскольку сжигание детей неизбежно, этическое решение в данном случае-подчиниться, чтобы улучшить ситуацию там, где это возможно. В каком-то смысле хуже отказаться от этой проблемы и оставить ее тем, кто принесет больше вреда. Вы можете чувствовать себя комфортно в своей моральной чистоте, но это нюансный/сложный вопрос, и отсутствие вовлечения не помогает его решить.

Sarah: Я подозреваю, когда “этическое” решение также оказывается самым простым для компании - я думаю, что вы просто рационализируете продолжение участия. Многие другие компании говорили себе, что их присутствие окажет положительное влияние на политику страны, в которую они хотят войти, но в конечном итоге эта политика оказывает разрушительное влияние на принципы компании. Если бы был прямой способ на самом деле повлиять на это и остановить политику - тогда возможно, но я думаю, что нам было бы лучше не сжигание детей и работа снаружи, чтобы помочь остановить сжигание детей. Не участвовать в политике, которую мы считаем неправильной, не означает, что мы также ничего не должны делать.

Exec: Вы можете сказать, что мы вообще не должны заниматься этим рынком и чувствовать себя хорошо, но мы не можем позволить себе не делать этого - другие вступят и получат более сильную позицию. Страны, которые думают, что мы применим наши собственные этические рамки к их политике, могут вообще не подписывать с нами контракт, если они думают, что мы уйдем из-за наших собственных произвольных этических стандартов.

Сара: Это похоже на цену правильного поступка. Легко делать правильные вещи, когда это также легко - единственный раз, когда это настоящее испытание, это когда это трудно. Когда это что-то, что вы уже не сделали бы иначе в любом случае. Я бы сказал, что компании и правительства, которые считают, что наше нежелание участвовать в сожжении детей делает нас плохими партнерами, вероятно, являются теми, кого мы хотели бы избежать в любом случае.