С момента первой публичной формулировки Общего регламента защиты данных (GDPR) в 2016 году мы стали свидетелями всплеска интереса и работы по темам, связанным с этикой машинного обучения. В настоящее время по всему миру проходят конференции Справедливое, ответственное и прозрачное машинное обучение (FATML). Недавно выдающиеся специалисты по машинному обучению, статистики, социологи, юристы и философы неоднократно призывали к переоценке практик обработки данных в свете их этических последствий для людей и общества. Вдобавок к этому важная междисциплинарная работа проводится такими людьми, как Солон Барокас, Эндрю Селбст, Рубин Биннс, Джейкоб Меткалф, Кейт Кроуфорд, Дана Бойд и другие.

Тем не менее, несмотря на всю эту великолепную работу, я до сих пор не видел, чтобы кто-нибудь излагал всеобъемлющую и последовательную этическую основу для науки о данных, которая сочетала бы в себе как глубокие знания практик науки о данных, так и строгую этическую аргументацию. Многие из статей, которые я видел, представляют базовые, общие философские взгляды на этику, «упрощенные», чтобы обратиться к широкой аудитории. Возможно, из-за боязни показаться «слишком субъективными» эти авторы никогда не разрабатывают оригинальных аргументов, специфичных для науки о данных. Такой подход сложно вдохновить. Пытаясь угодить всем, они фактически никому не угодили. Вместо иронично-релятивистского изложения различных этических «вариантов» (Вот «буфет» этических систем, выбирайте сами! Каждый из них одинаково актуален!), я бы хотел увидеть кого-нибудь занять твердую позицию в отношении одного взгляда или системы, к лучшему или к худшему. Затем мы можем обсудить, что работает, а что нет.

Выполнение науки о данных на благо общества без предметного обсуждения того, что хорошо - с участниками из разных сообществ и культур, сродни строительству моста через реку без предварительного измерения расстояние между двумя берегами. В этике науки о данных, как я ее вижу, в настоящее время отсутствует сократовский овод, человек, готовый подвергнуть сомнению полученную мудрость и отстаивать новые идеи, даже если власть имущие будут считать «нечестивыми». С другой стороны, все мы знаем, что случилось с Сократом ...

Возможно, я ошибаюсь, но я думаю, что (по крайней мере, некоторые) специалисты по данным хотят и заслуживают строгого и комплексного этического исследования искусства и практики науки о данных. Они готовы сесть за «взрослый стол» и побеседовать.

Что должна охватывать всеобъемлющая этика науки о данных?

Конечно, такой пост на Medium - не самое подходящее место для выработки такой этики. Вместо этого я хотел бы задать три простых вопроса, которые послужат ориентиром для будущей этики науки о данных. Другими словами, какие ключевые проблемы, вопросы и концепции необходимо решить этике науки о данных? На эти вопросы вдохновил оксфордский философ информации Лучано Флориди.

1) Каким специалистом по данным я должен быть?

Это связано с древнегреческим представлением о самопоэзисе, или о том, как в течение нашей жизни мы можем стать хорошими и добродетельными людьми. Чтобы правильно ответить на этот вопрос, нам потребуется некоторое представление о телеологии или функции специалиста по данным и ее роли в организации, общественной или частной. Один из способов подумать над этим вопросом - спросить себя: «Что больше всего способствовало моему успеху в конце долгой успешной карьеры в области науки о данных? Какие ключевые навыки я развил и какие самые важные практики я использовал для полноценной жизни в качестве специалиста по данным? »

Или, как могли бы спросить Алистер Макинтайр или Чарльз Тейлор: Каковы ценности, традиции и практика сообщества специалистов по науке о данных? Этот вопрос сложен из-за смешанной генеалогии поля. Специалисты по обработке данных работают в разных областях, таких как физика, инженерия, информатика, статистика и социальные науки. С одной стороны, специалисты по обработке данных - это хранители данных, которым доверена личная информация о людях и их поведении. У них есть довольно четкие бизнес-цели, которые нужно выполнить. С другой стороны, это ученые и исследователи, которые должны сбалансировать накопление научных знаний с принятой и предписанной федерацией этикой исследований на людях. Джейкоб Меткалф и Кейт Кроуфорд описали эту дилемму в своей статье Где находятся люди в исследованиях больших данных?

Изучение роли специалиста по данным, в свою очередь, требует, чтобы мы задались вопросом: какова социальная роль корпорации, ориентированной на данные, и каким целям или задачам она служит? Например, следует ли поделиться социальными научными идеями, полученными в результате масштабных онлайн-экспериментов Facebook (например, о социальном заражении), с более широким сообществом социальных наук? Где заканчивается нематериальная интеллектуальная собственность и начинаются научные знания?

Что касается цели корпорации и деловой этики в целом, ученые-юристы, такие как Линн Стаут, посвятили книги развенчанию мифа о стоимости акций. По ее мнению, у современных американских корпораций есть широкие возможности для достижения других целей, помимо узкой цели максимизации акционерной стоимости. Томас Дональдсон и Томас Данфи совместно разработали Интегративную теорию социальных договоров как способ интегрировать коммунитарную и договорную этику в современный корпоративный контекст. Теория заинтересованных сторон в сочетании с новыми и интересными бизнес-целевыми функциями может послужить плодородной интеллектуальной почвой в области этики науки о данных.

2) Что мне делать?

Какие действия хороши? Что делает поступки правильными или неправильными? Связано ли это с характером самого действия или его (вероятными) последствиями, или с тем и другим вместе? Имеют ли значение мои мотивы и намерения? Это область, в которой очень важны практические знания в области науки о данных. Специфические процедуры и поведение, общие для специалистов по данным, сделают этику науки о данных уникальной и отличной от, скажем, этики социальных наук.

Ханна Арендт известна тем, что раскрыла банальность зла в своей книге Эйхман в Иерусалиме. Там она задокументировала, как этот вполне приземленный и разумный человек, Адольф Эйхманн, менеджер по логистике Третьего Рейха, мог сознательно участвовать в геноциде миллионов евреев. Это крайний случай, но, тем не менее, специалисты по обработке данных должны осознавать системный потенциал зла, когда отдельные участники не могут понять, что они делают и как их работа вписывается в более крупную и сложную систему. Мадлен Элиш написала о том, что она называет зонами морального раздавливания, где люди-актеры имеют очень ограниченный контроль над поведением сложных автоматизированных систем. В какой степени специалисты по данным должны нести основную моральную и юридическую ответственность в случае отказа таких систем? Кто определяет неудачи?

3) Зачем мне это делать?

Есть один простой ответ на вопрос зачем это нужно? GDPR. Если нет никаких убедительных аргументов в пользу оправдания определенных действий как правильных или неправильных, то, по крайней мере, есть практические и юридические причины, по которым мы должны заботиться о том, что мы делаем как специалисты по данным. Более подробную информацию вы можете найти в нашей статье Адаптация к GDPR: влияние на специалистов по данным и поведенческих исследователей. Вкратце, пока я просто скажу, что GDPR излагает моральное видение AI / ML, основанное на европейском понимании минимальных прав человека, необходимых для обеспечения человеческого процветания.

Но помимо этого, если вы не находитесь на территории ЕС, вы все равно можете возразить, что нет веской причины быть хорошим специалистом по данным или воздерживаться от действий, которые могут нанести вред конечным пользователям алгоритмических решений. изготовление систем. Они могут возразить, что наука о данных как наука бесполезна и объективна. «Я просто инженер. Решаю проблемы. Это работа других - применять эти решения; этого нет в моей должностной инструкции ".

Я рассмотрю некоторые аспекты такого мышления в другом сообщении в блоге, посвященном специалистам по данным и этике власти. Короче говоря, мы должны развивать то, что я называю активистами-аналитиками данных. Мы должны стремиться не допустить, чтобы ученые, занимающиеся новыми данными, оказались на обочине релятивизма, нигилизма или этического эгоизма.

Снижение этического эгоизма

Самым большим философским препятствием, которое должна преодолеть этика науки о данных, является объективизм Айн Рэнд, который, по-видимому, проник в американскую политику и промышленность, особенно в Кремниевую долину.

По моему очень предвзятому мнению, объективизм можно сравнить с идеологией, которая вполне могла возникнуть из пьяного разговора между Дональдом Трампом, Стивом Джобсом, Фридрихом Ницше и Аристотелем. Теперь, правильный ответ на объективизм Рэнда был бы отдельной статьей. Но я просто предложу несколько способов ответа, чтобы вы увидели, как это можно сделать.

Основные идеи объективизма: будь эгоистичным гением

Для начала, какова основная доктрина этического эгоизма, лежащая в основе объективизма Рэнда? Мы могли бы резюмировать его основной принцип как убеждение, что «каждый человек должен преследовать свои собственные интересы исключительно». В своей книге The Эгоизм 1961 года Айн Рэнд пишет: «Достижение собственного счастья - высшая моральная цель человека». Опираясь на изображение Аристотеля человека как разумного животного, Рэнд открыто заявляет, что альтруизм противоречит сущности человеческой натуры. Для нее наша способность к разуму означала, что мы должны направить нашу энергию на производство великих идей и объектов, напоминающих Übermensch Ницше. Мы не должны ограничиваться рамками социальных правил и выражений слабости, прикрываемых «альтруизмом».

В своей влиятельной книге Атлас расправил плечи она описывает, что произошло бы, если бы общественные "люди разума" - "главные двигатели" общества, философы, ученые и бизнес-магнаты - внезапно объявили бы забастовку. Лионизация Рэнд рационального расчета и ее изображение индустриального магната (например, Кремниевой долины) как воплощение героического идеала превратилось сегодня в движение трансгуманизма, и то, что автор Мередит Бруссард (2018) называет технохованизмом: непоколебимая вера в то, что решение всех проблем человека - это применение все новых и новых технологий.

После Второй мировой войны и, возможно, без ведома многих технологов, Хоркхаймер, Адорно, Маркузе и Винер разъяснили, какие возможные последствия ожидают человечество, когда мы близоруко следуем холодной логике инструментального разума . Вместо того, чтобы открыть шлюзы человеческого освобождения, о чем мечтали мыслители Просвещения, фашисты заимствовали технологии. Мы должны напоминать себе об этом как о вечной возможности, иначе мы рискуем быть ослепленными нашим собственным оптимизмом.

В переводе на язык и объекты машинного обучения можно сказать

Жадный алгоритм бездумного технологического прогресса по иронии судьбы приводит нас к локально-стационарной точке, точке, в которой мы становимся способны сеять семена собственного разрушения как вида. Без элемента стохастичности, вызванного моральным осмыслением наших целей, мы рискуем вечно гнаться за простым локальным оптимумом.

Ответ Курта Байера на этический эгоизм

Я оставлю вам только один ответ этическому эгоисту или объективисту. Философ-моралист Курт Байер утверждает, что этический эгоизм спотыкается по крайней мере на двух фронтах. Во-первых, она терпит неудачу как этическая теория, потому что не предлагает высших принципов - ее высший принцип - «Делай то, что лучше для тебя!» - мы можем использовать для разрешения конфликтов между сторонами. И, во-вторых, что, возможно, более важно, этический эгоизм на самом деле не является этической теорией. Мораль, исповедуемая этическим эгоизмом, не удовлетворяет основному условию любой моральной системы: она должна обеспечивать причины для разрешения споров, возникающих в результате того, что заявители следуют своим собственным интересам. Другими словами, этический эгоизм не удовлетворяет одной из основных причин существования морали в первую очередь: как руководство к действию для отдельных лиц и сообществ, которое может разрешать споры справедливыми способами в соответствии с велениями разума.

Большинство философов, по крайней мере в аналитической западной традиции, согласны с тем, что для того, чтобы любая система считалась моральной системой, она должна установить кодекс поведения, с которым согласились бы все рациональные люди. Этот подход к морали был впервые предложен Кантом и нашел более недавнее выражение в таких работах, как Теория справедливости Джона Роула, Дэвида Готье Мораль по соглашению и TM Scanlon’s Чем мы обязаны друг другу. Чтобы более четко понять этот вопрос о важности рационального согласия, мы можем взглянуть на описание морали Уильяма Франкена в его статье 1969 года Концепция морали:

«AG (руководство к действию) является моралью (моральным AG в отличие от неморального AG) тогда и только тогда, когда оно удовлетворяет таким формальным критериям, как следующие, независимо от его содержания:
(A) X принимает его как предписывающий.
(B) X универсализирует его.
(C) X считает его окончательным, окончательным, преобладающим или в высшей степени
авторитетным ».

Теперь мы можем приступить к анализу более ранней точки зрения Байера. Если бы мы приняли предложения A, B и C (принять этический эгоизм как предписывающий, универсальный и высший принцип, направляющий наши действия), тогда нельзя сказать, что личный интерес составляет моральную систему или руководство к действию. Представьте себе с универсальной точки зрения (то есть с точки зрения множества человеческих ролей, статусов и позиций, отличных от ваших собственных) мир, в котором каждый моральный деятель следует этическому эгоизму. В то же время представьте себе, с универсальной точки зрения, мир, в котором каждый моральный деятель не следовал этическому эгоизму. Какой мир был бы лучше? Мир, в котором моральные соображения важнее корыстных, или мир, в котором корыстные соображения важнее моральных?

Аргумент Байера состоит в том, что если бы мы жили в мире, где исключительное стремление к личным интересам было высшим принципом действия, то нам было бы не лучше, чем в естественном состоянии Гоббса. Жизнь будет мерзкой, жестокой и короткой для всех, кроме самых удачливых из нас. Однако критерий универсальности требует от нас поиска того принципа, который был бы принят всеми, независимо от их фактического положения в обществе. Даже если нам может повезти в этой розыгрыше генетической лотереи и мы добьемся своего, мы понимаем, что в мире гипотез, все могло пойти другим путем.

Этический эгоизм пронзает себя мечом своей собственной логики, потому что он не дает и не может предоставить нам авторитетные и окончательные причины - как своего рода процедуру принятия решений - для разрешения споров между людьми, руководствуясь их собственными интересами. Несомненно, вы поддержали бы этический эгоизм, когда это соответствовало вашим интересам и когда вам не хватало физической силы, чтобы заставить свою волю, но затем представьте себе все времена, когда ситуация была обращена вспять, и вам оставалось позволить самому большому и сильнейшему проявить себя. проценты против ваших собственных. Сильнейший - отличный принцип на тот случай, если вы окажетесь самым сильным в комнате. Но как насчет того, когда вас нет? Опровержение Байером этического эгоизма имеет явно долгосрочную частотную логику.

Для тех, кто знаком с моральной философией, мы можем сказать, что этический эгоизм терпит неудачу, потому что он не может быть выражен в кантианской форме как категорический императив. В конечном итоге это обречено на провал, по крайней мере по крайней мере как этическая теория или как мораль. Однако сторонник этического эгоизма может возразить, что этот факт не мешает ему выжить в качестве неморального руководства к действию. Может быть, такой принцип действия не достигает статуса морали, но он все же может быть ценным по другим причинам. В самом деле, этический эгоизм, переформулированный Милтоном Фридманом и другими в идею о том, что социальная ответственность корпорации заключается в увеличении своей прибыли, по-прежнему, по-видимому, определяет большую часть процесса принятия решений в современном бизнесе и экономике.

Итак, если этический эгоизм в качестве руководства к действию и моральной системы в конечном итоге обречен на провал, что мы ставим на его место? Что ж, в этом я вижу главную задачу будущей этики науки о данных. Но одно можно сказать наверняка. Если мы не сможем отстоять что-то, мы рискуем попасться на все - будь то нигилизм, релятивизм или объективизм Айн Рэнд.