Мнение

Этика ИИ: противоречивые взгляды на алгоритмическую персонализацию

Персонализация как инструмент оптимального управления людьми или путь к эмансипации человека?

По иронии судьбы самовыражение, свобода и взаимовыгодное сотрудничество, обещанные технологиями адаптивного Интернета и Web 2.0, были односторонне кооптированы корпорациями. . Тем временем спорные предположения экономической теории просочились в исследования персонализации, почти не встретив критических возражений. (Примечание: Читатели, заинтересованные в понимании роли конкурирующих идеологий в исследованиях искусственного интеллекта, могут прочитать нашу Перспективу в открытом доступе, опубликованную в разделе Cell Patterns.) .

Персонализация якобы представляет собой набор технологий, предназначенных для фильтрации ненужной информации и предоставления рекомендаций, адаптированных к вкусам и потребностям отдельного человека. Но персонализация на коммерческих платформах, таких как Facebook, Google и Amazon, все чаще рассматривается через призму инженерной оптимизации и контроля (я обсуждаю последствия персонализации на основе обучения с подкреплением здесь). Крупные корпоративные платформы подходят к персонализации через своекорыстную неолиберальную экономическую логику конкуренции, катализируемую технологическими императивами инноваций и творческого разрушения.

Применение инженерного формализма и экономической теории к миллиардам людей-пользователей в глобальном масштабе поднимает этические проблемы, связанные с личной автономией и человеческим самоопределением, некоторые из которых в настоящее время переводятся в официальное законодательство в таких странах, как Европейский Союз с GDPR, и недавно предложенные Закон об ИИ и Закон о цифровых услугах и рынках.

Экономические обоснования персонализации

В экономической теории платформы рассматриваются как многосторонние рынки, нацеленные на коммодификацию пользовательской деятельности и контента. Заинтересованные третьи стороны, особенно рекламодатели, получают выгоду от «плотных рынков» человеческого внимания, обеспечиваемого алгоритмической стандартизацией и структурами управления платформы. Специализация служит взаимной выгоде через торговлю. Рекламодатели перекладывают сложную работу по сегментации рынка на основе машинного обучения на платформу с ее высококлассными специалистами по данным, вычислительной мощностью и огромными объемами неявных поведенческих данных, что позволяет им более оптимально инвестировать свои скудные ресурсы в разработку персонализированных сообщений и предложения подаются через рекомендательную инфраструктуру платформы.

Неоклассическая экономика прославляет способность рынков естественным образом генерировать оптимальное распределение товаров и услуг, поскольку предполагается, что все сделки являются добровольными и взаимовыгодными. Если бы это было не так, рациональные акторы не совершали бы сделок. Следовательно, персонализация расширяет возможности рациональных потребителей (и, в более широком смысле, рекламодателей), предоставляя им доступ к более широкому набору вариантов (т.

Таким образом, персонализация является технической реализацией этого рыночного взгляда на экономическую свободу, при котором люди могут получать то, что они лично предпочитают, независимо от генеалогии или легитимности этих предпочтений. Персонализация, рассматриваемая таким образом, способствует свободе, поскольку она основана на добровольном и, следовательно, справедливом обмене: предполагается, что рациональные пользователи добровольно взаимодействуют с платформой и оставляют данные о поведении, которые затем могут быть обработаны и обменены с платформой. заинтересованные внешние стороны на основе выявленных желаний и потребностей пользователей. Как утверждает лауреат Нобелевской премии Милтон Фридман в своей книге 1980 года Свобода выбора, этот рыночный процесс добровольных сделок способствует экономическому обмену, процветанию и, в конечном счете, свободе человека.

Но эта радужная история, подкрепленная десятилетиями экономической теории, получившей Нобелевскую премию, упускает из виду множество важных деталей. Как описывает разоблачитель Facebook Фрэнсис Хауген, экономические стимулы могут побуждать корпоративные платформы скрывать исследования персонализации, что может негативно сказаться на их чистой прибыли. Это включает в себя открытие того, что применение технологии персонализации может иметь разрушительные психологические последствия для людей и дестабилизировать общество.

Цель науки о персонализации: контроль или свобода?

В наше время мы узко приравниваем знание к науке. Может ли это быть симптомом более широкой идеологии научностикорыстных интересов, продвигаемой влиятельными технократами, экономическими экспертами и учеными данных, чтобы оправдать их высокий социальный статус и решение -делающая сила?

Согласно немецкому философуЮргену Хабермасу, ответ — да. В своей книге 1971 года Знания и человеческие интересы он утверждает, что человеческие знания делятся на три широкие категории, каждая из которых выражает основной человеческий интерес. Его более поздняя теория коммуникативного действия утверждает, что пренебрежение этими другими интересами помимо предсказания, манипулирования и контроля над объектами приводит к культурным, социальным и личностным патологиям развития. Пока мы не осознаем, что целью науки являются не только контроль и предсказание, мы остаемся несвободными в определении собственного будущего. Мы рискуем стать морально чахлыми из-за нашей собственной технологии.

Хабермас настаивает на том, что эмпирико-аналитическое знание служит нашим инструментальным интересам в предсказании, манипулировании и управлении природой. Практические знания и взаимопонимание наших собратьев служат нашим герменевтическим интересам. И, наконец, освобождение через критическое, саморефлексивное и совещательное мышление служит нашим критическим интересам. Для Хабермаса критическая наука размышляет о себе и своих методах, чтобы увидеть свои собственные ограничения и, таким образом, в этом процессе растет и расширяется ее эпистемологический охват. Критическая наука — это метапознание на уровне человеческого вида: она не только говорит нам, где наше научное знание, вероятно, является надежным, но также говорит нам, где оно, вероятно, непрочно и подлежит пересмотру в ближайшем будущем.

Опираясь на модель фрейдистской психотерапии и этапы логического и морального развития, предложенные Пиаже и Кольбергом, эмансипативная наука стремится освободить нас от наших низменных и часто вытесняемых принуждений, инстинктов и неврозов — аспектов наших прежних переживаний. и часто уродливая животная природа, когда физическая сила все еще управляла социальными отношениями и могла исправить. Сегодня мы вышли за пределы гоббсовского естественного состояния, отчасти благодаря нашей способности контролировать природу и манипулировать ею для удовлетворения наших основных материальных потребностей. Эмпирически-аналитические знания вам в помощь!

Но Хабермаса беспокоит то, что в нашем все более глобализированном мире, где доминирует неолиберальная идеология свободной рыночной конкуренции, деньги все больше координируют наши социальные взаимодействия и сводят социальную координацию к теоретико-игровой, консеквенциалистской логике эгоцентрического расчета полезности.

Человек в персонализации: Где ты?

Персонализация, как следует из самого слова, опирается на имплицитное представление о человеке. По мнению различных философов, человек может быть одним или всеми из следующих:

  • политическое животное
  • моральный агент
  • рациональный, самосознательный субъект
  • обладатель особых прав
  • быть с определенной личностью или характером
  • управляемое повествованием и уникально самоинтерпретирующее животное
  • самоорганизующаяся информационная система, способная развиваться и изменяться во времени уникальным самоопределяющимся образом

Кант: свобода через соблюдение всеобщего морального закона

Философ эпохи Просвещения Иммануил Кант рассматривал человеческое состояние как неотъемлемо противоречивое, в некотором роде предшествующее современной психологии двойного процесса. Надгробие Канта гласит:

Две вещи наполняют ум все новым и возрастающим восхищением и трепетом, чем чаще и упорнее мы о них размышляем: звездное небо надо мной и нравственный закон во мне.

С одной стороны, мы — физические существа, объекты, находящиеся во власти ньютоновских универсальных законов движения. В этом отношении мы ничем не отличаемся от сгустков безмозглых атомов, из которых состоят плавающие в космосе камни. Тем не менее, мы также обладаем способностью рассуждать, почти безграничной способностью осознавать и формулировать те самые правила, управляющие нашими действиями. Этот нормативный, самореферентный и «высший» аспект человеческого существования и обосновывает ценность и уникальный нравственный статус человеческой личности. Это то, что придает нам уникальную индивидуальность и является центром того, что мы обычно называем «я». Большинство наркоманов согласится с тем, что, хотя у нас могут быть кратковременные провалы в нашей силе воли, мы обычно связываем наше «истинное я» с результатом сознательного, аргументированного самоанализа, а не с нашими инстинктами, желаниями и неотложными потребностями.

Кант считает, что действия, совершаемые из инстинктов и корыстных побуждений, строго говоря, не имеют моральной ценности. Всегда рационалист, Кант считал, что моральные принципы должны быть выведены до любого эмпирического опыта, интереса или желания, которые у нас могут быть. В самом деле, добрая воля — воля, исполняющая долг ради долга—является единственным безусловным или присущим благом. есть, но для того, чтобы иметь какие-либо зубы, требуется автономия (то есть саморегулирующая способность). Воля должна одновременно создавать свои законы и связывать себя с ними, чтобы быть доброй. Объективно действительные для всех разумных существ, Кант называет такие универсальные законы категорическим императивом. Быть рациональным — значит эффективно сделать свою волю и категорический императив одним и тем же.

Таким образом, свобода парадоксальным образом является результатом связывания своей воли с универсальным моральным законом внутри, законом, которому все разумные существа способны следовать от природы.

Этот категорический императив лежит в основе всех моральных обязанностей, утверждает Кант, и действует как процедура принятия решения о мотивах наших действий. Подобно понятию логической непротиворечивости, категорический императив утверждает те правила действия, которые, будучи универсализированы всеми рациональными агентами, не привели бы к противоречию. Другими словами, моральными обязанностями считаются только обязанности, которые могут быть переведены в категорический императив — не будучи саморазрушительными или приводящими к противоречию. Должны ли мы, например, давать ложные обещания? Нет, потому что сама концепция обещания распалась бы, если бы никто не сдержал свои обещания.

В отличие от абстрактного и логического подхода Канта к морали, ортодоксальное экономическое мышление, которое все больше стимулирует алгоритмическую персонализацию, следует эмпиризму коллеги-философа Дэвида Юма, который классно утверждал, что разум является и должен быть рабом страстей. Это разделение я называю конфликтом мнений относительно основ алгоритмической персонализации.

Противоречивые взгляды на персонализацию

Чтобы лучше понять это противоречие между гуманистическими и экономическими перспективами, относящимися к персонализации, я хотел бы адаптировать различие, сделанное Томасом Соуэллом в его проницательной книге Конфликт видений.

Соуэлл, экономист по образованию, проводит различие между двумя конфликтующими политическими и моральными взглядами в западной мысли. Эти видения представляют собой всеобъемлющие мировоззрения, которые не только предвзято относятся к этическим и политическим теориям, но и к пониманию природы и объема научного знания. Однако эти два видения взаимно несовместимы. По сути, там, где один видит утку, другой видит кролика. Например, стандартное экономическое мышление, стоящее за понятием суверенитета потребителя, подразумевает, что, поскольку мы чего-то желаем, это должно быть хорошо. ОднакоКант утверждает обратное: что-то хорошо, поэтому мы должны желать этого (поскольку мы разумные существа).

Я предполагаю, что появление области этики ИИ является проявлением этого конфликта взглядов. Таким образом, быстрый рост работы и интереса к этике ИИ следует интерпретировать как выражение недовольства тем, что технология персонализации до сих пор игнорировала основные элементы неограниченного видения. Мы можем приблизительно связать эти непринужденные элементы с тем, что Хабермас называет нашими герменевтическими и освободительными интересами в достижении взаимопонимания и свободы от нашей низменной, животной природы.

Ограниченное видение

До сих пор технология персонализации в основном разрабатывалась для достижения ограниченного видения. Ограниченное видение следует интеллектуальной нити, впервые сформулированной мыслителями шотландского Просвещения, такими как Адам Смит и Дэвид Юм. Он отдает приоритет корреляциям над причинно-следственными связями, ставит интуитивное, эмпирическое знание, скрытое в привычках и традициях, над явной причиной, рассматривает наблюдаемые последствия над ненаблюдаемыми намерениями и сопоставляет идеалы с затратами, необходимыми для их достижения. Лучшее не должно быть врагом хорошего. Редкость и конечность рассматриваются как фундаментальные аспекты человеческого существования, и поэтому приоритет отдается вопросам относительной эффективности различных способов распределения таких скудных ресурсов. Ограниченное видение принимает компромиссы как неизбежный факт жизни.

С этической точки зрения ограниченный взгляд в значительной степени опирается на консеквенциалистские и инструменталистские рассуждения о правильных действиях и ценностях, а также на системном утилитарном взгляде, отдающем предпочтение свойствам совокупностей, а не индивидуумам. Ограниченное видение разделяет философию науки, сходную как с бихевиоризмом, так и с (логическим) позитивизмом, в том смысле, что оно ищет универсально неизменные законоподобные объяснения человеческого поведения со ссылкой на наблюдаемые, поддающиеся проверке эмпирические характеристики окружающей среды, избегая сомнительных метафизических утверждения о неподдающихся проверке, ненаблюдаемых внутренних причинах. Как и в случае с неоклассической экономикой, ограниченное видение, похоже, страдает явным случаем зависти к физике, когда материалистическая наука о физике воплощает методологический и эпистемологический идеал человеческого исследовательского исследования.

Неограниченное видение

Я утверждаю, что технологии персонализации в значительной степени разрабатывались независимо от соображений неограниченного видения, будь то по практическим или идеологическим причинам. Но это может постепенно меняться по мере роста области этики ИИ.

Непринужденное видение восходит к идеям французской и немецкой эпохи Просвещения, разработанным Кондорсе и Иммануилом Кантом, и возвышает разум и сознательное обдумывание над интуицией, привычкой и традицией, ставит абстрактные идеалы над реальными жертвами, необходимыми для их достижения, и удивляет. на способности развитого человеческого ума прийти к самопознанию и универсальным истинам.

Неограниченное видение рассматривает определенные действия и положения дел как внутренне хорошие благодаря их объективным свойствам, как они видятся идеальным беспристрастным наблюдателям, или как результат идеализированной процедуры обдумывания или универсализации. Инструментальная или консеквенциалистская аргументация ограниченного видения обычно рассматривается как второстепенная, поскольку она имеет тенденцию некритически принимать цели как данность (но кем?) и может оправдывать обращение с людьми как с объектами, простыми средствами для достижения чьей-либо цели. .

В своих политических, этических и правовых формах неограниченное видение часто поддерживает установление строгих правил в отношении того, что можно делать с людьми в стремлении к общему благу, часто используя концепцию прав как «козырей» для разграничения этой сферы индивидуальной деятельности. святость, которую нельзя нарушить, независимо от полезности или последствий.

С точки зрения философии науки, рационализм неограниченного видения выходит за рамки наблюдаемых корреляций и объясняет человеческое поведение ссылкой на внутренние причины действий, которые включают в себя ненаблюдаемые намерения и содержание которых может быть полностью доступно и понятно только тем, кто участвует в процессе. общая форма жизни или культуры. Непринужденное видение поддерживает реалистическую или даже трансцендентально-реалистическую метафизику.

Этика ИИ: оксюморон?

Некоторые философы называют концепцию деловой этики оксюмороном. Относится ли это также к идее этики ИИ? ИИ воплощает в себе передовые знания в области статистики, информатики, математики и инженерии. Однако этика по своей сути консервативна. Есть причина, по которой студенты-философы до сих пор читают тексты 2000-летней давности, а инженеры — нет.

Но очевидный конфликт взглядов в основе персонализации — не повод терять надежду на будущее персонализации. Идеализм неограниченного видения провозглашает, что технический и нравственный прогресс не исключают и не должны исключать друг друга. Важным первым шагом является расширение образования ученых и инженеров, занимающихся данными, с целью включения в него ключевых идей из философии и социальных наук. Так же как и включение исследователей ИИ с различных культурных и междисциплинарных точек зрения. Эти изменения будут необходимы, если персонализация будет (пере)осмыслена как освободительная технология, а не просто как инженерный инструмент инструментального контроля и оптимизации человеческих объектов.

Мы должны следить за тем, чтобы при разработке и развертывании технологий персонализации мы не жертвовали нашей внутренне хорошей способностью распознавать «моральный закон внутри» ради простых инструментальных благ эффективности, удобство или прибыль. Критическая наука и этика ИИ играют роль в направлении нас к применению технологий, которые продвигают наши герменевтические и критические интересы и способствуют, а не тормозят, нравственному развитию человека.