Шон Сингер и Стивен Миллс

Вручение Нобелевской премии мира Всемирной продовольственной программе (ВПП) сегодня завершило неделю чествования тех людей и организаций, которые, как выразился Альфред Нобель в своем завещании, принесли величайшую пользу человечеству. [1] Каждая награжденная Нобелевская медаль имеет изображение своего тезки на лицевой стороне, а изображение на оборотной стороне зависит от категории премии. Однако в 1996 году Академия ознаменовала жизнь Нобеля рисунком, на обратной стороне всех медалей которого было изображение железнодорожного туннеля. Почему туннель? Потому что его взорвало самое известное и революционное изобретение своего тезки: динамит.

Динамит изменил мир, ускорив строительство железных дорог, каналов и дорог. [2] В статье в Scientific American в 1911 году один наблюдатель отметил: Улучшение взрывчатых веществ за последние два десятилетия стало одним из основных факторов, сделавших возможным создание быстрых и комфортабельных поездов. работает почти на каждой железной дороге . [3] Наследие динамита, запечатленное на памятной медали, отразило преобразующее влияние Нобеля.

За это наследие технического прогресса человеческая цена не пощадила даже семью знаменитого промышленника. Младший брат Нобеля Эмиль погиб в результате взрыва на семейной фабрике в 1864 году. [4] К 1866 году череда смертельных аварий привела к запретам на использование этого вещества в странах по всему миру. [5] Часто это динамит. жертвы были среди уязвимых слоев населения. В Соединенных Штатах и ​​Канаде, например, китайские иммигранты, строящие трансконтинентальные железные дороги, заплатили своей жизнью за неправильное использование динамита в результате бесчисленных взрывов. [6]

Подобно тому, как динамит открыл новые возможности для транспорта, связи и торговли в конце 19 - начале 20 веков, искусственный интеллект трансформирует предоставление знаний, товаров и услуг в 21 веке. Это может сократить путь к вакцине, медицинскому диагнозу, продукту или новому сотруднику. Но, как и динамит до этого, этот потенциал сопряжен с риском причинения огромного вреда - особенно и без того маргинализированным общинам. Системы искусственного интеллекта отказывали в выдаче кредитов, отклоняли соискателей вакансий или ущемляли индивидуальные свободы в результате укоренившихся гендерных и расовых предубеждений. Но в отличие от динамита, ИИ - это не единичный материальный продукт. Это набор программного кода, созданного разрозненным глобальным сообществом, что делает управление его рисками сложной задачей, особенно потому, что риски не всегда очевидны. Опасность легко распознать, если поджечь запал на динамитной шашке. Системы искусственного интеллекта непрозрачны и часто работают тихо в фоновом режиме, часто без ведома пользователя. Риски по-прежнему существуют: пользователь их просто не видит.

Поскольку искусственный интеллект играет более важную роль во всех аспектах бизнеса и общества, организации несут ответственность за защиту людей от вреда, будь то физический, эмоциональный, финансовый или иной. Несмотря на то, что в этой технологии есть новые аспекты, существуют исторические прецеденты, в том числе изобретения Альфреда Нобеля, которые могут направлять наши размышления об ответственном ИИ. На рубеже 20-го века в Швеции была создана Инспекция взрывчатых веществ, обладающая необходимыми техническими знаниями для оценки рисков и определения мер безопасности [7], связанных с использованием динамита. Эти ранние попытки оценить риск взрывчатых веществ превратились в исчерпывающие матрицы и контрольные списки, которые направляют пользователей по обеспечению безопасности рабочих и населения в целом при использовании динамита и других взрывчатых веществ.

Аналогичный подход справедлив и для ИИ. Вот почему мы создали инструмент оценки под названием RATE.ai, чтобы выявить точки риска при реализации сценария использования. Наши команды проводят оценку рисков для каждого варианта использования на основе масштаба и серьезности ущерба в случае сбоя системы. В рамках этой оценки команда заполняет подробную анкету, которая заставляет членов команды задуматься о том, как проект пересекается с нашими принципами и политиками ответственного ИИ. Выявляя риски внедрения на раннем этапе, наши команды могут своевременно их отслеживать и снижать.

На самом фундаментальном уровне мы меняем способ написания кода. Мы специально разработали модульные доступные функции для борьбы с различными типами искажений в данных. Мы обучили наших специалистов по обработке данных проводить модульные и интеграционные тесты, использовать показатели справедливости, пограничные тесты и использовать специальные пакеты, повышающие возможности аудита. Наконец, мы обеспечиваем нашим специалистам по обработке данных институциональную поддержку, необходимую для соблюдения наших принципов ответственного ИИ. Эта поддержка включает в себя расширение объема нашей внутренней технической группы контроля качества и аудита, чтобы направлять наши команды к решениям ответственного ИИ.

Хотя проделанная нами работа по обеспечению того, чтобы ответственный ИИ никогда не удостоился Нобелевской премии, тем не менее, она важна. Организации, внедряющие решения на основе ИИ, несут ответственность перед своими акционерами, клиентами и нашим обществом за то, чтобы они действовали ответственно. Самая захватывающая работа еще впереди, поскольку мы начинаем работать с этими организациями, чтобы помочь им в разработке и внедрении программ ответственного ИИ, отвечающих их уникальным ценностям и потребностям. Путешествие Gamma также продолжится, налаживая связи и сокращая расстояние между нами и нашими клиентами, а также между нашими клиентами и их решениями. Мы считаем, что это можно сделать только с помощью Ответственного ИИ.

[1] https://www.nobelprize.org/alfred-nobel/full-text-of-alfred-nobels-will-2/

[2] Кейт Морган, Как динамит сформировал мир, Popular Mechanics (26 мая 2020 г.).

[3] Уиллард Янг, Динамит как строитель железных дорог, Scientific American (24 июня 1911 г.).

[4] https://www.nobelprize.org/alfred-nobel/alfred-nobel-life-and-philosophy/

[5] Йозефин Сабо и Лена Андерссон-Ског, Правила динамита. Промышленность взрывчатых веществ, нормативный захват и правительство Швеции 1858–1948 гг. , Международные достижения в экономических исследованиях (2017) 23: 191–209.

[6] См. Гордон Х. Чанг, Призраки золотой горы: эпическая история китайцев, построивших трансконтинентальную железную дорогу (Houghton Mifflin Harcourt: Boston, 2019).

[7] Сабо и Андерссон-Ског, Правила динамита, 197.