Использование данных во благо и снятие тайны с процесса принятия решений ИИ
Что ИИ и машинное обучение должны сделать для нас сегодня? Ожидается, что к 2028 году ИИ станет отраслью с оборотом 360 миллиардов долларов. Технологические лидеры практически во всех отраслях пытаются понять, как использовать ИИ и машинное обучение. для всего, от автоматизации до робототехники и принятия решений.
Однако технологии, лежащие в основе этих достижений, часто недостаточно хорошо изучены, и федеральное регулирование их разработки и использования практически не регулируется. В результате этичные методы искусственного интеллекта должны быть в центре разработки продуктов и бизнес-процессов, чтобы гарантировать, что эти технологии обещают положительные изменения для отраслей и общества в целом.
В RS21 мы создали руководство по этике ИИ, в котором содержится четкий контроль и рекомендации, которые заинтересованные стороны, участвующие в разработке и использовании продуктов ИИ и машинного обучения, могут применять для определения возможностей, ограничений и других соображений.
Цель состоит в том, чтобы избавить ИИ от принятия решений загадкой.
- Помочь клиентам понять ценность и ограничения ИИ
- Размышляя и думая о влиянии нашей работы
- Разработка и внедрение лучших политик и процедур для высокоэффективных решений в области искусственного интеллекта и машинного обучения.
- Прозрачность наших процессов искусственного интеллекта и результатов моделирования
Предпринимая эти шаги, мы можем помочь обеспечить использование ИИ и машинного обучения на благо всех и привести их в соответствие с нашими ценностями и использовать данные во благо.
Внедрение этичного ИИ
Наша рабочая книга была разработана нашей рабочей группой по этике ИИ, командой, которая хотела выйти за рамки написания манифеста по этике ИИ и вместо этого сосредоточиться на создании четкой и воспроизводимой основы. Мы делимся тем, как мы создали наш учебник, в надежде, что он поможет другим внедрить этический ИИ в своих организациях.
"В ИИ и машинном обучении есть много неизвестных и вещей, о которых нам нужно помнить — от понимания ограничений модели до размышлений о данных и смещении данных", — говорит д-р Мишель Арчулета, директор по науке о данных и команда. руководитель рабочей группы RS21 по этике ИИ. «Наша группа действительно сосредоточена на серьезном подходе к обеспечению надлежащей инфраструктуры и процессов для решений, которые минимизируют предвзятость и приносят пользу обществу».
Так что же в сборнике?
В то время как playbook продолжает развиваться, мы уделяем первоочередное внимание разработке рабочих сред для четырех игр, и у нас есть дорожная карта, чтобы добавить больше. Каждая игра включает в себя инструкции о том, как привести ее в действие, а также шаблоны, инструменты и ресурсы.
Четыре текущих пьесы RS21 кратко описаны ниже.
1. Выявление предвзятости в наборах данных
Основа для оценки систематической ошибки в наборах данных, которая может возникнуть из-за таких вещей, как проблемы выборки (когда набор данных не точно представляет генеральную совокупность), систематическая ошибка выборки (когда определенные данные предпочтительнее, и набор данных не представляет собой случайный выбор) и смещение измерения (когда данные измеряются неточно). Следовательно, систематическая ошибка в наборах данных может повлиять на модели.
2. Оценка систематической ошибки в прогнозировании модели
Эта игра фокусируется на полном жизненном цикле машинного обучения, поэтому предвзятость устраняется до того, как модели будут полностью развернуты. Существует множество источников систематической ошибки, которая может возникнуть при разработке прогностических моделей — от набора данных до выбора модели. Для более глубокого изучения предвзятости в прогностических моделях, включая пример того, как это повлияло на инструмент найма ИИ Amazon, ознакомьтесь с этой статьей в Науке о данных.
3. Оценка производительности моделей машинного обучения
Документирование производительности модели и определение количественных показателей помогает нам понять, является ли модель точной, эффективной и надежной. Это особенно важно для моделей, которые используются для принятия решений, прогнозирования и других важных приложений. Эта игра создает основу для создания и уточнения моделей и обеспечения прозрачности результатов.
4. Коммуникации с клиентами для объяснения ценности, ограничений и правильных вариантов использования модели
Людям и организациям, которые в конечном итоге используют модели искусственного интеллекта и машинного обучения, необходимо четкое понимание того, что модели могут и чего не могут делать. Наша структура взаимодействия с клиентами помогает командам ориентироваться в важных разговорах и действиях, начиная с определения проблемы и определения доступности соответствующих источников данных посредством развертывания в среде конечного пользователя.
Каждая игра состоит из шести подразделов, чтобы любой команде RS21 было легко подобрать и использовать любую игру. Общий формат нашего пособия был вдохновлен Командным пособием Atlassian, в котором каждая тема разбита на пошаговые инструкции. Вот как мы разбиваем наши пьесы:
Тема игры
- Об этой пьесе + почему это важно
- Кто должен быть вовлечен
- Когда запускать игру
- Что даст игра
- Как запустить игру
- Приложение со вспомогательной информацией, шаблонами и ресурсами
Мы уделяем большое внимание результатам для каждой игры, поэтому у нас есть подробная документация и измеримые результаты, которые в конечном итоге приносят пользу клиентам, предоставляя образовательные и прозрачные коммуникации и продукты.
Этика ИИ в действии
RS21 реализует эти игры во всех областях, от предложений и дорожных карт до MLOps и конечных продуктов. Наша рабочая группа продолжает разрабатывать сопутствующую документацию и уточнять игровые процессы для постоянного совершенствования процесса, и мы планируем разработать дополнительные игровые зоны в будущем.
«Рабочая группа по этике ИИ представляет собой форум, на котором мы можем обсуждать различные технические и отраслевые темы, — сказал Камерон Баумгарднер, технический директор RS21. «Мы берем то, чему научились, внедряя эти игры в проекты, и используем их в процессе, чтобы в следующий раз сделать нас лучше».
Одно из основных преимуществ этики ИИ, которое мы видели в действии, заключается в том, что все клиенты, включая тех, кто очень хорошо разбирается в ИИ и машинном обучении, а также тех, кто только начинает свой путь в области ИИ и данных, получают выгоду от четких процессов и коммуникации. в разработке новой техники.
Например, мы можем оценивать и определять продукты с помощью предварительных обсуждений, выделять время для разработки правильных моделей с правильными данными и помогать клиентам понимать результаты моделирования с помощью объяснимого ИИ и машинного обучения.
Хотя наши игры зависят от наших процессов, мы хотим поделиться шаблоном, который вы можете адаптировать для своей команды и проектов.
➡️ Получить шаблон
Мы надеемся, что эта беседа породит новые идеи, и хотели бы услышать ваши отзывы о том, что сработало или не сработало для вас. Пожалуйста, оставьте записку с вопросами или предложениями.
О RS21
RS21 — это быстрорастущая компания, занимающаяся наукой о данных, которая использует искусственный интеллект, дизайн и современные методы разработки программного обеспечения, чтобы дать возможность организациям принимать решения на основе данных, которые положительно влияют на мир. Наши инновационные решения проницательны, интуитивно понятны, вдохновляют и интеллектуально честны.
