Меньше прогнозов, больше идей, пожалуйста.

Хотя сейчас моя работа - разрабатывать алгоритмы, я все еще придерживаюсь здорового предубеждения против глубокого обучения и большей части машинного обучения. Несмотря на все его убедительные прогнозы, я не видел, чтобы он давал прямое понимание, ценное для общества. Какой смысл в алгоритмах обучения, если мы не можем учиться на них сами?

Хорошо, признаю, иногда мы учимся у них через наблюдение. Например, игроки в шахматы и го становятся лучше, глядя на то, что делают алгоритмы. И, конечно же, есть еще много чего, что нужно узнать. Но разве не было бы намного эффективнее, если бы алгоритмы сразу говорили нам, почему?

Проблема с черными ящиками

Как описывает профессор Пентланд в недавнем разговоре с Edge, проблема в том, что эти алгоритмы не используют все знания физики и причин, которые у нас есть в настоящее время. Есть просто немые нейроны, собирающие по кусочкам бесконечно много маленьких приближений. Он не обобщает, и поэтому может легко ошибаться.

Когда поступают новые данные, которые алгоритм не может понять, он этого не осознает и просто сходит с ума.

Вдобавок ко всему, он не знает обо всех возможных смещениях в обучающих данных.

И когда он делает ошибки, мы не можем объяснить нашим клиентам и менеджерам, почему. И уж точно не судьям и присяжным, если вы окажетесь в суде за ошибочное алгоритмическое решение.

Профессор Пентланд описывает использование большего количества физических функций в нашем ИИ. Использование известных причинных структур. Создавать генераторы инсайтов, а не просто делать прогнозы. Такой подход мне больше нравится, чем существующие алгоритмы грубой силы.

Почему мы выбираем белые коробки

В моей работе мы ведем бесконечные дискуссии об алгоритмах между математиками, специалистами в предметной области (физиками) и бизнес-менеджерами. В конце концов, мы хотим построить умные машины, которые работают на самом пределе того, что физически возможно.

Математики и специалисты по обработке данных предлагают множество новых причудливых алгоритмов, которые они хотели бы использовать. Иногда они действительно работают, хотя в закрытой отрасли по-прежнему сложно найти достаточно хороших данных.

Физики осуждают большинство из них, потому что они не используют информацию о реальном мире. Итак, как мы можем доверять тому, что они выводят?

Бизнес-менеджеры хотят гарантий исполнения. Они хотят контроля и подотчетности. Как нам это получить?

В конечном итоге мы выбираем больше подходов «белого ящика». Линейная регрессия с ожидаемыми полиномиальными или синусоидальными функциями. Возможно, простые деревья решений. При необходимости, несколько правил Байеса. И упорядочение всего с известными физическими ограничениями. При правильных усилиях результаты обычно работают практически так же хорошо, как и любой подход нейронной сети, но с преимуществом знания почему.

Вдобавок к этому мы используем алгоритмы, которые отслеживают входящие данные, используя наши знания о том, как они должны себя вести. Потому что, если данные изменятся неожиданным образом, мы больше не сможем доверять нашим прогнозам на выходе.

Затем мы получаем алгоритмы, которые мы можем контролировать, и объясняем, когда они действительно идут не так, как надо. Однако они не обновляют свои физические предположения автоматически. Таким образом, они также не учат нас чему-либо о мире, которого мы еще не знаем.

В пользу черных ящиков

Я все еще хотел бы попытаться защитить алгоритмы черного ящика.

1. Они работают

Во-первых, они могут прекрасно работать! Текущие глубокие нейронные сети великолепны, особенно для тех, кто владеет всеми данными. Нет лучшего способа распознавать изображения кошек или раскрашивать их в стиле Ван Гога. Одно хорошее приложение, которое мы всегда пытаемся использовать, - использовать эти алгоритмы черного ящика в качестве эталона, чтобы проверить, не упускают ли наши белые ящики некоторую информацию.

2. Они старые

Еще один аргумент в пользу алгоритмов черного ящика очень прост. Мы им доверяем уже каждый день. Несмотря на весь прогресс в психологии и нейробиологии, мы плохо понимаем свое собственное сознание, не говоря уже о работе наших социальных сетей.

Наш мозг представляет собой черный ящик. Однако мы им доверяем, потому что они часто дают нам устные заявления о своих внутренних рассуждениях. Но мы также знаем, что наш разум полон предубеждений и часто воспринимает мир иначе, чем он есть на самом деле.

3. Их можно улучшить

Возможно, мы могли бы использовать эти знания, создав алгоритмы, выводящие какое-нибудь подробное обоснование. Если мы спросим, ​​почему он сделал определенный прогноз, он даст разумное объяснение самому себе. DARPA придумало 3-ю волну ИИ. Например, если алгоритм HR отклоняет кандидата, он скажет, что это было сделано на основании цвета кожи человека. После чего мы можем сказать: Нет-нет, это недопустимо, пожалуйста, обновите свою нейронную сеть. Затем он может сделать это соответственно или просто придумать более веские причины. Обратной стороной является то, что в этом случае нам, возможно, придется иметь дело с возможностью лжи алгоритмов.

Сети Insight

У нас есть один влиятельный коллега, которому нравятся байесовские сети. В них вы объединяете множество наблюдений и основных причин с их базовыми показателями и используете правила Байеса в качестве связей. Когда появляются новые наблюдения, все вероятности обновляются, и возможная причина может быть идентифицирована. Впоследствии вы точно знаете, как происходил вывод.

Он не может научить вас новым наблюдениям, но может оказаться весьма полезным для анализа первопричин в сложных условиях. Я бы сказал, что это один из многих интересных путей впереди.

Какой учитель вам нужен?

Послушайте, можно сказать, ИИ уже нас учит. Вы весь день задаете вопросы поисковым системам, а получаете взамен ответы. Если вы их правильно обучите, алгоритмы могут дать вам ценные знания. Здесь, на Medium, я учусь у писателей со всего мира, которых кормил меня искусственный интеллект Medium.

Однако вы не можете спросить, ПОЧЕМУ он дает вам эти ответы и статьи. Хорошее обучение - это открытый двусторонний процесс. И до тех пор, пока черные ящики превосходят белые ящики, у людей, которые создают приносящие деньги оракулы, нет стимула менять свой путь. Это означает, что весь остальной мир должен создавать наших будущих учителей. Я просто очень надеюсь, что больше людей сочтут это стоящим своих усилий.