Давайте поговорим о нейробиологии, Байесе и сказках. Позвольте мне рассказать вам историю о неожиданной неуверенности и необъяснимой радости обучения. Термин неожиданная неопределенность носит чисто научный характер и был придуман относительно недавно нейробиологами, разделяющими концепцию байесовского мозга (т. мир, который он постоянно обновляет).

Мозг назван в честь министра Байеса

Томас Байес был пресвитерианским священником и верил в божественный порядок, а не в непредсказуемость мира. Он также считал, что человек не может постичь божественное провидение во всей его полноте просто потому, что человек не есть Бог. Мозгу не хватает вычислительной мощности, как сейчас говорят. Поэтому человек вынужден жить в постоянной неопределенности, и чтобы лучше в ней ориентироваться, мозг должен постоянно просчитывать вероятность всего, что может случиться… а может и нет.

Революция Байеса заключалась в том, чтобы сделать вероятности субъективными. Он предложил вычислять степень веры человека (или агента) в вероятность того, что событие произойдет, а не вычислять вероятность того, что это событие произойдет во внешнем мире (как это делают частотные статистики старой школы). Байесовцы могут основывать и обновлять свою степень уверенности, используя данные частотной статистики. На самом деле, они часто делают. Байесовцы также применяют стандартные частотные правила манипулирования вероятностями, чтобы манипулировать степенью уверенности.

Тем не менее теорема, предложенная Байесом и, независимо от него, несколько позже французским ученым Пьером-Симоном Лапласом, сторонником не божественного, а научного детерминизма, позволила произвести новые важные манипуляции, ставя вероятности в зависимость от других вероятностей как условия, которые могут на них повлиять. Степень уверенности становится гипотезой, которую можно сделать условной и проверить, скорректировать или даже отвергнуть с появлением новой информации.

Поскольку в реальной жизни люди сознательно не выполняют все частотные и байесовские вычисления, относящиеся к их степеням веры, было введено понятие байесовского ангела (или байесовского идеального наблюдателя). Идеальный наблюдатель не всегда может быть прав. На самом деле он может быть совершенно неверным, но самые точные вероятности он выводит из неполной и неоднозначной информации о мире, которая нам доступна. Чем больше информации получает «Байесовский ангел», тем более точные прогнозы на будущее он делает.

Алан Тьюринг использовал теорему Байеса для взлома шифров немецких шифровальных машин, включая знаменитую Enigma и спас миллионы жизней во время Второй мировой войны. Основа ИИ — машинное обучение — также основано на байесовских рассуждениях. Однако переход к субъективности оказался настолько нелогичным, что некоторые статистики даже сейчас, более чем через 200 лет после Байеса, не принимают его.

Тем не менее вычислительные нейробиологи, получив в свое распоряжение МРТ и компьютерное моделирование, смогли установить, что человеческий мозг спонтанно (то есть без участия разума) использует вероятностную статистику для оценки иерархической модели мира так же, как и идеальную. Байесовский наблюдатель». Чтобы приспособленность такой модели мира со временем не уменьшалась, а возрастала, мозг должен постоянно подпитываться новыми знаниями. Наши решения и действия руководствуются этой моделью через неопределенность мира.

Призвание и необъяснимая радость обучения

И вот наступает черед неожиданной неопределенности. Есть вопросы, где искать и что искать. Я не знаю, чего я не знаю! Мозг говорит: Я должен знать то, чего не знаю, чтобы найти это! Это неожиданная неопределенность. Надо узнать, что за шорох в этой темной комнате, что там произошло, чего я не знаю! Говорит мозг и вырабатывает передозировку дофамина для преодоления тревоги, попутно стимулируясь другим нейротрансмиттером — норадреналином. Чем неожиданнее неопределенность и чем больше масштаб аномалии, тем сильнее становится работа обеих систем, пока одна не преодолеет другую.

Мозг заставляет нас заниматься постоянным поиском и сбором информации с помощью дофамина — универсального нейротрансмиттера любопытства, а вовсе не удовольствия, как считалось очень давно. Дофаминергическая система вовлечена в такое количество процессов в мозге человека, что трудно выделить ее единую роль. Наш мозг извлекает знания из ошибок и точных прогнозов, наград и наказаний. Однако информативность неопределенности гораздо выше, чем почти уверенности. Информационная ценность полного заведомо равна нулю. Информативность неожиданной неопределенности максимальна.

Наш мозг жаждет неопределенности, и эта похоть не всегда приятна. Метафора умереть от любопытства очень хорошо передает ощущение дофамина в чистом виде. Эндогенные опиаты отвечают за чистое удовольствие. Если дофамин — это хотеть, то опиаты — это нравиться. Но опиатов, синтезируемых в организме, хватает разве что на мимолетную радость от лайка в фейсбуке или инстаграме.

Тем не менее, дофамин также является гормоном радости, потому что действительно сильнейшую эйфорию мы испытываем только тогда, когда дофамин и эндогенные опиаты действуют вместе. Вот почему, убирая из жизни и искусства неожиданную неопределенность, мы лишаем себя возможности испытать эйфорию естественным образом. Не зная причин, по которым из нашей жизни исчезла безотчетная радость, мы начинаем искать заменители, суррогаты, экзогенные опиаты и прочее. Вы слышали об эпидемии опиоидов в США? Пару дней назад Конгресс принял еще один план борьбы с ним. В 2015 году 33 000 американцев умерли от передозировки, приняв только рецептурные опиоиды (не считая героина и незаконных синтетических наркотиков). В 2016 году — уже 42 тысячи умерло. Ущерб экономике США превысил 78 миллиардов долларов. В 2017 году CDC объявил об эпидемии опиоидов. В том же году в России от отравления алкоголем умерло 14 000 человек. Подозреваю, что русские люди напиваются до смерти по той же причине, по которой американцы горстями глотают таблетки — пытаясь убежать от непостижимой серости жизни. Безотчетной радости от всяческих лайков, выплат и выгод не ощущаешь, но можно ощутить от… Что ты сказал?

Как сказка стала скучной реальностью

«Иди туда, не знаю куда, принеси, не знаю что», — говорит царь стрельцу в сказке. И лучник уезжает искать приключений в одиночестве… далеко. «Дай мне то, чего ты не знаешь дома!» Требует водяного монстра от солдата. Солдат соглашается, приходит домой и узнает, что его жена родила дочь, пока он был в отъезде. И идти становится тяжело. Мы начали проект «Обучение человечности» с поиска скрытой морали в сказках. Искали секрет того, как сказка делает нас человечнее, и находили… неожиданную неуверенность. Не только в приведенных примерах, хотя они показательны.

Неожиданная неопределенность скрыта в череде сказочных событий, где каждый эпизод дает обновление сказочного мира: реальная жизнь, реальная жизнь,… в десятый раз реальная жизнь. А что дальше, магия? Магия снова! Почему? Мозг начинает обновлять свою модель и взрывается дофамином при добавлении эндогенных опиатов, как это происходит каждый раз, когда он извлекает новые важные знания из неожиданной неопределенности. Гиппокамп, утомленный скукой предсказуемой рутины, оживает и с радостью берется за решение моральных головоломок, которые подбрасывают сказки. Персонажи сказок запрограммированы как роботы на бинарное суждение в соответствии с рудиментарной детской моралью, и они предоставляют тем, кто рассказывает и слушает сказку, решать, как они будут гибко применять моральные ценности в шкуре персонажа. учитывая всю неопределенность и двусмысленность.

Раньше сказка имела сильное влияние еще и потому, что она, как вирус, оживала, проникая в живую ткань мозга рассказчика и слушателя. К сожалению, Дисней успешно вакцинировал нас от этого вируса. Нам кажется, что мы знаем о сказках все и они нам не интересны. Это уверенность. Итак, нам необходимо развивать новые формы искусственной жизни, которые восполнят дефицит неожиданной неопределенности и вернут в жизнь миллионов людей естественную безотчетную радость бытия (удовлетворения спонтанной жажды познания), не зависящую от уровень благосостояния, ни от должности, ни от количества лайков в инстаграме.

Мы не можем запрограммировать неожиданную неопределенность. Это может быть произведено только реальной жизнью (неудобно и опасно) или настоящим искусством (дорого и трудно масштабируемо). Следовательно, необходимо создать искусственную реальную жизнь, чтобы произвести множество удобных и безопасных, доступных и масштабируемых неожиданных неопределенностей, чтобы вернуть миллионам необъяснимую радость жизни.

Однако на то, чтобы рассказать историю, уходит гораздо меньше времени, чем на то, чтобы выполнить работу.

Я выкинул хаос из головы! Положить его обратно!

В хаотических системах непредсказуемость обусловлена ​​чувствительной зависимостью от начальных условий. Поскольку небольшие возмущения растут экспоненциально во времени, хаотические системы генерируют информацию. Наш мозг как гибридная хаотическая система собирает знания, но питается их неполнотой. Мир настолько разнообразен, что мы не можем обеспечить соблюдение требований закона Эшби о необходимом разнообразии, просто расширив репертуар готовых ответов на вопросы, которые мир задает нам. Мы должны думать быстро и гибко, чтобы выжить. Ведь, как в сказках, достаточно неправильно ответить на один вопрос и голова свалится с плеч.

Наш мозг создает хаос, чтобы понять мир. Поэтому люди носят хаос в голове, пока не умрут или не превратятся в машины, приспосабливаясь к предсказуемой искусственной среде, которую они создали и постоянно совершенствуют. Автоматизация и обезличивание людей — серьезный баг нашей программы в двойном смысле: мы теряем необходимое разнообразие реакций на неопределенность мира и способность собирать знания. Мы также сужаем разнообразие фенотипа, а в будущем и генотипа нашего вида ниже порога необходимого разнообразия. Значит, наказание (в кибернетическом смысле этого слова) также будет двойным или повторяться еще больше раз.

Ведь обучение с подкреплением считается завершенным только тогда, когда от наказания получены знания, которые позволят избежать этого наказания в будущем. Если урок не усвоен, организм или весь вид теряет свою приспособленность. Эволюцию не интересует количество накопленных человечеством богатств, будь то золото или знания, потому что, по Байесу, знания должны постоянно пополняться, чтобы их обновления можно было использовать для предсказания будущего с точностью, необходимой для выживания. Выживают сильнейшие, а не самые богатые, не самые знающие и не самые могущественные.

Приспособленность человека определяется гибкостью ума, что делает человека способным находить ответы на самые разнообразные вызовы, исходящие от хаоса природы и от других людей с обрывками хаоса в голове. Приспособленность человечества определяется его способностью давать необходимое разнообразие ответов на вызовы Вселенной, преодолевая термодинамический предел вычислительной мощности человеческого мозга при тесном сотрудничестве разнородных людей, опять же в кибернетическом смысле. Роботам не нужно сотрудничать. Им нужны только инструкции из приложения, такого как Uber. Автоматизация и обезличивание людей — наследие прошлой индустриальной эпохи, которое нам необходимо преодолеть, чтобы выжить как виду. Это ясно как божий день. Но ясности недостаточно. Фитнес побеждает правду. Всегда. Знать недостаточно. Требуется действие.

Хотите узнать, как вырастить человечность из цифровых социальных бактерий на базе искусственного интеллекта в компании подобного типа? Следите за нами на www.agvir.com