В середине прошлого года Google объявил о новом набеге на область медицинских технологий, сообщив, что разрабатывает инструмент помощи дерматологу на базе искусственного интеллекта — приложение для телефона, которое позволит пользователям делать фотографии поражений кожи и извлекать информацию. о соответствующих медицинских условиях из Интернета. Похожие приложения уже существуют, но справедливо сказать, что сопоставимые усилия Google, вероятно, окажут гораздо более значительное влияние на то, как люди взаимодействуют с медицинской системой, их личными данными и даже собственным телом.
В последующем посте я рассмотрю основную научную публикацию, на которой основано это приложение, и спрошу, какие выводы мы можем сделать о том, насколько оно может быть точным, но здесь я хочу начать с обсуждения более широких последствий. Я хочу подчеркнуть ключевой момент, который, как мне кажется, в целом верен для многих вещей, происходящих в сфере ИИ, заключается в том, что вероятные эффекты такой системы гораздо меньше связаны с тем, насколько она точна по сравнению с другими системами, и гораздо больше связано с вещами, связанными с аффордансами, восприятием и силой.
//
Медицина долгое время была испытательным полигоном и многообещающей областью для ИИ (включая экспертные системы, такие как MYCIN десятилетия назад), но широкое внедрение реальных медицинских систем ИИ было относительно редким, по крайней мере, частично из-за проблем, связанных с регулированием, фрагментацией. , ответственность и корыстные интересы. Тем не менее во многих отношениях удивительно, что до сих пор не существует широко популярного мобильного приложения для диагностики кожных заболеваний.¹ Как отмечает Google, спрос на такую услугу огромен, в зависимости от того, как часто люди ищут соответствующую информацию. с помощью традиционных поисковых систем. Более того, веб-сайты, которые предоставляют медицинскую информацию, такие как WebMD, представляют собой чрезвычайно влиятельную часть сегодняшней биополитической инфраструктуры, позволяя и поощряя людей активно следить за своим состоянием здоровья, а также направляя их в более традиционную медицинскую систему. Приложение для телефона, которое предоставляет аналогичную информацию с использованием более удобного интерфейса, вероятно, будет популярным.
Более того, как и радиология, дерматология интуитивно кажется, что она должна быть особенно поддающейся автоматизации; медицинские работники ставят свои первоначальные диагнозы кожных заболеваний в первую очередь на основе визуального осмотра, поэтому изображения должны (по крайней мере теоретически) фиксировать большую часть соответствующей информации. Ключевое отличие, однако, заключается в том, что в то время как радиология требует очень дорогих технологий, таких как аппараты МРТ, информация, относящаяся к дерматологической диагностике, кажется, лежит буквально на поверхности. Полагаясь лишь на яркий свет своих смартфонов, профессиональные дерматологи дают нам уверенные ответы «да» или «нет» на серьезные вопросы о здоровье, основываясь лишь на кратком визуальном осмотре. Если есть хоть какая-то область, в которой мы могли бы с полным основанием надеяться на эквивалент трикодера (представляющий вечную мечту о совершенно надежном, универсальном, неинвазивном портативном медицинском диагностическом инструменте), то предварительная диагностика кожных заболеваний, по-видимому, будь им.
С другой стороны, как и во многих областях медицины, наука о дерматологии кажется в лучшем случае несовершенной. Диагностика состояния кожи — это то, что мы можем очень хорошо сделать после биопсии (небольшого иссечения кожи для осмотра под микроскопом), но правильно диагностировать родинки как злокачественные или нет, без удаления небольшого кусочка кожи с тела все еще чрезвычайно сложно. Можно было бы надеяться, что будут хорошие данные о том, насколько точны дерматологи в своих диагнозах, но, к сожалению, таких данных, похоже, не хватает. На самом деле, анализ системы Google отчасти помогает пролить свет на надежность дерматологов в более широком смысле, о чем я расскажу подробнее в следующем посте.
//
С технологической точки зрения предложенная Google система кажется довольно простым применением машинного обучения. Пользователь делал несколько фотографий какой-либо части своей кожи и загружал их вместе с другой личной информацией о здоровье. Затем приложение будет обрабатывать эту информацию с помощью классификатора и возвращать оценку для каждого из условий, которые оно было обучено распознавать.²
Согласно пресс-релизу, эта система будет затем предоставлять экспертную информацию и результаты поиска в Интернете для условий с наивысшей оценкой (тех, которые система считает наиболее вероятными). Как и в случае с другими приложениями в этой области, Google ясно дает понять, что они не считают этот инструмент средством диагностики, а скорее чем-то вроде специализированной поисковой системы (хотя граница между этими двумя понятиями кажется несколько размыто).
Независимо от того, ставит ли она официально диагноз или нет, кажется вероятным, что возможности системы в конечном итоге определят, как люди будут думать о ней и как она будет использоваться. В то время как многие из нас, вероятно, не хотят получать экспертное заключение о каждой странной отметине на нашем теле — как из-за времени и затрат, так и из-за структурных особенностей, которые препятствуют нам задавать слишком много таких вопросов — перспектива того, что приложение на нашем телефоне может найти нас и сказать нам, нужно ли нам беспокоиться или нет, может быть слишком заманчиво, чтобы сопротивляться. Более того, то, что мы можем использовать в уединении и комфорте наших собственных домов, может создать гораздо более «удобный для пользователя» опыт.
Однако когда дело доходит до медицины, это явно палка о двух концах. Очевидно, что есть много людей, которым было бы полезно более активно обращаться за медицинской помощью, но гипердиагностика также является серьезной проблемой, в том числе в дерматологии. Почти все медицинские вмешательства сопряжены с определенными затратами (как с точки зрения стоимости системы, так и с точки зрения риска для человека), а в других областях мы наблюдаем активные усилия по сокращению объема проводимого тестирования, особенно в тех случаях, когда стоимость ненужные вмешательства перевешивают потенциальную выгоду от положительного выявления большего количества случаев. Имея телефонное приложение буквально под рукой, особенно такое, которое называет себя ИИ и имеет такое влиятельное имя, как Google, почти наверняка изменится поведение людей в отношении их собственных методов лечения.
Более того, даже если бы приложение имело такую же или лучшую производительность, чем врачи общей практики, при выявлении потенциально опасных состояний для направления к дерматологу, это все равно могло бы привести к значительному увеличению спроса на услуги, поскольку гораздо больше людей будут пытаться самостоятельно лечиться. диагнозы. Это, в свою очередь, может увеличить количество избыточного тестирования и лечения, подобно тому, как спрос со стороны пациентов способствовал массовому чрезмерному назначению антибиотиков. У тех, кто одержим такими вещами, может даже возникнуть болезненная зависимость от такого приложения, которое позволит пользователям находить бесконечные примеры подобных повреждений на телах других людей.
Несомненно, будет много случаев, когда такое приложение побуждает людей обращаться за профессиональной помощью, а затем в конечном итоге ставит диагноз и успешно лечит. Такие люди, без сомнения, в конечном итоге почувствуют, что приложение спасло им жизнь (действительно, на веб-сайте SkinVision есть несколько таких отзывов), но невозможно оценить контрфактику, включая вероятность того, что болезнь была бы обнаружена. по более традиционным каналам. Что еще более важно, будет гораздо менее ясно, какие расходы понесут те, кто в конечном итоге потратит время, деньги и внимание на ненужную или неэффективную диагностику или лечение.
В принципе, наибольшая потенциальная выгода может быть для тех, кто имеет ограниченный доступ к системе здравоохранения из-за местоположения, мобильности, благосостояния или других причин. В принципе, бесплатное приложение для телефона, которое может поставить точный предварительный диагноз, кажется огромным потенциальным преимуществом. Однако, опять же, для наиболее серьезных состояний это может не иметь большого значения, если люди также не смогут получить доступ к более тщательной диагностике и профессиональному лечению. В некоторых случаях получение рекомендации обратиться за экспертным заключением может только усилить тревогу, которую испытывает тот, кто не может получить его, и даже может привести к тому, что они будут искать ненужные или неэффективные методы лечения за пределами основной медицинской системы.
//
Хотя общие последствия для здоровья людей, вероятно, будут сложными, последствия с точки зрения личных данных кажутся довольно предсказуемыми. Как и в случае с другими технологиями для самоконтроля, такими как трекеры активности и сна, такого рода приложения, по-видимому, еще больше узаконят представление о том, что мы можем и должны делиться своей самой личной информацией с более широкой корпоративно-технологической экосистемой. Конечно, мы уже делаем это разными способами; люди вводят в поисковую систему Google вопросы, которые они никогда не задали бы другому человеку, и многие из нас пригласили постоянно включенные записывающие устройства в свои дома. Те системы, которые успешно убеждают нас начать активно делиться своими личными данными, обычно делают это таким образом, что создается впечатление закрытого мира, где мы каким-то образом ожидаем, что вещи останутся конфиденциальными, даже если мы знаем, что наши данные собираются и анализируются. массово в централизованных системах.
Google, конечно, настаивал на том, что они не будут продавать информацию о людях из этого приложения или использовать ее для таргетирования рекламы. Модель данные в обмен на услуги сегодня достаточно знакома, и никто не будет сильно удивлен планом Google сделать ее бесплатной для всех пользователей (в отличие от некоторых ее конкурентов). Однако больше, чем когда-либо, есть основания полагать, что потенциально огромная ценность данных, которые могут быть собраны с помощью такой системы, независимо от индивидуального таргетинга рекламы.
Давно известно, что больше и лучше данных было ключом к разработке более точных моделей машинного обучения; однако в основном основное внимание уделялось сбору помеченных данных, что в данном случае означало бы экспертный диагноз или, в идеале, результаты биопсии. Однако работа, проведенная за последние несколько лет, показала, что наличие огромных объемов релевантных, но немаркированных данных может быть невероятно ценным — как обсуждалось в недавней статье Foundation Models, — поскольку такие данные можно использовать для предварительно обучить массивные модели (например, GPT-3), которые затем можно адаптировать для многих целей.
Если миллионы людей загружают изображения поражений кожи, даже не зная, какие состояния они на самом деле представляют, это позволит агрегатору этих данных обучить массивную дерматологическую модель. Основываясь на том, насколько хорошо этот подход работает в других областях, таких как текст и изображения в более широком смысле, мы ожидаем, что такая модель может быть затем настроена для конкретных приложений (например, для конкретных состояний кожи), используя лишь небольшой объем размеченных данных. , что будет гораздо точнее, чем использование только помеченных данных. Можно утверждать, что тот, кто первым добьется широкого распространения на конкретном рынке, таком как дерматология, может получить постоянное преимущество, поскольку данные, которые он собирает в процессе, позволят ему создать гораздо более точную систему, которая затем будет даже более широкое распространение, предоставляя еще больше данных для следующей итерации.
У меня нет возможности узнать, входит ли это в планы Google, но во многих отношениях это было бы логичным шагом для этого домена и представляет собой бизнес-модель, которую мы, вероятно, будем видеть все более и более развернутой в будущем — привлечение пользователей к выполнить работу по созданию релевантных данных для определенного домена, даже если он не помечен, а затем использовать их для начальной загрузки системы, которая привлечет еще больше пользователей.
Время покажет, приживется ли такая система и будет ли она вообще выпущена. Хотя Google отмечает, что оно было отмечено CE как медицинское устройство класса I в ЕС, источник, цитируемый в WIRED, объясняет, что это в основном просто тип отчетности и самосертификации. Очевидно, что есть и другие продукты, расширяющие границы персональных данных, которые (пока что) были отвергнуты публикой, например, очки со встроенными камерами. Однако приложение для телефона, предоставляющее информацию по запросу, которую люди могут использовать в частном порядке, не раскрывая другим, что они это делают, может в конечном итоге получить гораздо большее распространение.
/ /
Труднее предсказать, что это означает для более крупного медицинского учреждения. Можно, конечно, представить себе мир, в котором эта работа приведет к системе, которая обеспечивает более раннюю и лучшую диагностику опасных для жизни состояний и в целом снижает смертность и заболеваемость от кожных заболеваний. С другой стороны, положительный диагноз не имеет большого значения без лечения, и остаются многочисленные препятствия на пути обеспечения недорогостоящего доступа к медицинской помощи для большей части мира, проблема, которая лишь частично связана с недостаточным количеством дерматологов. В более общем плане мы можем ожидать, что медицинский истеблишмент попытается сохранить некоторый контроль над потоками доходов, связанных с такими условиями, но трудно представить, что они смогут помешать Google или какому-либо конкуренту прибрать к рукам какую-то его часть в будущее.
В долгосрочной перспективе представляется весьма вероятным, что система машинного обучения в конечном итоге будет значительно более надежна при предварительной диагностике, чем врачи общей практики, для широкого спектра типов и состояний кожи, но, тем не менее, будет относительно низкий потолок того, насколько она может помочь. быть предсказано на основе чисто неинвазивных методов. Кроме того, можно представить, что подобный инструмент со временем станет интегрированным в профессиональную диагностику, как часть стандартной практики, несмотря на множество трудностей с интеграцией систем ИИ в процесс принятия решений человеком.
Ирония, конечно, в том, что более широкая медицинская система, вероятно, уже располагает всеми данными, необходимыми для создания гораздо более точной системы (включая обширные данные о пациентах, привязанные к фактическим результатам), но не способна действовать скоординировано, как из-за фрагментарный характер существующей системы и из-за реальных опасений по поводу конфиденциальности (и того, как мы обращаемся с медицинскими данными в более широком смысле). В конце концов, представляется возможным, что специализированный инструмент поиска по телефону, который категорически не ставит диагноз, в конечном счете меняет статус-кво и приводит к большей консолидации медицинских данных, независимо от того, приведет ли это к чистой выгоде или нет. остается увидеть.
Далее: изучение доказательств
[¹]: SkinVision утверждает, что у нее 1,8 миллиона пользователей, но это платная услуга, и она не одобрена для использования в США или Канаде.
[²]: в пресс-релизе говорится, что окончательная система будет включать 288 условий; в сопроводительном документе они обучили систему на 419 условиях, но оценили ее только на 26 наиболее распространенных. Подробнее об этом читайте во второй части.
