Как мы можем укрепить наш «Конвейер знаний» перед лицом синтетических носителей?

Около двух лет назад я начал применять схему, описанную ниже, чтобы изучить способы снижения негативного воздействия синтетических медиа (и других форм дезинформации). Это не идеально, но я счел его достаточно полезным, чтобы поделиться на местах, по всему миру, и я продолжаю расширять его с другими. Использование подобных фреймворков в качестве формы общего языка может помочь нам разобраться в сложных проблемах и поделиться подходами к их решению.

Если мы не сможем отличить факты от вымысла или реальность от фальшивок, мы как общество не сможем принимать эффективные решения. Технологии синтетических медиа создают множество проблем для нашей способности различать, и их влияние на реальный мир начинает ощущаться в финансах, геополитике, журналистике и других областях. Конечно, лежащие в основе инструменты и проблемы не новы — манипулируемые медиа существуют столько же, сколько существуют медиа, — но масштаб возможного воздействия на общество резко увеличился, поскольку затраты на манипулирование сокращаются на порядки.

Необходимо решить две двойные проблемы с дипфейками. Во-первых, технология синтетических медиа позволяет обманывать — подделка может быть проще и эффективнее. Во-вторых, возможность такого обмана может ослабить силу истинных уличающих доказательств — сделать реальную проверку более сложной и менее эффективной.

Нет простого решения любой проблемы. У нас нет другого выбора, кроме как бороться со многими сложными, перемешанными мерами по смягчению последствий, которые устраняют лишь некоторые из вероятных воздействий. К счастью, мы можем, по крайней мере, приручить некоторые из этих сложностей. Мы можем думать о решении проблемы синтетических медиа как об «укреплении нашего конвейера знаний».

Конвейер знаний

«Конвейер знаний» описывает пути, по которым контент перемещается по экосистеме, от создания к распространению, убеждению и влиянию.

Например, мы можем рассмотреть следующие вопросы относительно потенциально синтезированных видео:

  • Насколько легко создать поддельное или настоящее видео?
  • Насколько легко распространить видео так, чтобы люди его увидели?
  • Что влияет на то, поверит кто-то видео?
  • Что определяет, какие действия предпринимаются на основе результирующих убеждений и как это влияет на общество, от судов до журналистов и дипломатов?

Аналогичные вопросы также могут применяться к другим формам медиа, таким как аудио и текст.

На каждом этапе конвейера мы можем рассмотреть рычаги, которые могут использоваться или воздействовать на ключевых актеров на этом этапе (создатели, дистрибьюторы, получатели и общественные системы). Рычаги — это способы решить двойную задачу: снизить рентабельность инвестиций в поддельный контент и повысить рентабельность инвестиций в реальный контент.

Конвейер знаний — это, конечно, упрощенная модель. На практике существуют петли обратной связи, где, например. вера и воздействие влияют на распределение (мы можем включить эти петли обратной связи, чтобы сделать немного более сложную диаграмму «Жизненный цикл знаний»). Рычаг может также затрагивать аспекты нескольких этапов или может находиться на одном этапе, но влиять на другие (например, система водяных знаков может быть добавлена ​​при создании контента, но оказывать влияние только на нижестоящую социальную систему). Эта структура применима (или адаптируется) к большинству мер по смягчению последствий, помогает прояснить относительно различные функции и обеспечивает основу для визуального языка для изучения систем, мер по смягчению последствий и циклов обратной связи.

Дополнительные размеры

Кроме того, часто бывает полезно рассмотреть управление этими рычагами — как они контролируются? Некоторые инновации касаются не рычагов напрямую, а способов гарантировать, что использование рычага не уменьшит свободу или иным образом ущемит права человека.

Существует множество других аспектов, которые стоит учитывать, например, предназначено ли смягчение последствий для предотвращения и/или устранения; кто может внедрить или финансировать смягчение, и направлено ли смягчение на добросовестных или злонамеренных субъектов.

Пример

Собрав все это вместе, рассмотрим пример смягчения последствий, который я изложил в этой статье о создании ответственных синтетических медиа-инструментов. Эти меры, такие как размещение видимых раскрытий и скрытых водяных знаков в синтезированном контенте, напрямую повлияют на создание. Это рычаг, который затруднит создателям контента создание синтетических медиа, которые могут быть использованы для причинения вреда. Его будут реализовывать (и, следовательно, управлять) создатели синтетических медиа-инструментов.

Еще одним рычагом, который мог бы сделать эти элементы управления более распространенными, было бы, если бы магазины приложений Apple и Google требовали всех синтетических медиа-инструментов для их реализации. Затем эти компании будут влиять на создание и частично управлять тем, как синтетические медиа могут создаваться на их платформах. Наконец, такие компании, как Facebook, также пользуются наличием скрытых водяных знаков, чтобы по-разному относиться к синтезированному контенту, влияя на распространение (и регулируя собственное влияние; хотя они могут предлагают часть этой руководящей власти независимым органам, как они это делают со сторонними проверками фактов).

Все эти ограничения имеют ограниченное влияние — например, злоумышленники могут найти инструменты, не имеющие каких-либо элементов управления. Но при наличии правильных стимулов к этим инструментам, вероятно, будет сложнее получить доступ и они будут хуже по качеству, поскольку их может быть труднее монетизировать, если они недоступны на популярных платформах. Никакое смягчение этой проблемы не является серебряной пулей. Нам нужна эшелонированная защита.

Если мы хотим разобраться в проблемах, с которыми мы сталкиваемся, нам нужны общие модели и язык, которые могут расширить наше мышление. В идеальном мире каждый разговор о смягчении последствий может быть сосредоточен на карте проблем и системной диаграмме основных сил и ограничений. Вместо этого идеала важно, по крайней мере, составить карту сложного мира смягчения последствий, чтобы поддержать обмен передовым опытом, распределение финансирования, анализ компромиссов и сотрудничество. Структура конвейера знаний призвана стать шагом к укрощению некоторых этой сложности и улучшению нашего понимания и коммуникации.

Если вы нашли эту структуру полезной, я также рекомендую ознакомиться с таксономией дезинформации Клэр Уордл и таксономией манипулируемого видео Washington Post. Следите за обновлениями; вы можете найти меня в Твиттере @metaviv, через этот список рассылки или по электронной почте av@aviv.me.