Вы боитесь алгоритмов Deepnude? Татуировки могут помочь.
Объяснение очень высокого уровня с примерами и мысленным экспериментом о том, почему видимые татуировки могут защитить вас от гадов, раздевающих вас в цифровом виде, и как новый жанр тату-искусства может защитить конфиденциальность в будущем.
Введение
Слышали ли вы когда-нибудь о новом алгоритме или программном проекте, когда вы были похожи на «… блядь?». Да, это дипфейки. В частности, алгоритм глубокого обучения тренируется на цифровом раздевании женщин. Я говорил тебе. Что за хрень? Кто в мире будет активно использовать машинное обучение, чтобы сделать жизнь других людей более несчастной? Но, с другой стороны, каждый раз, когда я слышу о новых видах алгоритмов, мой внутренний хакер берет верх надо мной, и я думаю: «Как я могу испортить эти алгоритмы как можно сильнее? :-)».
Честно говоря, это все, что нам нужно. Но прежде чем мы углубимся в то, что такое deepnude и как их испортить, давайте быстро подведем итоги.
Все дело в нескольких пикселях
Исследователи Калифорнийского университета в Чикаго разработали мощный инструмент, чтобы защитить себя от алгоритмов распознавания лиц. Подход столь же прост, сколь и гениален. В глазах компьютера мы не люди. Мы просто набор чисел в массивах, содержащих информацию о каждом пикселе данного изображения. А что, если вы вставите кучу, казалось бы, случайных чисел или забавных цветов в несколько пикселей человеческого лица? Что ж, алгоритм будет подожжен. Вы просто статистика. Ваше лицо поддается количественной оценке, а наши черты лица — не что иное, как наборы распределений. Если вы вставите достаточно данных, чтобы полностью испортить распределение, алгоритм практически ничего не сможет с этим поделать. Потому что в глазах алгоритма достаточно нескольких пикселей, чтобы вы стали случайным объектом, которого алгоритм никогда раньше не видел. Если алгоритм больше не уверен в математических закономерностях вашего лица — например, где ваши глаза, как далеко они от вашего рта или что это за голубовато-розовая фигура на вашем лице, он сделает значительно худшие предсказания о том, кто вы есть.
Авторы этого инструмента заходят так далеко, что говорят, что если бы в Интернете циркулировало достаточно замаскированных изображений, алгоритмы распознавания, использующие изображения из Интернета для изучения того, как выглядят женщины, по сути, работали бы вслепую. Скрытые изображения настолько искажают статистические закономерности человеческих лиц, что искажение изображений в Интернете в значительной степени уравняет правила игры в пользу людей, которые не согласны с таким отслеживанием.
Не говоря уже о расовой и сексистской предвзятости в этих алгоритмах. Это совсем другая тема.
Эксперимент и Deepnude
Итак, давайте проверим эту гипотезу дико кликбейтным и ненаучным способом, чтобы у нас были нерепрезентативные результаты, просто чтобы подчеркнуть.
Но обо всем по порядку. Deepnudes на самом деле просто дипфейки, созданные с помощью алгоритмов глубокого обучения, обученные на непостижимо больших обучающих наборах данных и оцененные на тестовых данных. Вероятно, наиболее распространенным подходом является подход GAN. Генеративный агент создает поддельные изображения или поддельные обнаженные тела женщин, в то время как различающий агент пытается отличить настоящие обнаженные тела от поддельных. Затем дискриминатор дает обратную связь генератору, и начинается другая итерация. Если дискриминатор больше не может различать настоящие и поддельные изображения, генератор достиг своей цели. В этот момент вы, вероятно, сможете создавать поддельные изображения, которые не отличить от настоящих.
Одним из удивительных примеров того, на что способны GAN, является веб-сайт Этот человек не существует.
Он порождает людей, которых вообще не существует. Он был обучен на огромном количестве данных и теперь способен понимать, что такое люди и как они выглядят математически. Но в реальных портретных снимках фоны случайны. Вы можете сделать портрет где угодно. Следовательно, он не может ничего узнать о фонах. Большинство из них просто плоские цвета, но некоторые просто потусторонние. Посмотрите их, это фантастика.
С другой стороны, Deepnude — это та же технология, но ею можно легко злоупотребить из-за испорченных вещей, таких как шантаж женщин или прямое издевательство над ними.
Проблема заключается в том, что эти алгоритмы имеют причудливые графические пользовательские интерфейсы, и доступ к ним может получить практически любой. Вам просто нужно зайти на такой сайт, загрузить изображение, и все готово. Как и женщины, которым вы создаете фальшивый образ.
А вот и эксперимент. Я применил алгоритмы deepnude к различным изображениям женщин (все без сохранения, конечно. Недостаточно оперативной памяти, не в уме). Некоторые дали достойные результаты, некоторые даже несмотря на то, что женщина была татуирована. На самом деле многие изображения тату-моделей дали достойные результаты. Но вы не ожидаете, что каждая татуировка будет иметь такой эффект. В конце концов, алгоритм раздевания может просто рассматривать татуировки как часть одежды и также удалять их. Теперь, чтобы понять, как защитить себя от этих вещей, нам нужно понять основные требования этих алгоритмов.
- Силуэт женщины должен быть хорошо виден.
- В идеале женщина должна носить бикини или нижнее белье.
- Контраст между кожей женщины, ее одеждой и фоном должен быть максимально интенсивным.
А что если взять женщину, у которой на груди большие красочные татуировки с мотивами могучих сов, гордых парусников или геометрических узоров? Вот некоторые результаты довольно сложного алгоритма глубокого обнаженного тела, делающего прогнозы для сильно татуированных женщин. Силуэт женщины всегда был хорошо виден. У меня нет никаких прав на использование этих изображений, поэтому я не буду публиковать оригинальные. Если вы просто погуглите что-то вроде «красочные татуировки, модель женщины», вы поймете, о какой картинке я говорю.
Твои самые страшные кошмарные сны о лихорадке только что стали реальностью. Это уже даже не плохие предсказания. Татуировки, как и упомянутые совы и корабли, так сильно испортили распределение значений цвета в пикселях, что алгоритм даже не был уверен, что он предсказывает.
Результаты исследования женщин в полностью синем нижнем белье с почти исключительно черными татуировками и оптимальным контрастом с фоном, на котором они стояли, дали очень приличные результаты, еще больше подтвердив гипотезу о том, что математически размещенные цветные татуировки могут скрыть присутствие людей в помещении. образ лучший.
Роль татуировок в 21 веке
Уже есть активисты, которые используют тяжелую краску для лица, чтобы защитить себя от программного обеспечения для распознавания лиц. Проблема в том, что это совсем не похоже на макияж, стиль или самовыражение. На самом деле это просто камуфляж.
Кроме того, еще одна проблема заключается в том, что это полное излишество. Вы, вероятно, могли бы достичь того же результата, используя всего несколько очень тщательно размещенных фигур с очень специфическим дизайном, созданных и протестированных с точностью, чтобы исказить алгоритмы и предотвратить упомянутое распознавание.
Давным-давно, в старой Японии, некоторые организации использовали татуировки для самоидентификации, но никто этого сразу не замечал. Или наоборот — все сразу замечают. Даже в наши дни различные банды имеют определенные знаки, символы, числа или слова, служащие молчаливой идентификацией. Или просто обозначить себя как представителя музыкальной субкультуры, вытатуировав обложку любимого альбома на предплечье. Таким образом, помимо таких вещей, как самовыражение, реализованный художественный потенциал или демонстрация принадлежности к определенной группе, татуировки могут получить более техническую роль в течение этого века, если мы этого захотим.
Только представьте, что несколько случайно выглядящих татуировок, таких как мазки кистью или геометрические фигуры на определенных местах вашего тела, могут навсегда защитить вас от ползучих алгоритмов. А лучший? В случае, если алгоритмы развиваются и ваше искусство конфиденциальности больше не защищает вас в достаточной мере, теоретически вы можете просто обновить свои татуировки, получив прикрытие, эффективно усилив собственные меры безопасности вашего тела от корпоративной или политической слежки или крипов, делающих странные вещи. вещи.
Таким образом, в свете все более широкого наблюдения и отслеживания может появиться новая линия татуировок, сочетающая эстетику и самовыражение с естественной защитой конфиденциальности. Что-то вроде Татуировки конфиденциальности.
Заключение
Вопрос о том, как именно должна выглядеть такая татуировка, остается в темноте, полностью. Не было проведено ни одного исследования, по крайней мере, насколько мне известно, о том, как татуировка или краска для тела могут настолько сильно испортить алгоритмы GAN, что они не смогут предсказать человека на изображении. Тем не менее, или особенно в этом отношении, это была бы невероятно интересная область исследований.
Будьте в курсе того, что вы публикуете в Интернете, и будьте осторожны в отношении того, где это хранится и какие группы людей имеют к нему доступ. Если вам удастся воспроизвести что-то подобное, пожалуйста, напишите мне и свяжитесь с нами. Я хотел бы поговорить с вами о защите данных и тактике искажения распределения против прогностических моделей.
Пожалуйста, не забывайте, что эта история была в основном образовательно-развлекательной, дикими мыслями и, конечно же, мемами. Я не рекомендую вам бежать к ближайшему тату-мастеру и делать татуировку в паранойе. Сделать татуировку — это очень интимное и личное решение. Но держите ухо востро, может ли гипотеза, изложенная в этой истории, оказаться верной!
Оставайтесь в безопасности, избегайте обезвоживания. ♥
Хорошее чтение
Deep Nudes на Vice: https://www.vice.com/en/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman
