Борьба с глубокими подделками с помощью цифровых подписей

Глубокие подделки станут следующим поколением поддельных новостей. Предупреждения уже уходят. Конечно, может быть трудно обнаружить хорошо совершенный фальшивый аккаунт или определить достоверность фальшивых новостей, но просто подождите, пока не начнут появляться видеоролики.

В декабре Материнская плата впервые сообщила на теперь одноименного пользователя Reddit по имени «Deepfakes», который производил убедительные видео с заменой лица, используя алгоритм машинного обучения, общедоступные фотографии и открытый исходный код. Вы знаете, как Кэрри Фишер появляется как младшая версия себя в фильме Rogue One? Кто-то еще действовал, а затем они использовали искусственный интеллект и машинное обучение, чтобы намазать актера захвата движения по подобию Фишера.

Что ж, глубокие подделки очень похожи, только они потенциально могут быть сделаны кем-либо, и когда они станут больше и станут более убедительными, мы столкнемся с реальным кризисом, когда то, что можно увидеть в Интернете, может быть полностью сфабриковано, и мы не станем мудрее.

Только подумайте о потенциальных приложениях, вы злитесь на знаменитость? Вы могли бы создать их видео, используя расовые эпитеты, и как кто-нибудь узнает, что это подделка, без какой-либо цифровой криминалистической экспертизы?

Больше всего беспокоит национальная безопасность. Как наглядно продемонстрировали последние пару лет, США постоянно подвергаются кибератакам со стороны таких стран, как Северная Корея, Китай и Россия. Мы уже видели очень сложные кампании дезинформации, проводимые субъектами национального государства. Google и Facebook удаляют все больше поддельных аккаунтов с каждым днем. Это только вопрос времени, когда глубокие подделки пробьются в арсеналы этих групп.

Блог The Law Fare, выкладывает лишь несколько потенциальных сценариев это может означать катастрофу для США:

• Поддельные видео, где государственные чиновники совершают преступления, используют расовые оскорбления или участвуют в сексуальных действиях.
• Могут быть созданы поддельные видеоролики, размещающие политиков там, где их нет, и говорят вещи, о которых они никогда не говорили.
• Поддельные ролики могут размещать общественных деятелей на встречах с иностранными врагами, шпионами или преступниками.
• Поддельные видеоролики могут показывать солдат, совершающих военные преступления и другие злодеяния.
• Поддельные ролики могут разжечь расовую напряженность, показывая, что белый полицейский убивает черного человека.
• Поддельный звук может «раскрыть» преступное поведение кандидатов или общественных деятелей.
• Поддельный звук может показать, что государственные чиновники обсуждают планы вмешательства в других странах.
• Поддельные аудио или видео могут быть использованы, чтобы ввести общественность в заблуждение о том, что катастрофа произошла или произойдет.

Как первоначально говорила Материнская плата, «мы все # $% & ed.»

Крис Бейли, вице-президент по стратегии и развитию бизнеса в Entrust

Лично я думал, что это было немного пессимистично, и задавался вопросом, могут ли цифровые подписи и другие формы аутентификации бороться с ростом поддельных новостей и глубоких подделок. Поэтому я решил догнать Крис Бейли соучредитель и бывший технический директор GeoTrust и нынешний вице-президент по стратегии и развитию бизнеса в вверять чтобы понять, какие у него глубокие подделки, поддельные новости и могут ли цифровые подписи и аутентификация играть роль в предотвращении угрозы, которую они представляют.

Следующее интервью было слегка отредактировано для потока.

Патрик: Если новостные агентства или производители законного видео подписывают видео с помощью цифровой подписи, чтобы вы могли на самом деле определить его подлинность - это выполнимый подход?

Крис: Все, что ты сказал, технически возможно. И есть некоторые организации, которые начинают создавать проекты, я думаю, что одна называется Трастовый проект , Проблема в том, что вы можете подойти к нему одним из двух способов, вы можете доставить его по доверенному каналу, доверенному веб-сайту или как-нибудь - на странице Facebook - или вы можете доставить его через сам доверенный контент - саму статью. Вероятно, и то и другое, если бы вы действительно приступили к этому, вы бы хотели сделать оба в конце дня. Доверьтесь Washington Post, которая является [Расширенной валидацией] сайта. И, может быть, у них есть какое-то удостоверение, которое говорит, что они обязаны выполнять определенный уровень должной осмотрительности в своих отчетах, а затем, если они этого не делают - и, возможно, это измеряется независимой организацией, - они потеряют какой-то тип печать или, из-за отсутствия лучшего слова, какой-то тип индикатора. И затем, если они хотят распространить эту информацию, эта информация должна быть подписана. Но они также могут захотеть подписать его для долгосрочной целостности документа, чтобы убедиться, что он не манипулирует каким-либо образом.

Патрик: Для того, чтобы это было осуществимо, что должно произойти, поскольку, я думаю, должен быть некоторый уровень бай-ин браузера, и, очевидно, вам нужно будет купить аутлеты, что еще должно произойти чтобы это было возможно?

Крис: Технически, чтобы заставить экосистему работать, нужно создать группу людей - и с политической точки зрения это должен быть беспристрастный тип цели - поэтому вы должны установить основные правила, а затем должны иметь приложения на самом деле начинают распознавать это. И как только вы начнете его реально создавать и начнете использовать крупные новостные агентства, тогда приложения почти будут вынуждены его принять. Так что это парадокс курицы и яйца, вам, вероятно, нужно, чтобы новостные агентства начали использовать его в первую очередь.

Патрик: И это начало бы принуждать к вступлению в браузер и другим сторонним покупателям?

Крис: Я так думаю, потому что если что-то опубликовано, и вы знаете, например, это не реально, и оно начинает распространяться по нескольким веб-сайтам, вы должны быть в состоянии отследить это, и я не думаю, что системы, которые на месте сегодня действительно может это сделать. Единственный способ, которым вы действительно можете это сделать, давайте просто скажем, что каждая хорошая система безопасности имеет проактивный и реактивный уровень. Итак, личность - это активный слой. А реактивный слой - это как обнаружение спама, фишинга или вирусов, и тому подобное. Но проактивный слой вроде белого списка.

Патрик: Возвращаясь к тому, что вы сказали ранее, я знаю, что, возможно, это немного выходит за рамки вашей компетенции, но мне интересно ваше мнение по этому поводу: вы упомянули, что это должно быть беспристрастно, кто Как вы думаете, было бы лучше всего сделать этот вызов в отношении аутентификации?

Крис: я не знаю. Мы на самом деле изучаем это, чтобы увидеть, что мы можем сделать, чтобы помочь. Итак, мы пытаемся выяснить, кто может это сделать, поэтому у нас есть команда по стандартизации, если она работает на нас. Прежде чем мы начнем работать над технологией, мы пытаемся выяснить, кто мог бы установить потенциальные основные правила для этого, потому что я думаю, что это будет большая часть этого .

Патрик: Это относительно новая угроза, я думаю, что цифровые подписи, в частности, могут сыграть большую роль в борьбе с этим, это просто вопрос осуществимости и того, на что отрасль уже смотрит.

Крис: Разница между цифровой подписью и этим заключается в том, что вам нужно кое-что еще обернуть, какой-то тип контекста, что это специальная цифровая подпись, которая означает, что это не просто аутентичный контент, а [из законного источника]. Поскольку EV относится к идентичности, это, вероятно, будет чем-то большим. Это будет означать, что существует какой-то тип стандарта, какая-то должная осмотрительность, которую проходит организация, возможно, сродни политике конфиденциальности, а также проведению и проверке этого.

Большое спасибо Крису за то, что он потратил несколько минут из своего напряженного дня, чтобы поговорить с нами!

Как всегда, оставляйте любые вопросы или комментарии ниже.

Похожие