Домой Технологии Jigsaw от Google обнаруживает фальшивые изображения

Jigsaw от Google обнаруживает фальшивые изображения

188
0
«Это чудовищная проблема»: как Jigsaw от Google обнаруживает фальшивые изображения
«Это чудовищная проблема»: как Jigsaw от Google обнаруживает фальшивые изображения

 Jigsaw от Google обнаруживает фальшивые изображения

Аналитический центр Google выпускает набор визуальных детекторов дезинформации, платформу, с которой могут сотрудничать исследователи, и новую публикацию для просвещения общественности.

Поскольку угроза цифровой дезинформации становится большой до выборов 2020 года, исследовательская группа Google Jigsaw вмешивается, чтобы помочь отследить попытки изменить изображения в политических целях. Группа выпускает комплект детекторов визуальной дезинформации, чтобы помочь проверяющим факты и журналистам идентифицировать изображения, которыми манипулировали. Эти инструменты будут жить на платформе, которая служит для исследователей возможностью совместной работы над различными методами обнаружения. Он также анонсирует «исследовательскую публикацию» под названием The Current , где люди могут получить доступ к информации о дезинформации и усилиях Jigsaw и ее партнеров по борьбе с ней.

«Мы хотим работать с людьми, находящимися на переднем крае борьбы с дезинформацией, и мы действительно пытаемся заглянуть в следующий угол, чтобы мы могли создавать и поставлять инструменты, которые помогут устранить будущие проявления проблемы», — говорит он. Генеральный директор Jigsaw Джаред Коэн. «Это невероятная проблема».

Jigsaw был основан в 2010 году как Google Ideas Эриком Шмидтом, который описал его как «мозговой центр» для исследования проблем на стыке технологий и геополитики . Но инкубатор не говорил о своей дезинформационной работе до сих пор, говорит Коэн.

Уже более года Jigsaw спокойно работает над подходами искусственного интеллекта, чтобы помочь противостоять угрозе подделок и других форм манипулирования изображениями. Сегодня он представляет основную суть своей работы — открытую исследовательскую платформу Assembler, содержащую набор экспериментальных инструментов обнаружения, которые журналисты и проверяющие факты могут использовать для анализа манипулируемых СМИ, как объяснил Коэн в своем  блоге вчера.

Разработанные Jigsaw (при участии Google Research) и его партнеров из академических кругов, инструменты используют ИИ компьютерного зрения, чтобы показать вероятность конкретных типов манипуляции для одного изображения. Один инструмент может распознать, что кто-то, вероятно, испортил яркость изображения, чтобы создать определенный вид. Другой может видеть признаки того, что что-то было скопировано и вставлено в изображение, чтобы изменить его сообщение.

Jigsaw разработал инструмент в Ассемблере для обнаружения глубоких подделок — изображений или видео, которыми манипулируют с ИИ, чтобы изображать людей, которые делают или говорят вымышленные вещи, иногда по политическим причинам. Инструмент под названием StyleGAN использует две отдельные нейронные сети, работающие друг против друга, чтобы идентифицировать черты изображения с большей и большей точностью. Другой инструмент, который Jigsaw называет своей «ансамблевой моделью», обучается работе с данными каждого из отдельных сканеров изображений на платформе, что позволяет ему анализировать изображение для нескольких типов манипуляций одновременно.

Эксперты из Университета Мэриленда, Университета Федерико II в Неаполе и Университета Калифорнии в Беркли предоставили модели обнаружения, и платформа также предоставляет пространство, где исследователи технологий обнаружения могут сотрудничать друг с другом.

Горстка новостных отделов по всему миру, в том числе Agence France-Presse, мексиканское издание Animal Politico и Code for Africa, сейчас тестируют инструменты Assembler, и их обратная связь возвращается к процессу разработки.

«Для журналистов мы хотим иметь возможность предоставлять дополнительный набор сигналов, которые могли бы помочь им определить, являются ли изображения, которые они видят, фактом или выдумкой», — говорит Коэн.

Наряду с работой по разработке инструментов Jigsaw также анонсировал новую веб-публикацию под названием The Current, которая будет использоваться для демонстрации текущих исследований по целому ряду тем. Первый вопрос касается дезинформации. В нем изложены исследования по архитектуре кампаний по дезинформации, их тактике и технологиям, а также по использованию новых инструментов для обнаружения и пресечения ложной информации.

В первом издании Current также будет представлен новый инструмент, разработанный Jigsaw, под названием «Визуализатор данных дезинформации», который визуально отображает результаты исследования DFRLab Атлантического совета по «избранным скоординированным кампаниям по дезинформации по всему миру» и показывает конкретные используемые тактики и страны, на которые они воздействовали. , По словам Коэна, Jigsaw хотел поделиться этим, чтобы «вести диалог о наиболее эффективных и всеобъемлющих мерах противодействия дезинформации».

Коэн сказал мне, что «Текущий» будет также включать широкие категории, в которых Jigsaw может регулярно публиковать свои исследования в ряде областей.

«Нашей основной мотивацией было создание места, где люди могли бы получить доступ к работе многих экспертов и независимых исследователей и организаций, которые находятся на переднем крае решения этой проблемы», — говорит Коэн.

ОСТАВЬТЕ ОТВЕТ

Please enter your comment!
Please enter your name here