Регистрируйтесь!

Регистрация даст вам возможность добавлять свой контент на сайт новости, статьи, фото, видео, вести свой блог, создавать группы писать комментарии и прочее. Сайту нужны копирайтеры, seo, помощь в наполнении и продвижении, сделай свой вклад. По всем вопросам работы сайта, а также предложения и замечания, направляйте райкому портала.

Мы будем рады, если вы поддержите портал



Вконтакте Одноклассники Твиттер Фейсбук

красный зелёный голубой

Технологию обмана нейросетей перенесли в офлайн

Технологию обмана нейросетей перенесли в офлайн
ПОЛНЫЙ АНТИПАРАЗИТАРНЫЙ КОМПЛЕКТ (НА 10 ДНЕЙ ЧИСТКИ). ЛИМОННО ЭВКАЛИПТОВАЯ ЧИСТКА

Сотрудники Google Brain и исследовательскойкомпании OpenAI создали метод обманараспознающих изображения нейросетей,который работает даже в офлайне —получаемые им изображения обманываюткомпьютер не только когда их напрямую«скармливают» нейросети, но и тогда,когда их распечатывают, фотографируюти только потом пытаются распознать.Описание нового метода и исследованиеего применимости опубликовано в архивепрепринтов arXive.org

Речь идет о изображениях-обманках(adversarial examples), которые можно сделать наоснове любой исходной картинки. Длячеловека такие изображения почти неотличимы от оригинала, однако в нихвнесены некоторые изменения, которыесущественно усложняют их распознаваниенейросетью. Потенциально, такиеизображения можно использовать дляобхода автоматических фильтров спама,систем распознавания лиц или для подделкибиометрии.

Методы создания обманок для нейросетейразного типа (распознающих не толькоизображения, но и, например, звуки)исследуются как минимум с 2004 года.Традиционно для этого используютсясоперничающие нейросети, одна из которыхстемится создать обманку, а другая —правильно ее идентифицировать (отсюдатерминология adversarial examples, т. е.соперничающих примеров). Однако важныепрактические результаты в этой областиполучены только в последние нескольколет. Например, в одном из исследованийученым удалось модифицировать музыкальныеаудизаписи таким образом, что нейросетьсмартфона могла их идентифицировать иисполнять как голосовые команды, в товремя как человек вообще не замечалпостороннего вмешательства в музыку.

В области распознавания изображенийподобные эксперименты также ужепроводились, однако до сих пор онипреимущественно оставались in silico, тоесть изображения-обманки напрямуюпередавали нейросети для распознавания.Однако технология создания обманокподразумевает введение очень тонких,незаметных изменений, которые могуттеряться при масштабировании, затенении,обесцвечивании и других искажениях,которые неизбежно появляются прифотографировании через камеру. Поэтомунеизвестно, насколько создание обманокможет быть опасно для нейросетей вреальной жизни. В новой работе ученыеисследовали устойчивоть существующихметодов создания обманок к подобнымискажениям и разработали новый алгоритм,который делает обманки гораздо эффективнееизвестных аналогов.

За основу в работе были взяты изображенияиз стандартной базы ImageNet, которые ученые модифицировали одним из трех алгоритмови затем отдавали на распознаваниенеросети Google’s Inception v3. Часть изображенийнейросеть получала напрямую, частьавторы статьи распечатывали на бумагеи фотографировали на камеру современногосмартфона. В работе ученые проверяли,как влияет на уровень ошибок нейросетине только тип алгоритма, но и степень контрастности,яркости и «замыленности» снимков.

Что касается эффективности разныхметодов создания обманок, то она оказалась весьма неодинаковой для простых-и-быстрых и сложных-и-медленных алгоритмов. Наиболее эффективныеобманки производил метод, который непросто увеличивал энтропию снимка,но путем внесения мелких измененийнаправлял нейросеть на наиболее далекийот оригинала предмет. «Традиционныеметоды [создания обманок] дают неинтересныеошибки вроде определения ездовых собаходной породы как ездовых собак другойпороды. [Наш новый метод наименее похожегокласса] дает гораздо более интересныеошибки вроде распознавания собаки какаэроплана» — пишут авторы в статье.

Александр Ершов



N+1

Поставьте оценку:
Рейтинг 0 (Проголосовало: 0)
Понравилось? Поделитесь с друзьями через кнопки социальных сетей!

Добавить страницу в закладки

0
02:27
23
Популярные видео каналы