Аспирант Сколтеха Валентин Хрульков получил приглашение выступить с тематическим докладом о результатах своих недавних исследований по проблеме универсальных адверсальных примеров на Конференции по компьютерному зрению и распознаванию образов CVPR 2018, которая считается самой престижной в мире в данной области.

 

По приглашению организаторов конференции Валентин Хрульков и его научный руководитель, профессор Центра Сколтеха по научным и инженерным вычислительным технологиям для задач с большими массивами данных Иван Оселедец отправились в Солт-Лейк-Сити (шт. Юта, США), чтобы представить свой проект многочисленной аудитории специалистов в области компьютерного зрения, собравшихся на конференцию со всех концов света.

Возможность выступить на CVPR 2018 ‒ большая удача для ученых Сколтеха, поскольку в этом году на конференцию было принято лишь 6,6% от всех заявленных научных работ.

Говоря о сути исследуемой проблемы, Хрульков объяснил, что глубокие нейронные сети зачастую подвергаются атакам в виде возмущений, результатом которых является ошибочная идентификация присутствующих на изображении объектов. На практике это означает, что программное обеспечение для распознавания лиц, построенное на основе нейронных сетей, в случае атаки будет ошибочно идентифицировать человека на изображении.

Оселедец подчеркнул исключительно важное значение универсальных адверсальных примеров, обладающих способностью «обманывать» нейронные сети различных типов: универсальные адверсальные примеры, например, демонстрируют, что автоматические системы на основе глубоких нейронных сетей могут подвергаться атакам, а это означает, что в рамках крупных систем с использованием машинного обучения необходимо соблюдать особую осторожность и, в частности, опасаться вредоносного контента онлайн-видео.

 

Рассказывая о своем проекте, Хрульков отметил: «В нашей работе мы уделяли главное внимание так называемым универсальным адверсальным примерам. Универсальными их называют потому, они создаются не отдельно для каждого изображения, а применяются сразу к нескольким изображениям. Как это ни удивительно, они весьма эффективно работают против многих широко используемых сетей. Мы разработали новый метод создания таких адверсальных примеров, для которого требуется очень мало информации о данных, используемых для обучения сети». В этом заключается отличие нового метода от других, использовавшихся ранее и требовавших наличия сотен тысяч изображений, добавил он.

«В нашем подходе также предлагается убедительное обоснование эффективности атак на нейронные сети: известно, что для распознавания объекта на изображении глубокие нейронные сети определенным образом обобщают информацию разного уровня. К информации низкого уровня относятся такие элементы изображения, как контуры, границы и т.д., а к информации высокого уровня ‒ характерные структурные закономерности (patterns) и др. В нашем методе целью атаки является как раз искажение информации низшего уровня за счет создания помех в виде интенсивного контурного шума. Получаемый таким образом эффект можно сравнить с ослеплением сети лучом света,» ‒ сказал Хрульков.

«В нашем методе для создания атак на нейронные сети используются, в частности, средства линейной алгебры», ‒ добавил Оселедец.

Мы спросили Оселедца, что, по его мнению, отличает их проект от остальных 93,4% работ, не прошедших отбор. Вот что ответил наш собеседник: «Мы разработали быстрый и эффективный метод, реализованный в простой и элегантной форме. Решения, предлагавшиеся до этого, отличались гораздо большей сложностью».

Хрульков полностью разделяет мнение своего научного руководителя: «Думаю, что решающим фактором при отборе стало то, что мы предложили простую, но при этом конструктивную идею и разработали на ее основе эффективный, информативный метод, обеспечивающий простоту интерпретации данных. Именно благодаря этому нам удалось получить гораздо более убедительные результаты, чем в нашей предыдущей работе по данной проблеме».

По информации, опубликованной на веб-сайте CVPR, тематические доклады дают перспективным авторам возможность представить результаты своей работы перед широкой аудиторией специалистов.

Профессор Оселедец и его коллеги являются авторами еще двух работ, прошедших отбор на престижную Международную конференцию по машинному обучению, которая проходила в июле 2018 г. в Стокгольме.

Контакты:
Skoltech Communications
+7 (495) 280 14 81