Главный герой романа Уильяма Гибсона «Нулевая история» носил самую уродливую футболку в мире, которая волшебным образом делала владельца невидимым для системы видеонаблюдения. Сделать это теперь можно и в современных реалиях. Издание Wired сообщило, что исследователи из университета Нортистерна, Массачусетского технологического института и IBM разработали футболку с калейдоскопическим принтом, которая делает своего владельца невидимым для искусственного интеллекта. Эта разработка – один из примеров создания материального объекта, помогающего противостоять цифровой слежке в лучших традициях «Черного зеркала».
«Антагонистическая футболка предназначена для работы в нейронных сетях, используемых для обнаружения объекта», — объяснила Сюэ Лин, доцент кафедры электроники и вычислительной техники Нортинстернского университета и соавтор недавно опубликованной статьи по этой теме. Обычно нейронная сеть распознает кого-то или что-то на изображении и рисует некий «ограничивающий прямоугольник» вокруг объекта. Благодаря этому прямоугольнику система присваивает объекту определенную метку. Найдя пороговые значения, при которых нейронная сеть решает, является что-либо объектом или нет, Лин вместе с коллегами создала дизайн, способный запутать систему классификации и маркировки, на основе которой функционирует искусственный интеллект.
Команда работала с нейронными сетями YOLOv2 и Faster-CNN, которые традиционно используются в учебных целях. В процессе исследования ученые смогли определить, на какие области тела необходимо добавить пиксельные шумы, чтобы сбить с толку искусственный интеллект и сделать носителя футболки невидимкой в цифровом пространстве.
Несмотря на впечатляющие результаты, пока мы вряд ли будем пользоваться такими футболками. По словам создателей технологии, она все еще не идеальна и время от времени может работать со сбоями. Более того, ученые не ставят перед собой цель помогать людям избегать обнаружения. Они, напротив, хотят найти упущения в работе нейронных сетей, чтобы компании, занимающиеся надзором, могли их исправить.
Кстати, это далеко не первая попытка обмануть искусственный разум. В 2016 году исследователи из университетов Карнеги-Меллон и Северной Каролины создали очки для обмана технологии распознавания лиц. Аксессуар заставлял систему неправильно классифицировать владельца. Годом позже американским ученым удалось обмануть глубокие нейронные сети. Они добавили на знак «стоп» несколько тонких изображений, напоминающих граффити. В результате система принимала его за знак ограничения скорости.
