Как обмануть нейросети: хищные вещи Йипа ван Леуэнстейнa

Открывать свое лицо камерам не нравится очень многим. В числе недовольных – участники протестов, гражданские активисты, юристы – и художники. Разнообразные способы укрыться от автоматических глаз – это уже новый жанр. Японский профессор Исао Эчизен предложил слепить камеры невидимыми человеческому глазу инфракрасными светодиодами, спрятанными в очках. Идею подхватили другие инженеры и дизайнеры; оказалось, что с помощью ИК-ламп можно не только засветить лицо, но и заставить камеру увидеть совсем другого человека (для демонстрации технологии используют, как правило, лица знаменитостей).

Есть и другие подходы: например, шапочки с приклеенными ко лбу adversarial examples – картинками, которые сбивают с толку нейросети, заставляя их видеть вместо человеческих лиц совсем другие объекты. Есть проекты отвлекающего компьютерный взгляд макияжа, закрывающие лицо маски и многое другое. А Йип ван Леуэнстейн придумал, как обмануть нейросеть, не мешая при этом другим людям узнавать знакомое лицо. Он сделал из пластика прозрачные маски с гранями вдоль лица; свет преломляется в них, и системы распо­знавания не обнаруживают лица ни с одного ракурса. При этом маска не мешает другим людям видеть скрытое маской лицо и его мимику.

Насколько маска эффективна, сказать сложно. С одной стороны, даже обычные солнечные очки заставляют 90% городских камер наблюдения терять вас в толпе. С другой стороны, методы распознавания постоянно совершенствуются; некоторые из них позволяют реконструировать лицо по картинке низкого качества, исправляют искажения, в том числе внесенные намеренно, справляются с обманным макияжем, отфильтровывают инфракрасное излучение. В конце концов, лицо не единственное, по чему можно узнать человека на видео: уже есть нейросети, которые безошибочно устанавливают личность по походке, осанке, биению сердца.

У государств есть свои методы, более грубые, чем у разработчиков: в охва­ченном протестом Гонконге, например, просто запретили носить любые маски, более того – их ношение с лета 2019 года является достаточным основанием для ареста. Критики указывали и на отсутствие вентиляционных отверстий в маске Йипа – она наверняка быстро запотеет, стоит ее обладателю прибавить шагу или войти в помещение с мороза. Но дело не в этом. Маска не готовое решение, а арт-объект, ее задача – поднять вопрос.

Маска – о том, что никому не хочется непрошеных взглядов, а другой проект Йипа ван Леуэнстейна – о том, что человеку очень сложно подражать природе. Ван Леуэнстейн придумал искусственного хищника, робота, призванного заменить естественных «санитаров леса» в городе. Охотиться он будет на мотыльков дубового шелкопряда (Thaumetopoea processionea).

Ван Леуэнстейн выбрал действительно неприятного противника. Дубовые шелкопряды выглядят в одной части жизни как невзрачные мотыльки, в другой – как пушистые гусеницы. Последние уничтожают листву и, сильно расплодившись, могут привести к гибели целой дубравы, что иногда и происходит в Европе. Кроме того, гусеницы выделяют белок, способный вызвать у человека сильную аллергическую реакцию – покраснение кожи, зуд, раздражение слизистых.

Естественные экосистемы справляются с гусеницами самостоятельно. В траве и кустах живут и размножаются насекомые, которые едят шелкопряда, – в первую очередь муравьи; им помогают птицы. А вот если дубы растут в созданной человеком среде – например, вдоль городского бульвара, – хищникам взяться неоткуда, и гусеницы получают полную свободу. Дополнительные проблемы создает расширение ареала шелкопрядов, вызванное глобальным потеплением: в последние годы их обнаруживают все севернее и севернее, в Скандинавии, где у них вообще нет естественных врагов.

Чтобы справиться с ними, Йип придумал искусственного хищника. Это маленький насекомоподобный робот, который ползает по деревьям и охотится на шелкопрядов. Охотится он ради пищи: предполагается, что робот будет переваривать и метаболизировать шелкопрядов, получая из их плоти электроэнергию. Мотыльки шелкопряда летят на свет, поэтому приманивать их робот будет светодиодом; второй вариант приманки – сами мотыльки, которых робот может убивать не сразу, а через некоторое время. Пока насекомые кружатся вокруг источника света в «пасти» робота, они испускают феромоны, привлекающие других, – чем и хотят воспользоваться авторы проекта.

Робот-хищник (технически невозможный со своей электрохимической пищеварительной системой) – это предложение восстановить баланс, не сбрасывая экосистему к базовым настройкам. Пусть останутся города и дубовые аллеи в них, но давайте поможем им выжить, дополнив металлическим охотником на насекомых, предлагает художник. Это очень оптимистично – думать, что природе можно помочь вот так, с помощью рукотворных вещей. Мы уже много раз пытались поступать так, но попытки заканчивались провалом. На ум приходят жабы, завезенные в 1930-е годы в Австралию в качестве «безопасных» пестицидов. Есть вредителей жабы не стали, зато с аппетитом накинулись на других местных насекомых, расплодились и сейчас всерьез угрожают био­разнообразию Австралии, в том числе популяциям редких сумчатых. «Робот-хищник дает все преимущества без потери контро­ля», – пишет ван Леуэнстейн.

Оба проекта Леуэнстейна – про контроль, только в одном случае от него нужно избавиться (маска с защитой от распознавания), а в другом, наоборот, обрести (хищный робот). В реальности все наоборот: природные процессы (в первую очередь климат) контро­лировать не удается, а государства и корпорации только усиливают надзор. Одним из немногих способов выразить свое недовольство и желание изменить ситуацию остается творчество. Заведомо бесполезные (как маска) или невозможные (как робот, питающийся бабочками) идеи нидерландского художника, кажется, говорят о непринятии и беспомощности – но делают это красиво.