Откуда взялось публичное клише о человеческом факторе как виновнике аварий

«Во всем мире каждый час погибает 137 людей от ДТП. В среднем, больше миллиона человека погибает в год от различных ДТП. Это очень большое число. [...] БА не просто упростят жизнь человеку, сколько помогут избавиться от человеческого фактора. Алгоритмы нельзя отвлечь, написав им в мессенджер».

К человеческому фактору апеллирует и руководитель Yandex Self-Driving Group Дмитрий Полищук:

«Машине нужно предсказать, что со всем этим [дорожной ситуацией] случится дальше. И вот здесь человеческий фактор наиболее неопределенный. Если бы все ездили строго по правилам, то предсказывать было бы довольно просто. Но типовая ситуация, когда кому-то нужно повернуть налево, он стоит крайнем правом ряду и в последний момент начинает движение через всю разметку... И все это не подчиняется абсолютно никаким правилам, это просто происходит в ряде случаев».

Этой схемой интерпретации, конечно, пользуются не только в России. Вот как обосновывает необходимость развития беспилотных технологий автогигант General Motors: «Представьте мир без автомобильных аварий. Наши БА нацелены искоренить ошибку человеческого водителя – главную причину 94% аварий, что приведет к меньшему количеству травм и смертей». Исполнительный директор Waymo Такедра Мавакана приводит ту же самую статистику и добавляет: «У нас есть возможность инновировать и убрать человека из уравнения, что значит, что вы не полагаетесь на то, чтобы человек был начеку в любой момент. Так что вам не нужна водительская лицензия, вы садитесь в машину, и водитель Waymo безопасно везет вас туда, куда вам надо».

Но подобный дискурс становится более драматичным, когда речь идет об авариях с человеческими жертвами. Например, после аварии в марте 2018 года, в которой погиб Уолтер Хуан – владелец Tesla Model X, оснащенной функцией Autopilot, представители компании-производителя заявили, что небезопасность Autopilot – ложное впечатление, а «авария могла произойти, только если мистер Хуанг не обращал внимания на дорогу».

В дискурсе разработчиков беспилотных авто, когда они говорят о технологических авариях и сбоях, действительно доминирует популярное объяснение через «человеческий фактор». Оно возлагает вину за аварии, ошибки, неэффективность в работе сложных социотехнических систем на человека (пользователя, потребителя, оператора). В этих с виду простых заключениях человек определяется как «слабое звено» социотехнической системы, как «зона моральной деформации», ведущая к сбою системы.

Предлагаю подняться «выше по течению» этого публичного клише и посмотреть, откуда оно взялось.

Многие разработчики напрямую или опосредованно, говоря о человеческом факторе, ссылаются на исследование Национальной администрации дорожной безопасности США (National Highway Traffic Safety Administration, NHTSA), проведенное в 2005-2007 годах. До этого референтным исследованием по данному вопросу было Tri-Level Study, проведенное университетом Блумингтон в штате Индиана в середине 1970-х годов. Но его результаты устарели в силу времени (прошло 30 лет!) и изменений в системе автомобильности за это время.

В рамках исследования NHTSA была проанализирована – 5471 авария, произошедшая на территории США за два года. Данные собирал пул аналитиков, которые были специально обучены идентифицировать и описывать аварии, исходя из определенной теоретической рамки. Аварии для анализа отбирались, исходя из набора принципов (среди которых — обязательное присутствие в аварии хотя бы одной легковой машины), а также исходя из многоуровневой выборки, где учитывались такие переменные, как география, день недели и время, когда произошла авария. Все данные заносились с помощью портативного компьютера в специальные формы. На их основе была создана новая база данных аварий, которая была статистически-репрезентативной для всей территории США.

В 2008 году NHTSA представила Конгрессу США результаты. К отчету прилагалось краткое статистическое резюме, в котором утверждалось, что «водители – критическая причина 2 046 000 аварий, что составляет 94% от общего числа». На каждую из остальных критических причин (транспортное средство, среда и неизвестные причины) приходится примерно по 2% аварий. Однако и в резюме, и в отчете исследователи NHTSA оговаривают, что их результаты нельзя трактовать как факт того, что именно водители являются причинами аварий.

Эта оговорка указывает на специфику подхода NHTSA к анализу аварий. Они рассматривают аварию как линейную причинную последовательность событий, которые ведут к первому опасному событию в виде телесных повреждений, смерти или нанесения урона имуществу. Эта последовательность событий анализируется с помощью двух понятий: критическое событие, предшествующее аварии и критическая причина. Первое – обозначает крайнее событие (поворот руля, отказ тормозов) в цепочке событий, которое привело к аварии. Второе – обозначает последнюю ошибку в причинной цепи: то, что непосредственно привело к критическому событию, предшествующему аварии. В NHTSA хотели выявить именно критические причиныавтомобильных аварий. Причем подобные причины были выделены заранее и относились к четырем основным группам: водителю, транспортному средству, дороге и условиям окружающей среды.

Критическая причина, согласно NHTSA, не может быть единственной причиной аварий. Ведь авария – это цепь событий, и раз только последнее из них привело к опасным последствиям, то неверно рассматривать в качестве единственной и главной причины аварии лишь одно событие из всей цепочки (допустим, ошибку водителя).

Однако крупные американские медиа отбросили все оговорки придали осторожным выводам NHTSA вид несомненных фактов. Тиражирование этого «факта» СМИ привело к тому, что сегодня разработчики БА мобилизуют стабилизированное и растиражированное утверждение - «человек виновен в 94% всех автомобильных аварий» - в своих нарративах, критикующих текущее состояние системы автомобильности и оправдывающих разработку и внедрение автоматизированного транспорта.

Но как возник сам подход, использованный NHTSA?

В своем исследовании NHTSA использовали теоретическую рамку исследователя автомобильных аварий Кеннета Перчонка из Корнелльской аэрокосмической лаборатории. В каком контексте эта рамка возникла? В1960-е годы американские исследователи безопасности дорожного движения занимались, в основном, вопросами снижения требований к водителю и шансом получения им повреждений в ходе ДТП. Однако ни в том, ни в другом случае не применялся систематический анализ причин ДТП. Аналитики аварий не могли предложить четкой методологии исследования аварий, и потому были не востребованы.

Перчонок же хотел заинтересовывать людей, отвечающих за систему автомобильности, предложив им простую теоретическую рамку и надежные данные. Метод состоял в том, чтобы обработать данные об авариях с помощью закрытого списка вопросов, на которые можно ответить только «да» или «нет». Это позволило применять инструменты дескриптивной статистики и давать надежные ответы на вопрос: «что чаще всего служит причинами аварий?». Чтобы придумать такой список вопросов, необходимо было предложить пакет теория-метод с набором четко очерченных понятий, которые бы направляли внимание кодировщика.

Как и NHTSA впоследствии, Перчонок отдавал себе отчет в том, что у аварии нет одной причины. Авария – это множество взаимосвязанных причин и событий. Несмотря на это, он ввел ряд допущений, сильно упрощающих взгляд на систему автомобильности в целом, и на ДТП в частности. Во-первых, он выдвигает постулат о том, что к авариям приводит ряд линейно связанных между собой событий. У любой аварии есть первое событие, промежуточные события и последнее событие. Последнее Перчонок называет «критическим событием», так как оно «трансформирует ситуацию в такую, где авария неизбежна». К примеру, водитель решил объехать идущий впереди автомобиль. Полагая, что ему хватит времени на маневр, он выезжает на встречную полосу и сталкивается со встречным автомобилем. В этом случае маневр водителя считается критическим событием для аварии.

Во-вторых, Перчонок полагает, что у любого события есть лишь одна причина. У критического события такая причина отвечает на вопрос: «почему водитель сделал нечто, или автомобиль повел себя каким-то образом?». К примеру, если маневр обгона сделан по причине того, что водитель не верно оценил пространство для маневра, то критическая причина заключается в ошибке принятия решения со стороны водителя.

Почему причина только одна? Ведь можно представить себе ситуацию, где двое или более водителей могут совершить ошибки, ведущие к авариям. Возможно так, но Перчонок настаивает на том, что это невозможно. Защищая свой аргумент, он вводит понятие виновной ответственности (culpability), очевидно взятое из права. До этого исследователь рисовал сугубо механистический образ дорожного движения. Через понятие виновной ответственности он вводит в свой анализ элементы социальной договоренности. Для него дорожное движение, как в виде ПДД, так и в виде неформальных правил на дороге, обязано своему нормальному функционированию коллективным ожиданиям водителей. Эти ожидания формируют правила поведения. Отклонение от правил есть нарушение ожиданий. Поэтому «водитель объявляется виновным, если его поведение создает аномальную ситуацию». Аномальная ситуация может возникнуть в ходе лишь одного действия – того, которое первым приводит к нарушению порядка. И таким событием является критическое.

Перчонок проводит пилотное исследование, которое демонстрирует продуктивность его подхода к анализу аварий. В частности, он утверждает, что причины только 57% всех аварий связаны с человеком. Например, из-за его неспособности принять правильное решение в определенных ситуациях или ограниченности восприятия. Еще около 30% всех аварий случаются, когда человек совершает неправильные действия из-за влияния окружения: когда машину «ведет» из-за скользкой дороги, или когда он не видит приближающейся машины из-за крутого поворота.

Перчонок также указывает на ограниченность своих находок. Например, он отмечает, что все подсчеты были сделаны одним аналитиком, им самим, и потому могут быть ненадежны. Но его пилотное исследование демонстрирует успешное применение теории и метода, предлагающего аналитикам автоаварий сбор и анализ данных с помощью статистики и компьютера. В любом случае, подход Перчонка оказался настолько успешным, что тридцать лет спустя им продолжают руководствоваться в NHTSA.

Второе важное следствие анализа Перчонка заключается в том, что уже здесь, ради теоретической простоты, вводится набор причин, приводящих к авариям и связанных с водителем, транспортным средством, дорогой и окружающей средой. Особенно значимо здесь выделение «человеческих причин», таких как ограничение восприятия дороги, ошибки принятия решений и предсказания. Перчонок делает акцент на психофизиологических свойствах водителей.

Сегодня выражение «человеческий фактор» - клише публичного дискурса об автомобильных авариях и техно-сюрпризах БА. Оно настолько устойчиво, что главы компаний-разработчиков БА делают его основой своего публичного позиционирования. Его истоки — в 1970-х годах, когда с целью предложить стейкхолдерам транспортной системы более надежный анализ данных об авариях аналитик лаборатории в Корнелле Кеннет Перчонок создал линейную модель аварий.

Сегодня разговор о безопасности на дороге так или иначе включает тезисы о «человеческой ошибке». Хотя акцент на психофизиологических ограничениях был сделан уже Перчонком, и лишь все сильнее воспроизводился в последующих исследованиях, именно медиапространство связало это с «человеком» вообще, соединив результаты анализа NHTSA и существующее в среде экспертов технических систем представление, что виновником аварий чаще всего выступают нерадивые и ограниченные люди.

Автор: Николай Руденко, Центр Исследований науки и технологий