Что происходит, когда мы передаем скучную, но важную работу автоматам? Мы забываем, как ее делать

В 2015 году водитель автобуса в Европе ввел в свое GPS-устройство неверный пункт назначения и, не обратив на это внимания, повез группу бельгийских туристов в объезд на 1200 километров.

В 2017 году прокуроры США согласились освободить подростка под испытательный срок, но внезапно изменили свое решение, поскольку алгоритм оценки решений пришел к выводу, что обвиняемый представляет «высокую степень риска» для общества. Правда, решение, позже было отменено при апелляции.

Это примеры, но они далеко не единичны. Когда мы передаем когнитивные задачи технологиям (например, управление самолетом, навигация или вынесение приговоров), мы можем потерять способность выполнять эти задачи самостоятельно.

Поскольку новые технологии искусственного интеллекта обещают автоматизировать все больше видов деятельности, растет риск «эрозии навыков». Новое исследование международной группы ученых показывает, как это может произойти, и предлагает способы сохранения необходимый опыта, даже если он не нужен каждый день.

Исследование показало, что эрозию навыков можно не заметить. Ученые приводят такой пример. Компания прекратила использовать программное обеспечение, которое автоматизировало большую часть ее службы учета основных средств. Это решение было связано с отмеченной ошибкой ПО. Но без этого программного инструмента бухгалтеры не справились с задачей. Годы использования программного обеспечения подорвали их опыт, и, в конечном счете, им пришлось восстанавливать утраченные навыки учета основных средств едва ли не с нуля.

Хотя программное обеспечение было основано на строгом своде инструкций (оно не использовало машинное обучение или ИИ), оно было достаточно «умным», чтобы отслеживать амортизацию и составлять отчеты для налоговых и финансовых целей. Эти задачи бухгалтеры-люди посчитали очень сложными и утомительными, и перестали совершенствовать собственные навыки в этой работе.

Компания узнала об эрозии навыков у своих проверенных годами, опытных сотрудников только после того, как клиент обнаружил ошибки в ручных отчетах бухгалтерии. В конечном счете от ручного учета компания отказалась, и поставщик программного обеспечения исправил замеченные ошибки. Но никто в компании не может оценить, насколько корректно работает новое ПО.

Старая поговорка «используй или потеряешь» применима как к когнитивно интенсивной работе, так и ко всему остальному. Бухгалтеры стали жертвой «самоуспокоенности в области автоматизации». Они были уверены, что «все хорошо», игнорируя при этом потенциальные риски.

Это имело три основных последствия:

Как предотвратить самоуспокоенность при использовании ИИ и других автоматизированных систем? Ученые дают три главных совета:

Как это будет выглядеть на практике? Вот повседневный пример: вождение с помощью навигационного приложения на базе искусственного интеллекта. Вместо того чтобы слепо следовать инструкциям приложения, обращайте внимание на дорожные знаки и ориентиры и осознавайте, что вы делаете, даже под руководством приложения.

Изучите карту и предлагаемый маршрут перед поездкой, чтобы расширить свои «знания предметной области» и понимание того, что находится вокруг маршрута. Это поможет вам связать ваш конкретный путь с более широкой средой, что будет полезно, если вы заблудитесь или захотите найти альтернативные маршруты.

Достигнув пункта назначения, подумайте о маршруте, предложенном приложением: был ли он быстрым, безопасным, приятным? Если нет, в следующий раз подумайте о том, чтобы выбрать другой маршрут, даже если приложение предлагает иное.

Случай с бухгалтерской фирмой поднимает более серьезный вопрос: какие навыки актуальны и заслуживают сохранения и в каких случаях нам следует отказаться от автоматизации?

Универсального ответа не существует, поскольку профессиональные навыки меняются со временем в зависимости от юрисдикции, отрасли, культуры и географического положения. Однако с этим вопросом нам придется столкнуться, поскольку ИИ возьмет на себя функции, которые раньше считались не поддающимися автоматизации.

Несмотря на трудности, с которыми они столкнулись, бухгалтеры в приведенном примере считают, что автоматизированное программное обеспечение очень полезно. По нельзя допустить, чтобы самоуспокоенность застала команду врасплох.

В мире, ориентированном на эффективность и достижение годовых или квартальных целей, организации отдают предпочтение решениям, которые улучшают ситуацию в

краткосрочной перспективе, даже если они имеют негативные долгосрочные побочные эффекты. Именно это произошло в случае с бухгалтерским учетом: повышение эффективности от внедрения ПО отодвинуло далеко в сторону опасения по поводу утраты опыта, что и привело к тяжелым последствиям.

Это не означает, что нам следует избегать ИИ. Организации не могут позволить себе упустить возможности, которые предоставляет искусственный интеллект. Однако всегда следует осознавать риск эрозии навыков.