Американцы заставят боевых роботов объясняться

Американская компания Raytheon по заказу Управления перспективных оборонных разработок (DARPA) Министерства обороны США приступила к разработке первой в своём роде нейронной сети, которая должна быть способной объяснять военным, почему управляемый искусственным интеллектом боевой робот принял то или иное решение.

Проект разработки нейронной сети, способной общаться с человеком, получил обозначение XAI (Explainable Artificial Intelligence, «Объяснимый искусственный интеллект»). В его рамках предполагается создание нейросети, которая не уступит по быстродействию обычной, но при этом будет способна показать всю логическую цепочку, как и почему она приняла то или иное решение. Объяснять свои решения нейронная сеть должна будет с помощью графического интерфейса.

«Объяснимая» нейросеть разрабатывается с прицелом на использование в проектах Министерства обороны США по созданию смешанных боевых подразделений из людей и роботов. Сейчас это может показаться фантастикой, но Пентагон уверен, что совсем скоро боевые роботы придут на помощь бойцам американской армии и даже будут способны самостоятельно принимать решения в рамках выполнения поставленных задач – например, открывать огонь по противнику.

Проект американских военных по созданию смешанных боевых подразделений подразумевает, что люди и роботы будут взаимодействовать как обычные напарники. Конечно, у солдат этот факт вызывает справедливое беспокойство, поэтому в DARPA полагают, что повысить доверие к боевым роботам можно, если заставить их объяснять собственные действия и таким образом стать более предсказуемыми для человека. Так ли это на самом деле, покажет время.