Почему ИИ может помешать нам найти инопланетный разум
Астрофизик и исследователь в области поиска внеземных цивилизаций Майкл Гарретт опубликовал статью журнале Acta Astronautica, в которой он размышляет о контактах с внеземными цивилизациями и роли ИИ в развитии человечества. Ученый приходит к выводу, что, возможно, верна гипотеза «великого фильтра», согласно которой цивилизация, достигнув определенной стадии развития, погибает, так и не успев выйти на контакт с другими мирами.
Гаррет считает, что появление ИСИ может стать таким великим фильтром. Быстрое развитие ИИ, потенциально ведущее к ИСИ, пересекается с критической фазой в развитии цивилизации — переходом от одно-планетного вида к много-планетному. Сегодня мы видим на Земле что-то подобное.
Именно в этот момент многие цивилизации могут споткнуться. И здесь может споткнуться человечество. ИИ будет развиваться гораздо быстрее, чем способность человечества и его контролировать, и в то же время исследовать и заселять Солнечную систему.
Проблема с ИИ и, особенно, с ИСИ заключается в его автономной природе. Он способен сам себя развивать и усиливать, не особенно спрашивая разрешения у своих создателей.
Все плохо
Потенциал для того, чтобы все стало совсем плохо, — огромен, считает Гаррет. Это может привести к гибели как биологических, так и ИИ-цивилизаций еще до того, как они получат шанс стать много-планетными.
Например, если нации все больше полагаются на автономные системы ИИ и уступают им власть, в том числе принятие военных решений, ИИ может быть использован для убийства и разрушения в беспрецедентных масштабах.
Нельзя сказать, что эти предположения совсем безосновательны. В недавней статье Economist «Как искусственный интеллект меняет ведение войны» описана довольно зловещая картина: ИИ-генштаб получает через систему распределенных сенсоров, расположенных и на Земле, и в космосе огромный поток данных и на их основе принимает решения по удаленному использованию летального оружия. Прогноз Гаррета крайне пессимистичен: «В этом сценарии я оцениваю типичную продолжительность жизни технологической цивилизации менее чем в 100 лет».
Это примерно время между способностью принимать и передавать сигналы между звездами (1960 год) и предполагаемым появлением ИСИ (2040 год). Это тревожно короткий срок по сравнению с космическим масштабом времени в миллиарды лет.
Как просочиться сквозь великий фильтр
Главное на чем необходимо сейчас сосредоточить усилия, по мнению Гаррета, это превращение нашей одно-планетной цивилизации в много-планетную. Тогда шансы на выживание значительно повысятся. Мы как бы разложим яйца по разным корзинам. И даже если на одной из планет произойдет катастрофа, человечество выживет.
Гаррет пишет: «Человечество находится в решающей точке своей технологической траектории. Наши действия сейчас могут определить, станем ли мы устойчивой межзвездной цивилизацией или падем жертвой вызовов, созданных нашими собственными творениями».
Но, судя по молчанию космоса, пройти сквозь великий фильтр удалось немногим.