Современные системы искусственного интеллекта способны на многие удивительные действия. Например, при использовании таких систем, как ChatGPT, ответы (довольно часто) похожи на ответы человека. Когда мы, люди, взаимодействуем с ChatGPT, мы воспринимаем текст, который генерирует языковая модель сознательно, точно так же, как воспринимаем текст, написанный человеком.
Обладает ли ИИ сознанием? Нейробиологи доказывают, что ему до этого еще очень далеко
Рост возможностей систем искусственного интеллекта настолько впечатляет, что многие стали говорить появлению мнения о том, что в скором времени эти системы обретут сознание. Но нейробиологи считают, что мы просто недооцениваем всю сложность организации человеческого мозга, до которой ИИ еще очень далеко.
Unsplash
Вопрос в том, воспринимает ли языковая модель также и наш текст, когда мы с ней общаемся. Или это просто зомби, работающий на основе сопоставления шаблонов? Судя только по тексту, который ИИ генерирует, легко склониться к тому, что он действительно обладает сознанием.
Сознание робота
Слева: схема, изображающая базовую архитектуру большой языковой модели, которая может содержать десятки или даже сотни блоков-дешифраторов, расположенных по принципу feed-forward. Справа: эвристическая карта таламокортикальной системы, которая генерирует сложные паттерны активности, лежащие, как считается, в основе сознания. Credit: Mac Shine, Jaan Aru
В новом исследовании нейробиологи рассматривают вопрос о сознании машин с нейробиологической точки зрения.
Ученые утверждают, что, хотя ответы систем, подобных ChatGPT, кажутся сознательными, скорее всего, это не так. Во-первых, входные сигналы языковых моделей не имеют телесного воплощения, которое характерно для нашего сенсорного контакта с окружающим миром. То есть цифра на входе становится цифрой на выходе, не касаясь сложных биологических реакций организма, которые значительно меняют сигнал и сами в процессе восприятия тоже меняются. Во-вторых, в архитектуре современных алгоритмов ИИ отсутствуют ключевые особенности таламокортикальной системы, которую связывают с сознанием у млекопитающих. Таламус связан с корой сложной системой нейронов. Ничего похожего у ИИ нет.
Наконец, траектории эволюции и развития, которые привели к появлению живых сознательных организмов, вероятно, не имеют аналогов в искусственных системах в их современном понимании. Существование живых организмов зависит от их действий, а их выживание неразрывно связано с многоуровневыми клеточными, межклеточными и организменными процессами, кульминацией которых являются органы управления и сознание.
Конечно, соблазнительно предположить, что ChatGPT и подобные системы могут обладать сознанием, это предположение сильно недооценивает сложность нейронных механизмов, порождающих сознание в нашем мозге. Исследователи не пришли к единому мнению о том, как сознание возникает в нашем мозге. Но мы знаем, и на это указывает новая работа, что эти механизмы, скорее всего, гораздо сложнее, чем механизмы, лежащие в основе современных языковых моделей.
Например, как отмечается в данной работе, реальные нейроны не похожи на нейроны в искусственных нейронных сетях. Биологические нейроны — это реальные физические объекты, которые могут расти и менять форму, в то время как нейроны в больших языковых моделях — это просто куски кода. Нам еще предстоит пройти долгий путь, прежде чем мы поймем, что такое сознание, а значит, и долгий путь к созданию сознательных машин.