ИИ не может подделать голос — мозг распознает дипфейк
![ИИ не может подделать голос — мозг распознает дипфейк ИИ не может подделать голос — мозг распознает дипфейк](https://images.techinsider.ru/upload/img_cache/8b5/8b536f7921f5e8196374eb23eb4bd220_ce_2064x1376x6x0_cropped_510x340.webp)
Синтез голоса по прототипу, — это одна из первых возможностей, которая была реализована нейросетью. Но до сих пор, несмотря на огромный прогресс, во всех ИИ-моделях, где нужно голосовое общение, используются голоса-прототипы, принадлежащие реальным людям. Все «поющие» и «говорящие» модели используют реальные голоса. На сегодня не существует ИИ-моделей, которые настолько точно синтезируют «несуществующий» голос, что человек принимает его за реальный, особенно при многократном прослушивании. ИИ может как угодно модифицировать реальный голос, но что-то главное создать не удается.
Это эмпирическое наблюдение стало предметом исследования ученых Цюрихского университета. Он решили проверить, как наш мозг реагирует на синтезированный и реальный голоса.
Как мозг обрабатывает голос
![Модели нейронной активности. Слева — активность прилежащего ядро. Справа — правая слуховая кора и левая слуховая кора. На карте помечены области активности t. Активность особенно отличается при реакции правого прилежащего ядра на естественный голос. Модели нейронной активности. Слева — активность прилежащего ядро. Справа — правая слуховая кора и левая слуховая кора. На карте помечены области активности t. Активность особенно отличается при реакции правого прилежащего ядра на естественный голос.](https://images.techinsider.ru/upload/img_cache/aa7/aa7b25fed8425082de16b980b905fe98_cropped_510x169.webp)
25 добровольцам было предложено распознать является ли голос синтезированным или реальным. Они справились с задачей практически безошибочно. При этом проводилось фМРТ-сканирование мозга. Как показали измерения, при восприятии разных типов голоса активность мозга отличается.
Во-первых, иначе реагирует слуховая кора. Это означает, что существующие на сегодня методы синтеза и воспроизведения искусственного голоса не дают точной картины. В чем состоят эти отличия ученые пока сказать не могут, но слуховая кора надежно отличает синтезированный голос
Другая область мозга, которая демонстрирует различия при восприятии разных типов голоса, — это прилежащее ядро (NAcc). Эта область участвует в формировании вознаграждения и важна при обучении с подкреплением. Ученые считают, что дипфейковые голоса не вызывают чувства узнавания (и соответственно вознаграждения), которое дают естественные голоса.
Ученые пришли к выводу, что сегодня синтез реального голоса практически невозможен. Но прогресс нейросетей настолько впечатляющий, что это может стать возможным в будущем.