Как увеличить память нейросети ChatGPT?

Я помню всё: ChatGPT создал свой собственный язык, чтобы не терять память

Память — главный ограничивающий фактор даже для лучших чат-ботов с искусственным интеллектом, но его можно обойти. Один из приемов, который используют эксперты ChatGPT, — это то, что люди называют «сегтонгом».

Ограниченная память всегда была проблемой нейросетей, но теперь энтузиасты нашли способ обойти это ограничение.

Сегтонг — это сжатая форма текста, которую ChatGPT может создать для вас, а затем расширить и использовать в качестве истории, чтобы вы могли продолжить с того места, на котором остановились в прошлых разговорах.

Методы сокращения подсказок ИИ не новы, но область их применения довольно интересна. Когда пользователь gfodor на прошлой неделе опубликовал в твиттере сильно сжатую подсказку, он предложил использовать для нее название «сегтонг». И с помощью этой подсказки можно заставить ChatGPT помнить больше обычного.

Как заставить нейросеть запоминать разговоры

Основная идея состоит в том, чтобы попросить ChatGPT сжать весь предыдущий разговор в минимальное количество токенов (представление языка, который ИИ использует внутри). Даны дополнительные инструкции для уточнения этой базовой команды и усиления цели — сохранить чат в сжатом приглашении, которое воссоздаст весь разговор.

По словам экспертов, можно ввести подсказку на сегтонге, чтобы продолжить с того места, на котором вы остановились, но поскольку результаты не идеальны, может помочь предоставление некоторого контекста. Разъяснение ChatGPT, что этот текст был сжат для экономии памяти и должен использоваться в качестве истории, предоставит AI подсказку о том, как следует интерпретировать запрос.

С помощью этой техники можно было бы вести беседы продолжительностью в месяцы или чаты, включающие вставку нескольких больших документов.