@chatutilsbot: Текстовые нейросети

@chatutilsbot предоставляет возможность делать запросы к нейросетям GPT-4 и Claude Haiku/Sonnet/Opus. Модели Claude от компании Anthropic отличаются между собой по стоимости, скорости и качеству (Haiku самая дешёвая и быстрая, Sonnet дороже и медленнее, Opus самая дорогая и качественная).

Данная функциональность расходует запас токенов. Число расходуемых токенов учитывается с коэффициентами, которые зависят от конкретной модели (см. ниже).

Взаимодействие с нейросетью происходит в формате диалога. Чтобы начать новый диалог, используйте команды

/gpt текст запроса
/haiku текст запроса
/sonnet текст запроса
/opus текст запроса

Вместо использования команд вы также можете просто отправить текст запроса личным сообщением боту, а затем выбрать пункт «Обратиться к текстовой модели…».

Чтобы продолжить диалог, отвечайте на одну из предыдущих реплик нейросети. Имейте в виду, что при этом каждый раз отправляется вся ветка разговора, поэтому для экономии токенов лучше начинать новый диалог, когда контекст не нужен.

Если вы не хотите, чтобы после вашего ответа на реплику нейросети был сгенерирована следующая реплика, начните своё сообщение с символов //

Перед текстом запроса можно указать несколько параметров (через пробел, без кавычек), регулирующих генерацию:
"t=1.2": temperature
"tp=0.1": top_p
"mt=100": max_tokens
"pp=0.8": presence_penalty
"fp=0.8": frequency_penalty
Подробнее об этих параметрах см. документацию OpenAI

Системный промпт

Чтобы изменить стиль ответов нейросети, можно настроить так называемый системный промпт. Это делается следующей командой:

/sysprompt текст промпта

Установленный таким образом текст будет передаваться в начале каждого диалога в текущем чате. Он имеет больший вес, нежели сами реплики — в нём обычно описывается моделируемая личность и характер ответов, а также даются любые дополнительные инструкции о том, как следует отвечать на запросы.

Учтите, что использование промпта повышает расход токенов, так как он передаётся перед каждым очередным сообщением к нейросети.

По умолчанию системный промпт не используется. Если хотите снова сбросить его после установки, отправьте "/sysprompt -" (дефис после пробела).

Расход токенов

В информации о конкретном ответе нейросети выводится фактическое число токенов в нём. Но из вашего месячного лимита они вычитаются со следующими коэффициентами:

• GPT-4: 0.5 в запросах / 1 в ответах
• Haiku: 0.0125 / 0.3
• Sonnet: 0.15 / 0.6
• Opus: 0.75 / 3

Например, вы написали запрос длиной 400 токенов, а нейросеть сгенерировала ответ длиной 1000 токенов. Тогда в случае использования GPT-4 из вашего запаса будет вычтено 400*0.5 + 1000*1 = 1200 токенов; при использовании Haiku — 400*0.0125 + 1000*0.3 = 305 токенов; Sonnet — 400*0.15 + 1000*0.6 = 660 токенов; Opus — 400*0.75 + 1000*3 = 3300 токенов.

Свой текущий запас токенов вы всегда можете проверить командой /usage.