Перейти к основному содержимому

Обработка

Настройки → Обработка решают, что происходит с разговором после записи, какая модель выполняет работу и сколько это может стоить.

Обрабатывать разговоры автоматически​

  • Выключено: ничего не происходит, пока вы не попросите в окне записей.
  • Включено: правила ниже работают сами. Так разговор становится содержанием, категорией и всем остальным без чьих-либо нажатий. Облачная модель берёт плату за каждый такой шаг.

Под флажком программа показывает, сколько потрачено в этом месяце и на сколько запросов, например В этом месяце: 40 492 токена, за 84 запроса, бесплатно — или В этом месяце ничего не обрабатывалось.

Лимиты​

ПолеЗначение
Лимит денег в месяцСколько модели могут стоить за месяц самое большее.
Лимит токенов в месяцСколько токенов они могут израсходовать за месяц самое большее.

Лимитов два, потому что месяц можно считать в двух величинах. Оба пусты, пока вы их не заполните. Когда достигнут любой из них, автоматические правила останавливаются до следующего месяца. То, о чём вы просите сами, не останавливается никогда.

Языковые модели​

Модели, которые читают расшифровку и пишут о ней. Кнопка Добавить добавляет модель. Каждая показана с названием, а под ним — идентификатор модели и адрес сервиса, например yandexgpt/latest · https://llm.api.cloud.yandex.net/v1. Модель с пометкой основной используется по умолчанию; на картинке это YandexGPT. Кнопка Проверить в форме модели проверяет, что сервис действительно отвечает, прежде чем на него полагаться.

  • Модель на вашей машине держит каждый разговор в здании и ничего не стоит в работе.
  • Облачная модель — YandexGPT, OpenAI, Claude, Mistral, DeepSeek и другие — оплачивается за использование. Программа показывает цену каждого обращения в токенах и деньгах.

Виды моделей​

ВидДля чего
Совместимый с OpenAI (Ollama, vLLM, OpenAI)OpenAI и любой сервер с интерфейсом OpenAI: Ollama и vLLM на своей машине, а также облачные сервисы с совместимым API. Вид по умолчанию; адрес по умолчанию — http://127.0.0.1:11434/v1 (Ollama).
Anthropic (Claude)Модели Claude.
xAI (Grok)Модели Grok.
Yandex AI Studio (YandexGPT)YandexGPT из Yandex AI Studio. Есть в списке, только когда страна — Россия или соседняя страна; см. ниже.

Форма модели​

ПолеЧто это
НазваниеКак модель показана в списке.
ВидСервис; при выборе подставляются его адрес и модель по умолчанию.
АдресАдрес сервиса (Например: http://127.0.0.1:11434/v1).
ПроверитьСпрашивает сервис, отвечает ли он, и заполняет список моделей.
МодельИдентификатор модели у сервиса.
КлючAPI-ключ. Хранится в хранилище ключей этого компьютера, а не в файле настроек.
Использовать по умолчаниюДелает модель основной.
ВключёнВыключенная модель остаётся в списке, но не используется.
Дополнительные настройкиТемпература, пределы, цена и прочее; см. ниже.

YandexGPT​

YandexGPT — языковая модель Яндекса из Yandex AI Studio. Она хорошо пишет по-русски, данные обрабатываются в Яндекс Облаке, а оплата идёт в рублях. Вместе с Yandex SpeechKit она даёт полностью российскую цепочку: звук расшифровывает SpeechKit, а содержание, задачи, категории и красные флаги пишет YandexGPT.

Вид Yandex AI Studio (YandexGPT) появляется, когда в Настройки → О программе → Страна выбрана Россия (а также Беларусь, Казахстан, Узбекистан, Кыргызстан, Таджикистан, Туркменистан, Армения или Азербайджан).

Что нужно в Яндекс Облаке​

  1. Платёжный аккаунт и каталог в консоли Яндекс Облака.
  2. Сервисный аккаунт с ролью ai.languageModels.user. Если он же работает с SpeechKit, добавьте роль ai.speechkit-stt.user — тогда один API-ключ подойдёт и для расшифровки, и для обработки.
  3. API-ключ сервисного аккаунта.

Добавление YandexGPT​

  1. Убедитесь, что в О программе выбрана страна Россия.
  2. Настройки → Обработка → Языковые модели → Добавить.
  3. В поле Вид выберите Yandex AI Studio (YandexGPT). Адрес https://llm.api.cloud.yandex.net/v1 и модель yandexgpt/latest подставятся сами.
  4. Вставьте API-ключ в поле Ключ.
  5. Нажмите Проверить, затем Сохранить. Отметьте Использовать по умолчанию, чтобы правила обработки шли через YandexGPT.

Модели YandexGPT​

МодельЧто это
yandexgpt/latestYandexGPT Pro — точнее отвечает на сложные запросы. Подставляется по умолчанию; подходит для содержания, оценки качества и вопросов к разговору.
yandexgpt-lite/latestYandexGPT Lite — быстрее и дешевле; годится для коротких задач вроде категории и меток.
yandexgpt/rcСледующая версия Pro до выпуска (release candidate).

Полный адрес модели в Яндекс Облаке — gpt://<идентификатор_каталога>/yandexgpt/latest. Писать его целиком не нужно: с API-ключом сервисного аккаунта достаточно yandexgpt/latest, а если заполнен Каталог, название модели без каталога дополняется им. Актуальный список моделей — в документации Yandex AI Studio.

Модели можно выбирать отдельно для каждого промпта: например, Lite для категорий и меток, Pro для содержания и оценки звонков. Это делается в Персональной студии промптов.

Дополнительные настройки модели​

Дополнительные настройки внизу формы раскрывают редкие поля. Для YandexGPT значения по умолчанию такие:

ПолеПо умолчаниюЧто это
РегионпустоРегион облака, если ваша установка его требует.
КаталогпустоНужен только для IAM-токена личного аккаунта: такой аккаунт не принадлежит каталогу. API-ключ сервисного аккаунта уже знает свой каталог, так что поле можно оставить пустым.
Температура0,0Насколько модель вольна менять формулировки. Ноль — это один и тот же ответ на один и тот же разговор каждый раз, а это и нужно для сводки, которую кто-то станет проверять. Оставьте пустым для модели, которая этот параметр не принимает.
Предел ответа4096Больше этого модель в одном ответе не напишет. Оставьте пустым, чтобы модель решала сама.
Просить JSON отдельным параметромвкл.Для промптов с ответом в JSON телефон просит JSON у сервиса отдельным параметром, а не только в тексте промпта.
Предел контекста32000Сколько, по мнению телефона, модель способна прочесть за раз. Модели это не сообщается: под эту величину сворачивается длинный разговор.
Запросов сразу2Сколько запросов телефон держит выполняющимися одновременно.
ДополнительнопустоПараметры вида имя = значение, по одному в строке, — например top_p = 0.9; передаются модели как есть.
ЦенапустоВходящие, за миллион и Исходящие, за миллион — цена миллиона токенов запроса и ответа. Для модели на своей машине оставьте пусто: работать ей ничего не стоит. Цены — провайдера, перепишите их из его прайс-листа. По этим ценам считается Лимит денег в месяц.

Промпты​

О чём просят модели. Всё это пришло вместе с программой, и всё это вы вправе изменить — и вернуть обратно. Каждый промпт показан с названием, а под ним — что он пишет и в какой форме. Форма — Ответ, Пункты, Метки, JSON, Проза, Флаги или Критерии — определяет, как ответ хранится и показывается. Промпты описаны в разделе Персональная студия промптов. Добавить создаёт свой промпт.

Правила​

Что выполняется само, в этом порядке. Каждое срабатывает не более одного раза на разговор. Правило — строка с флажком, который его включает и выключает, названием и описанием под ним. ▲ и ▼ меняют порядок. В программе восемь правил:

ПравилоЧто делаетКогда
Стенографировать каждый разговорРасшифровывает его.всегда
Составить содержаниеСпрашивает модель: Содержание.всегда
Сжать до одной строкиСпрашивает модель: Краткое содержание.всегда
Отнести к категорииСпрашивает модель: Категория.всегда
Проставить меткиСпрашивает модель: Метки.всегда
Поднять всё, что стоит вниманияСпрашивает модель: Красные флаги.всегда
Оценить, если это продажаСпрашивает модель: Качество продажи.только если категория — Продажи
Оценить, если это поддержкаСпрашивает модель: Качество поддержки.только если категория — Поддержка

Порядок важен: двум последним правилам нужна категория, которую ставит правило перед ними. Добавить создаёт своё правило.

По умолчанию​

Восстановить по умолчанию возвращает промпты и правила такими, какими они пришли с программой, на текущем языке интерфейса. Ваши языковые модели остаются нетронутыми.

Промпты и правила, пришедшие с программой, остаются на прежнем языке, когда вы меняете язык интерфейса; Восстановить по умолчанию переводит их на новый. После этого каждый промпт помечен справа как изменён.