Перейти к основному содержимому

Обработка

Настройки → Обработка решают, что происходит с разговором после записи, какая модель выполняет работу и сколько это может стоить.

Обрабатывать разговоры автоматически​

  • Выключено: ничего не происходит, пока вы не попросите в окне записей.
  • Включено: правила ниже работают сами. Так разговор становится содержанием, категорией и всем остальным без чьих-либо нажатий. Облачная модель берёт плату за каждый такой шаг.

Языковые модели​

Модели, которые читают расшифровку и пишут о ней. Кнопка Добавить добавляет модель. Каждая показана с названием, а под ним — идентификатор модели и адрес сервиса, например yandexgpt/latest · https://llm.api.cloud.yandex.net/v1. Модель с пометкой основной используется по умолчанию — промптами и теми помощниками суфлёра, у которых не указана своя модель; на картинке это YandexGPT. Кнопка Проверить в форме модели проверяет, что сервис действительно отвечает, прежде чем на него полагаться.

  • Модель на вашей машине держит каждый разговор в здании и ничего не стоит в работе.
  • Облачная модель — YandexGPT, OpenAI, Claude, Mistral, DeepSeek и другие — оплачивается за использование. Программа показывает цену каждого обращения в токенах и деньгах.

Виды моделей​

ВидДля чего
Совместимый с OpenAI (Ollama, vLLM, OpenAI)OpenAI и любой сервер с интерфейсом OpenAI: Ollama и vLLM на своей машине, а также облачные сервисы с совместимым API. Вид по умолчанию; адрес по умолчанию — http://127.0.0.1:11434/v1 (Ollama).
Anthropic (Claude)Модели Claude.
xAI (Grok)Модели Grok.
Yandex AI Studio (YandexGPT)YandexGPT из Yandex AI Studio. Есть в списке, только когда страна — Россия или соседняя страна; см. ниже.

Форма модели​

ПолеЧто это
НазваниеКак модель показана в списке.
ВидСервис; при выборе подставляются его адрес и модель по умолчанию.
АдресАдрес сервиса (Например: http://127.0.0.1:11434/v1).
ПроверитьСпрашивает сервис, отвечает ли он, и заполняет список моделей.
МодельИдентификатор модели у сервиса.
КлючAPI-ключ. Хранится в хранилище ключей этого компьютера, а не в файле настроек.
Использовать по умолчаниюДелает модель основной.
ВключёнВыключенная модель остаётся в списке, но не используется.
Дополнительные настройкиТемпература, пределы, цена и прочее; см. ниже.

YandexGPT​

YandexGPT — языковая модель Яндекса из Yandex AI Studio. Она хорошо пишет по-русски, данные обрабатываются в Яндекс Облаке, а оплата идёт в рублях. Вместе с Yandex SpeechKit она даёт полностью российскую цепочку: звук расшифровывает SpeechKit, а содержание, задачи, категории и красные флаги пишет YandexGPT.

Вид Yandex AI Studio (YandexGPT) появляется, когда в Настройки → О программе → Страна выбрана Россия (а также Беларусь, Казахстан, Узбекистан, Кыргызстан, Таджикистан, Туркменистан, Армения или Азербайджан).

Что нужно в Яндекс Облаке​

  1. Платёжный аккаунт и каталог в консоли Яндекс Облака.
  2. Сервисный аккаунт с ролью ai.languageModels.user. Если он же работает с SpeechKit, добавьте роль ai.speechkit-stt.user — тогда один API-ключ подойдёт и для расшифровки, и для обработки.
  3. API-ключ сервисного аккаунта.

Добавление YandexGPT​

  1. Убедитесь, что в О программе выбрана страна Россия.
  2. Настройки → Обработка → Языковые модели → Добавить.
  3. В поле Вид выберите Yandex AI Studio (YandexGPT). Адрес https://llm.api.cloud.yandex.net/v1 и модель yandexgpt/latest подставятся сами.
  4. Вставьте API-ключ в поле Ключ.
  5. Нажмите Проверить, затем Сохранить. Отметьте Использовать по умолчанию, чтобы правила обработки шли через YandexGPT.

Модели YandexGPT​

МодельЧто это
yandexgpt/latestYandexGPT Pro — точнее отвечает на сложные запросы. Подставляется по умолчанию; подходит для содержания, оценки качества и вопросов к разговору.
yandexgpt-lite/latestYandexGPT Lite — быстрее и дешевле; годится для коротких задач вроде категории и меток.
yandexgpt/rcСледующая версия Pro до выпуска (release candidate).

Полный адрес модели в Яндекс Облаке — gpt://<идентификатор_каталога>/yandexgpt/latest. Писать его целиком не нужно: с API-ключом сервисного аккаунта достаточно yandexgpt/latest, а если заполнен Каталог, название модели без каталога дополняется им. Актуальный список моделей — в документации Yandex AI Studio.

Модели можно выбирать отдельно для каждого промпта: например, Lite для категорий и меток, Pro для содержания и оценки звонков. Это делается в Персональной студии промптов.

Дополнительные настройки модели​

Дополнительные настройки внизу формы раскрывают редкие поля. Для YandexGPT значения по умолчанию такие:

ПолеПо умолчаниюЧто это
РегионпустоРегион облака, если ваша установка его требует.
КаталогпустоНужен только для IAM-токена личного аккаунта: такой аккаунт не принадлежит каталогу. API-ключ сервисного аккаунта уже знает свой каталог, так что поле можно оставить пустым.
Температура0,0Насколько модель вольна менять формулировки. Ноль — это один и тот же ответ на один и тот же разговор каждый раз, а это и нужно для сводки, которую кто-то станет проверять. Оставьте пустым для модели, которая этот параметр не принимает.
Предел ответа4096Больше этого модель в одном ответе не напишет. Оставьте пустым, чтобы модель решала сама.
Просить JSON отдельным параметромвкл.Для промптов с ответом в JSON телефон просит JSON у сервиса отдельным параметром, а не только в тексте промпта.
Предел контекста32000Сколько, по мнению телефона, модель способна прочесть за раз. Модели это не сообщается: под эту величину сворачивается длинный разговор.
Запросов сразу2Сколько запросов телефон держит выполняющимися одновременно.
ДополнительнопустоПараметры вида имя = значение, по одному в строке, — например top_p = 0.9; передаются модели как есть.
ЦенапустоВходящие, за миллион и Исходящие, за миллион — цена миллиона токенов запроса и ответа. Для модели на своей машине оставьте пусто: работать ей ничего не стоит. Цены — провайдера, перепишите их из его прайс-листа. По этим ценам считается Лимит денег в месяц.

Промпты​

Что спрашивают у моделей. Все промпты пришли с программой, и каждый можно изменить — и вернуть обратно. Каждый показан с названием, а под ним — что он пишет и в какой форме; ▲ и ▼ меняют порядок списка. Форма — Ответ, Пункты, Метки, JSON, Проза, Флаги или Критерии — определяет, как ответ хранится и показывается. Промпты описаны в разделе Персональная студия промптов. Добавить создаёт собственный промпт.

Правила​

Что выполняется само, в этом порядке. Каждое срабатывает не более одного раза на разговор. Правило — строка с флажком, который его включает и выключает, названием и описанием под ним. ▲ и ▼ меняют порядок. В программе восемь правил:

ПорядокПравилоКод правилаДействие / код промптаКогда
0Стенографировать каждый разговорtranscribeРасшифровать запись, без промпта языковой модели.всегда
10Составить содержаниеsummaryСпросить модель: summary.всегда
20Сжать до одной строкиsuper-summaryСпросить модель: super-summary.всегда
30Отнести к категорииcategoriseСпросить модель: categorise.всегда
40Проставить меткиtagsСпросить модель: tags.всегда
50Поднять всё, что стоит вниманияred-flagsСпросить модель: red-flags.всегда
60Оценить, если это продажаsales-qualityСпросить модель: sales-quality.категория равна sales — Продажи
70Оценить, если это поддержкаsupport-qualityСпросить модель: support-quality.категория равна support — Поддержка

«Всегда» означает отсутствие дополнительного условия у включённого правила; для автоматического выполнения должны быть разрешены обработка и само правило. Код связывает стандартное правило с промптом независимо от того, в какой строке базы он хранится.

Порядок важен: Краткое содержание использует готовое содержание через {{artifact:summary}}, а двум правилам качества нужна уже определённая категория. Поэтому содержание должно идти перед кратким содержанием, а категоризация — перед оценкой качества. Добавить создаёт своё правило.

Для Задач, Тем, Имён и чисел и Вопроса об этом разговоре в стандартном наборе нет автоматических правил. Их запускают вручную в окне записей; для нужных регулярных разборов можно добавить свои правила. Вопрос к разговору пользователь вводит при ручном запуске. Помощники суфлёра работают отдельно, по ходу речи.

Расходы​

В разделе Расходы программа показывает, сколько потрачено за месяц и на сколько запросов, — на картинке В этом месяце ничего не обрабатывалось, а когда что-то уже обработано, например За месяц: 40 492 токенов, за 84 запроса, бесплатно.

ПолеЗначение
Лимит денег в месяцСколько модели могут стоить за месяц самое большее.
Лимит токенов в месяцСколько токенов они могут израсходовать за месяц самое большее.

Лимитов два, потому что месяц можно считать в двух единицах. Оба пусты, пока вы их не заполните. Когда достигнут любой из них, автоматические правила останавливаются до начала следующего месяца. То, что вы просите сами, не останавливается никогда. У суфлёра свои потолки, чтобы месяц пересказов не мог заставить его замолчать посреди разговора.

По умолчанию​

Восстановить по умолчанию возвращает промпты и правила такими, какими они пришли с программой, на текущем языке интерфейса. Ваши языковые модели остаются нетронутыми.

Промпты и правила, пришедшие с программой, остаются на прежнем языке, когда вы меняете язык интерфейса; Восстановить по умолчанию переводит их на новый. После этого каждый промпт помечен справа как изменён.

Стандартный набор заполняет базу при первом запуске. Далее вы редактируете сохранённые промпты и правила в программе. Markdown-выгрузка стандартного набора служит для чтения и подготовки текста: программа не импортирует её обратно, поэтому правки такого файла не меняют уже существующую базу. Чтобы применить собственный текст, перенесите его в карточку промпта; чтобы вернуть поставляемый набор, используйте Восстановить по умолчанию.