# Обработка

> Автоматическая обработка разговоров, языковые модели (в том числе YandexGPT), промпты, правила, которые их запускают, и месячные лимиты расходов.

**Настройки → Обработка** решают, что происходит с разговором после записи, какая модель выполняет работу и сколько это может стоить.

![Настройки → Обработка](https://docs.ai-softphone.com/screenshots/macos/ru/12_settings_processing.png)

## Обрабатывать разговоры автоматически {#process-conversations-automatically}

- **Выключено:** ничего не происходит, пока вы не попросите в [окне записей](https://docs.ai-softphone.com/ru/interface/recordings/index.md).
- **Включено:** [правила](#rules) ниже работают сами. Так разговор становится содержанием, категорией и всем остальным без чьих-либо нажатий. Облачная модель берёт плату за каждый такой шаг.

## Языковые модели {#language-models}

Модели, которые читают расшифровку и пишут о ней. Кнопка **Добавить** добавляет модель. Каждая показана с названием, а под ним — идентификатор модели и адрес сервиса, например `yandexgpt/latest · https://llm.api.cloud.yandex.net/v1`. Модель с пометкой **основной** используется по умолчанию — промптами и теми помощниками [суфлёра](https://docs.ai-softphone.com/ru/ai-processing/prompter/index.md), у которых не указана своя модель; на картинке это **YandexGPT**. Кнопка **Проверить** в форме модели проверяет, что сервис действительно отвечает, прежде чем на него полагаться.

- Модель **на вашей машине** держит каждый разговор в здании и ничего не стоит в работе.
- Облачная модель — YandexGPT, OpenAI, Claude, Mistral, DeepSeek и другие — оплачивается за использование. Программа показывает цену каждого обращения в токенах и деньгах.

### Виды моделей {#kinds-of-models}

![Список «Вид» в форме новой модели: совместимый с OpenAI, Anthropic, xAI и Yandex AI Studio (YandexGPT)](https://docs.ai-softphone.com/screenshots/macos/ru/12f_processing_model_types.png)

| Вид | Для чего |
| --- | --- |
| **Совместимый с OpenAI (Ollama, vLLM, OpenAI)** | OpenAI и любой сервер с интерфейсом OpenAI: Ollama и vLLM на своей машине, а также облачные сервисы с совместимым API. Вид по умолчанию; адрес по умолчанию — `http://127.0.0.1:11434/v1` (Ollama). |
| **Anthropic (Claude)** | Модели Claude. |
| **xAI (Grok)** | Модели Grok. |
| **Yandex AI Studio (YandexGPT)** | YandexGPT из Yandex AI Studio. Есть в списке, только когда страна — Россия или соседняя страна; см. [ниже](#yandexgpt). |

### Форма модели {#the-model-form}

| Поле | Что это |
| --- | --- |
| **Название** | Как модель показана в списке. |
| **Вид** | Сервис; при выборе подставляются его адрес и модель по умолчанию. |
| **Адрес** | Адрес сервиса (*Например: http://127.0.0.1:11434/v1*). |
| **Проверить** | Спрашивает сервис, отвечает ли он, и заполняет список моделей. |
| **Модель** | Идентификатор модели у сервиса. |
| **Ключ** | API-ключ. Хранится в хранилище ключей этого компьютера, а не в файле настроек. |
| **Использовать по умолчанию** | Делает модель основной. |
| **Включён** | Выключенная модель остаётся в списке, но не используется. |
| **Дополнительные настройки** | Температура, пределы, цена и прочее; см. [ниже](#advanced-model-settings). |

## YandexGPT {#yandexgpt}

**YandexGPT** — языковая модель Яндекса из Yandex AI Studio. Она хорошо пишет по-русски, данные обрабатываются в Яндекс Облаке, а оплата идёт в рублях. Вместе с [Yandex SpeechKit](https://docs.ai-softphone.com/ru/ai-processing/transcription/index.md#yandex-speechkit) она даёт полностью российскую цепочку: звук расшифровывает SpeechKit, а содержание, задачи, категории и красные флаги пишет YandexGPT.

Вид **Yandex AI Studio (YandexGPT)** появляется, когда в [**Настройки → О программе → Страна**](https://docs.ai-softphone.com/ru/application/about/index.md#version-and-country) выбрана **Россия** (а также Беларусь, Казахстан, Узбекистан, Кыргызстан, Таджикистан, Туркменистан, Армения или Азербайджан).

![Форма модели YandexGPT: вид Yandex AI Studio (YandexGPT), адрес https://llm.api.cloud.yandex.net/v1, модель yandexgpt/latest](https://docs.ai-softphone.com/screenshots/macos/ru/12d_processing_yandexgpt.png)

### Что нужно в Яндекс Облаке {#what-yandex-cloud-needs}

1. Платёжный аккаунт и каталог в [консоли Яндекс Облака](https://console.yandex.cloud/).
2. Сервисный аккаунт с ролью `ai.languageModels.user`. Если он же работает с SpeechKit, добавьте роль `ai.speechkit-stt.user` — тогда один API-ключ подойдёт и для расшифровки, и для обработки.
3. API-ключ сервисного аккаунта.

### Добавление YandexGPT {#adding-yandexgpt}

1. Убедитесь, что в **О программе** выбрана страна **Россия**.
2. **Настройки → Обработка → Языковые модели → Добавить**.
3. В поле **Вид** выберите **Yandex AI Studio (YandexGPT)**. Адрес `https://llm.api.cloud.yandex.net/v1` и модель `yandexgpt/latest` подставятся сами.
4. Вставьте API-ключ в поле **Ключ**.
5. Нажмите **Проверить**, затем **Сохранить**. Отметьте **Использовать по умолчанию**, чтобы правила обработки шли через YandexGPT.

### Модели YandexGPT {#yandexgpt-models}

| Модель | Что это |
| --- | --- |
| **`yandexgpt/latest`** | YandexGPT Pro — точнее отвечает на сложные запросы. Подставляется по умолчанию; подходит для содержания, оценки качества и вопросов к разговору. |
| `yandexgpt-lite/latest` | YandexGPT Lite — быстрее и дешевле; годится для коротких задач вроде категории и меток. |
| `yandexgpt/rc` | Следующая версия Pro до выпуска (release candidate). |

Полный адрес модели в Яндекс Облаке — `gpt://<идентификатор_каталога>/yandexgpt/latest`. Писать его целиком не нужно: с API-ключом сервисного аккаунта достаточно `yandexgpt/latest`, а если заполнен **Каталог**, *название модели без каталога дополняется им*. Актуальный список моделей — в [документации Yandex AI Studio](https://aistudio.yandex.ru/docs/ru/).

Модели можно выбирать отдельно для каждого промпта: например, Lite для категорий и меток, Pro для содержания и оценки звонков. Это делается в [Персональной студии промптов](https://docs.ai-softphone.com/ru/ai-processing/prompt-studio/index.md#making-it-yours).

### Дополнительные настройки модели {#advanced-model-settings}

**Дополнительные настройки** внизу формы раскрывают редкие поля. Для YandexGPT значения по умолчанию такие:

![Дополнительные настройки YandexGPT: регион, каталог, температура, предел ответа, JSON отдельным параметром, предел контекста](https://docs.ai-softphone.com/screenshots/macos/ru/12e_processing_yandexgpt_advanced.png)

| Поле | По умолчанию | Что это |
| --- | --- | --- |
| **Регион** | пусто | Регион облака, если ваша установка его требует. |
| **Каталог** | пусто | *Нужен только для IAM-токена личного аккаунта: такой аккаунт не принадлежит каталогу. API-ключ сервисного аккаунта уже знает свой каталог, так что поле можно оставить пустым.* |
| **Температура** | 0,0 | *Насколько модель вольна менять формулировки. Ноль — это один и тот же ответ на один и тот же разговор каждый раз*, а это и нужно для сводки, которую кто-то станет проверять. Оставьте пустым для модели, которая этот параметр не принимает. |
| **Предел ответа** | 4096 | Больше этого модель в одном ответе не напишет. Оставьте пустым, чтобы модель решала сама. |
| **Просить JSON отдельным параметром** | вкл. | Для промптов с ответом в JSON телефон просит JSON у сервиса отдельным параметром, а не только в тексте промпта. |
| **Предел контекста** | 32000 | Сколько, по мнению телефона, модель способна прочесть за раз. Модели это не сообщается: под эту величину сворачивается длинный разговор. |
| **Запросов сразу** | 2 | Сколько запросов телефон держит выполняющимися одновременно. |
| **Дополнительно** | пусто | Параметры вида `имя = значение`, по одному в строке, — например `top_p = 0.9`; передаются модели как есть. |
| **Цена** | пусто | **Входящие, за миллион** и **Исходящие, за миллион** — цена миллиона токенов запроса и ответа. Для модели на своей машине оставьте пусто: работать ей ничего не стоит. *Цены — провайдера, перепишите их из его прайс-листа.* По этим ценам считается **Лимит денег в месяц**. |

## Промпты {#prompts}

![Настройки → Обработка: промпты](https://docs.ai-softphone.com/screenshots/macos/ru/12b_settings_processing_prompts.png)

*Что спрашивают у моделей.* Все промпты пришли с программой, и каждый можно изменить — и вернуть обратно. Каждый показан с названием, а под ним — что он пишет и в какой форме; **▲** и **▼** меняют порядок списка. Форма — **Ответ**, **Пункты**, **Метки**, **JSON**, **Проза**, **Флаги** или **Критерии** — определяет, как ответ хранится и показывается. Промпты описаны в разделе [Персональная студия промптов](https://docs.ai-softphone.com/ru/ai-processing/prompt-studio/index.md). **Добавить** создаёт собственный промпт.

## Правила {#rules}

![Настройки → Обработка: правила](https://docs.ai-softphone.com/screenshots/macos/ru/12c_settings_processing_rules.png)

*Что выполняется само, в этом порядке. Каждое срабатывает не более одного раза на разговор.* Правило — строка с флажком, который его включает и выключает, названием и описанием под ним. **▲** и **▼** меняют порядок. В программе восемь правил:

| Порядок | Правило | Код правила | Действие / код промпта | Когда |
| --- | --- | --- | --- | --- |
| 0 | **Стенографировать каждый разговор** | `transcribe` | Расшифровать запись, без промпта языковой модели. | всегда |
| 10 | **Составить содержание** | `summary` | Спросить модель: `summary`. | всегда |
| 20 | **Сжать до одной строки** | `super-summary` | Спросить модель: `super-summary`. | всегда |
| 30 | **Отнести к категории** | `categorise` | Спросить модель: `categorise`. | всегда |
| 40 | **Проставить метки** | `tags` | Спросить модель: `tags`. | всегда |
| 50 | **Поднять всё, что стоит внимания** | `red-flags` | Спросить модель: `red-flags`. | всегда |
| 60 | **Оценить, если это продажа** | `sales-quality` | Спросить модель: `sales-quality`. | категория равна `sales` — **Продажи** |
| 70 | **Оценить, если это поддержка** | `support-quality` | Спросить модель: `support-quality`. | категория равна `support` — **Поддержка** |

«Всегда» означает отсутствие дополнительного условия у включённого правила; для автоматического выполнения должны быть разрешены обработка и само правило. Код связывает стандартное правило с промптом независимо от того, в какой строке базы он хранится.

Порядок важен: **Краткое содержание** использует готовое содержание через `{{artifact:summary}}`, а двум правилам качества нужна уже определённая категория. Поэтому содержание должно идти перед кратким содержанием, а категоризация — перед оценкой качества. **Добавить** создаёт своё правило.

Для **Задач**, **Тем**, **Имён и чисел** и **Вопроса об этом разговоре** в стандартном наборе нет автоматических правил. Их запускают вручную в [окне записей](https://docs.ai-softphone.com/ru/interface/recordings/index.md#the-buttons-beside-the-drop-down); для нужных регулярных разборов можно добавить свои правила. Вопрос к разговору пользователь вводит при ручном запуске. Помощники суфлёра работают отдельно, по ходу речи.

## Расходы {#spending}

![Настройки → Обработка: расходы за месяц и два лимита](https://docs.ai-softphone.com/screenshots/macos/ru/12d_settings_processing_spending.png)

В разделе **Расходы** программа показывает, сколько потрачено за месяц и на сколько запросов, — на картинке *В этом месяце ничего не обрабатывалось*, а когда что-то уже обработано, например *За месяц: 40 492 токенов, за 84 запроса, бесплатно*.

| Поле | Значение |
| --- | --- |
| **Лимит денег в месяц** | Сколько модели могут стоить за месяц самое большее. |
| **Лимит токенов в месяц** | Сколько токенов они могут израсходовать за месяц самое большее. |

Лимитов два, потому что месяц можно считать в двух единицах. Оба пусты, пока вы их не заполните. Когда достигнут любой из них, автоматические правила останавливаются до начала следующего месяца. **То, что вы просите сами, не останавливается никогда.** У [суфлёра](https://docs.ai-softphone.com/ru/ai-processing/prompter/index.md#spending) свои потолки, чтобы месяц пересказов не мог заставить его замолчать посреди разговора.

## По умолчанию {#defaults}

**Восстановить по умолчанию** возвращает промпты и правила такими, какими они пришли с программой, на текущем языке интерфейса. Ваши языковые модели остаются нетронутыми.

Промпты и правила, пришедшие с программой, остаются на прежнем языке, когда вы меняете язык интерфейса; **Восстановить по умолчанию** переводит их на новый. После этого каждый промпт помечен справа как *изменён*.

Стандартный набор заполняет базу при первом запуске. Далее вы редактируете сохранённые промпты и правила в программе. Markdown-выгрузка стандартного набора служит для чтения и подготовки текста: программа не импортирует её обратно, поэтому правки такого файла не меняют уже существующую базу. Чтобы применить собственный текст, перенесите его в карточку промпта; чтобы вернуть поставляемый набор, используйте **Восстановить по умолчанию**.
