Сводка · 2026-10-15
Сводка: что выбрать для AI Caller
Сравнение вариантов по главному критерию, скорости отклика (медиана и p95), затем по цене, клону голоса, ru/pt и сроку MVP.
Самый быстрый управляемый (Telnyx AI)
1,30 с p95 1,86 с
замер реальные звонки
Bland (медиана)
1,52 с p95 2,25 с
замер заявлено «<400 мс»: не воспроизводится
Своя сборка, Pipecat в ЕС
1,0–1,5 с p95 1,8–2,3
оценка при тюнинге до 0,8–1,1 с
OpenAI GPT-Live (эталон)
0,80 с не телефон
бенч Full Duplex Bench v1
Что значит «скорость отклика». Время от паузы собеседника до первого звука агента, как слышит человек на том конце провода (TTFAB, caller-side). Маркетинговые «500–800 мс» у платформ считаются от другого начала отсчёта (серверный замер) и на телефоне не воспроизводятся. Независимого телефонного замера для Pipecat, LiveKit, OpenAI Realtime и Gemini Live нет: их цифры ниже — оценка по составляющим.
Сводная таблица
замер реальные звонки / независимый тест
бенч бенчмарк, не телефон
оценка расчёт по составляющим
заявка слова вендора
| Вариант | Скорость отклика медиана / p95 |
€/мин | Клон голоса | Русский / португальский | Срок MVP |
|---|---|---|---|---|---|
| Готовые платформы: замер на реальных звонках (openbenchmarks.com, последний звонок 2026-08-01) | |||||
| Telnyx AI | 1,30 / 1,86 с замер | €0,045 ($0,050) замер без оператора связи |
не проверяли | не проверяли | 1–2 дня оценка |
| ElevenLabs Agents | 1,42 / 1,77 с замер | €0,071 ($0,079) замер | клон есть у ElevenLabs (Instant Voice Clone); в Agents не проверяли | TTS: 32 языка заявка; качество ru/pt не проверяли | 1–2 дня оценка |
| Bland | 1,52 / 2,25 с замер заявлено «<400 мс» заявка |
€0,127 ($0,141) замер план $0,11–0,14 заявка |
да: один образец ~10 с, 1–15 клонов по плану | ru, pt-PT в списке языков; качество не подтверждено, «English-first» | ≈ 1 день оценка |
| Vapi | 1,56 / 2,01 с замер | €0,075 ($0,084) замер | не проверяли | не проверяли | 1–2 дня оценка |
| Retell | 1,74 / 2,26 с замер | €0,121 ($0,134) замер | не проверяли | не проверяли | 1–2 дня оценка |
| OpenAI и Google, speech-to-speech: бенчмарки и оценки, телефонного замера нет | |||||
| OpenAI Realtime (gpt-realtime-2.1) + Twilio эталон для сравнения |
1,2–1,6 / ~2–2,5 с оценка Coval 1,33 с; Bench v1 1,41 с бенч |
€0,04–0,12 оценка | только по запросу в sales, на практике недоступен | не подтверждено; жалобы на pt у mini | 2–3 дня + 1 оценка |
| OpenAI GPT-Live (gpt-live-1) | 0,80 с бенч приложение ChatGPT на iPhone: 1,1 / 1,2 с замер; p95 для API нет |
€0,05–0,09 оценка $0,05/мин + модель |
только английские акценты | нет данных; в ЕС-воркспейсах недоступен | не оценивали |
| Gemini Live (3.1 Flash Live) | 1,34 с бенч | €0,01–0,03 заявка | кастомных голосов не нашли | заявлено 90+ языков или 24 (источники расходятся) | не оценивали |
| Своя сборка: Pipecat на своём сервере в ЕС (цифры оценены по составляющим, не измерены) | |||||
| Стек 2: Pipecat + Telnyx/Twilio + Deepgram Flux + быстрая LLM + Cartesia / ElevenLabs Flash (готовый голос) | 1,0–1,5 / 1,8–2,3 с оценка с eager end-of-turn и ЕС: 0,8–1,1 с оценка |
€0,035–0,06 оценка с телефонией |
нет, готовые голоса; клон = стек 3 | Flux: ru и pt есть; Cartesia: ru и pt в списке языков | 4–6 дней оценка |
| Стек 3 (рекомендуется): стек 2 + клон голоса Роберта (Cartesia или ElevenLabs Instant Clone) | 1,0–1,6 / ~2–2,5 с оценка | €0,045–0,08 оценка с телефонией |
да: 10–30 с чистой записи; ru/pt-клон проверять на слух | как у стека 2; клон на ru и pt звучит иначе, чем на en | 5–8 дней оценка |
Евро по курсу 1 USD ≈ 0,9 EUR. У платформ цена по замеру без оператора связи (звонок в Португалию — ещё ≈ $0,02–0,05/мин, мобильные дороже); у своих стеков оценка уже с телефонией. Источники цифр и ссылки — на страницах Bland и Своя сборка.
Выводы
- Быстрее ~1,3 с на реальном телефоне пока никто. У пяти проверенных платформ медиана 1,3–1,7 с, p95 1,8–2,3 с замер. Заявленные Bland «<400 мс» ни в одном замере не воспроизвелись; по скорости Bland вровень с Vapi и Retell и хуже Telnyx и ElevenLabs.
- Speech-to-speech не быстрее каскада. gpt-realtime-2 и Gemini Live дают ≈ 1,3 с voice-to-voice бенч, как и хороший каскад. Исключение по бенчмарку — GPT-Live (0,80 с), но у него нет клона, нет ЕС-воркспейсов и нет данных по ru/pt.
- Своя сборка дойдёт до скорости платформ, а не обгонит их «из коробки». На дефолтных настройках независимый замер Cekura показал для Pipecat 3,15 с и для LiveKit 2,46 с (медиана) замер. Рабочие приёмы: Deepgram Flux с ранним концом реплики, семантический turn detection (Smart Turn v3), оркестратор и API-эндпоинты в ЕС, TTS сразу в μ-law 8 кГц, короткие ответы.
- Зачем тогда своя сборка: клон голоса, выбор компонентов под русский и португальский, прозрачность по задержке по ходам, цена €0,035–0,08 против €0,07–0,13 у платформ оценка. Экономия на десятках звонков в месяц сама по себе 4–8 дней разработки не окупает; довод — качество голоса, языки и контроль над звонком.
- OpenAI Realtime — эталон, не основа. Клона нет на практике (только через sales), обработка в ЕС не подтверждена, нужен платный API-ключ, качество ru/pt не подтверждено. Годится как второй прогон тех же реплик для сравнения с каскадом.
- Claude из подписки (Max) нельзя использовать для реплик в звонке: подписка не работает в сторонних приложениях, нужен ключ Console API. Запуск
claude -pна каждую реплику не годится (старт процесса — секунды). Разделение: реплики — малая модель по API-ключу; summary после звонка — Claude Code, там задержка не важна.
Рекомендация
Стек 3: своя сборка на Pipecat в ЕС. STT — Deepgram Flux Multilingual (ru, pt, en, свой turn detection и ранний конец реплики); LLM — быстрая малая модель по API-ключу (Claude Haiku 4.5 или GPT mini; мерить свой TTFT из ЕС); TTS — Cartesia Sonic 3 или ElevenLabs Flash с клоном голоса Роберта; телефония — Twilio (или Telnyx, если пройдёт верификация номера в Португалии). OpenAI Realtime поднять рядом как эталон и прогнать те же реплики.
Условия, без которых запускать нельзя
- Раскрытие. Звонок начинается фразой вроде «Здравствуйте, это голосовой ассистент Роберта. Разговор записывается для заметок». Основание: ст. 50 EU AI Act (действует с 2 августа 2026) и португальский Lei 41/2004 ст. 4 (запись только с уведомлением и согласием). Правовые выводы — по вторичным источникам; перед продакшеном прочесть первоисточники.
- Клонировать только свой голос. Голоса других людей (родственники, врачи) нельзя.
- API-ключ для LLM. Подписка Claude Max для реплик не подходит.
- Платное и новое (аренда GPU, новые сервера) не включать без отдельного решения.
Что проверить первым делом (дёшево, до сборки)
- Замерить свой каскад по методике openbenchmarks (записи двух каналов, p50 и p95 от паузы собеседника до первого звука) на одном и том же сценарии для стека 3, OpenAI Realtime и одной платформы (Bland или Telnyx AI).
- Послушать клон голоса на русском и португальском: звучание клона на ru и pt отличается от английского.
- Выяснить у оператора: ставка на Португалию и верификация собственного номера как caller ID (у Twilio только регион данных US1; у Telnyx номер PT требует регистрации компании).
- Сверить цены с официальными прайсами: часть цифр — из вторичных источников.
Что не подтверждено
- Независимые телефонные замеры OpenAI Realtime, Gemini Live, Pipecat и LiveKit; вклад телефонной сети (PSTN) в миллисекундах.
- Качество русского и португальского у gpt-realtime, GPT-Live, Gemini Live и у Bland; задержка реакции на перебивание нигде не измерена.
- Ставка Telnyx на Португалию, политика по России, цена местного номера PT у Twilio.
- Работает ли ЕС-резидентность OpenAI для Realtime; доступность исходящего SIP без отдельных договорённостей.
- Правовая квалификация самодельной системы по AI Act и Lei 41/2004.