stt: выкинуть словарь терминов, шим 0.3.0 - #3
Merged
Conversation
Soniox тарифицирует context как входные текстовые токены в каждом запросе, 3.50 USD за 1M против 1.50 за аудио. На счёте за сентябрь словарь дал 72% суммы — больше, чем аудио и расшифровка вместе. По истории диктовок разницы в распознавании нет: те же термины встречаются 5.8 раза на 10000 знаков без словаря против 5.9 со словарём. Образ 0.3.0 context не отправляет вовсе и берёт стоимость из GET /v1/usage/summary, поэтому stt_price_per_hour больше не нужен.
Uh oh!
There was an error while loading. Please reload this page.
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for freeto join this conversation on GitHub.
Already have an account?
Sign in to comment
1 participant
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Что
stt_context_domainиstt_context_termsубраны из роли и из шаблона compose.stt_price_per_hourубран: образ 0.3.0 берёт стоимость изGET /v1/usage/summarySoniox, а не из средней цены за час.stt_imageподнят доghcr.io/cosmdandy/soniox-openai-shim:0.3.0.Почему
Soniox тарифицирует
contextкак входные текстовые токены в каждом запросе, по $3.50 за 1M против $1.50 за аудио. Словарь на 1116 знаков стоил 524 токена на запрос — 72% сентябрьского счёта ($0.84 из $1.17), больше, чем аудио и расшифровка вместе.Разницы в качестве не видно: по истории диктовок владельца те же технические термины встречаются 5.8 раза на 10000 знаков там, где словаря не было (7124 диктовки), и 5.9 — через шим со словарём (382 диктовки).
Ожидаемая цена после выкатки: ~$0.11 за час аудио вместо $0.40.
Проверено
ansible-lint roles/stt— Passed, 0 failures, профиль production.ansible-playbook playbooks/site.yml --syntax-check— без ошибок.v0.3.0, e2e зелёный.