600 запросов в минуту на ключ: пять ошибок поллинга getStatus, из-за которых бот упирается в лимит
Бот держит в работе пару десятков заказов. Вчера всё работало, а сегодня часть вызовов getStatus получает отказ. Обычно причина в цикле опроса. Лимит запросов к API виртуальных номеров у нас считается на ключ: 600 в минуту. В счёт идёт любой запрос с этим ключом, от getNumber до setStatus, и неаккуратный поллинг getStatus съедает бюджет всего бота.
Пять ошибок, которые съедают лимит
Опрос без паузы. Цикл вокруг getStatus без задержки шлёт новый запрос сразу после ответа на предыдущий, и один такой заказ способен выбрать минутный бюджет ключа. Код от частых вопросов быстрее не придёт: он появится, когда сервис отправит SMS на номер. Ставьте паузу между опросами одного заказа и отсчитывайте её от момента, когда пришёл ответ.
Опрос завершённых заказов. Бот получил код, не закрыл заказ, и поток опроса продолжает спрашивать статус. Или заказ истёк, деньги уже вернулись на баланс, а номер висит в очереди до перезапуска. Код подошёл: setStatus со статусом 6 (завершить), и заказ уходит из очереди. Нужен ещё один код на тот же номер: статус 3, опрос продолжается. После статуса 8 (отменить) или как только getStatus сообщил, что заказ закрыт, убирайте его из очереди сразу.
Ретраи без backoff. Запрос упал по сетевому таймауту или получил отказ по лимиту, и бот тут же его повторяет. Когда так делают все воркеры, каждый отказ порождает новый запрос, и ключ не выходит из-за лимита, пока нагрузка не спадёт сама. Повторяйте с растущей паузой, например 1, 2, 4, 8 секунд, с верхней границей в полминуты. Добавьте случайный сдвиг, чтобы воркеры не просыпались в одну секунду.
Один ключ на все среды. Боевой бот, тестовый стенд и скрипт «на минутку» делят одни 600 запросов в минуту. Прогон тестов выбирает весь минутный бюджет, и боевые заказы перестают получать статусы. В кабинете можно выпустить несколько именованных ключей, например prod-bot, staging и local. Строку ключа мы показываем один раз и дальше храним только отпечаток, так что сразу положите её в хранилище секретов. Утёкший тестовый ключ тогда можно отозвать, не останавливая боевого бота.
Таймаут без учёта срока активации. Срок задаёт каталог для каждого сервиса, сейчас это час. Одна константа на все сервисы ошибается в обе стороны. Бот сдался раньше срока и отменил заказ: код мог прийти в оставшиеся минуты. Бот ждёт дольше срока: опрашивает заказ, который уже закрылся, а деньги за него вернулись на баланс автоматически. Храните таймаут по каждому сервису. И учтите, что отменить заказ можно не раньше чем через минуту после покупки: бот, который отменяет сразу, получит отказ и начнёт его ретраить.
Как уложить несколько воркеров в 600 запросов в минуту
Бюджет удобно считать от интервала опроса:
заказов в работе × (60 / интервал в секундах) + остальные вызовы ≤ 600
Заказ, который опрашивается раз в 5 секунд, стоит 12 запросов в минуту. Если ключ занят только getStatus, это 50 заказов одновременно. Но getNumber, setStatus, getBalance и ретраи тоже идут в счёт, поэтому оставьте под них запас, например пятую часть. На getStatus останется 480 запросов: 40 заказов при интервале 5 секунд или 80 при интервале 10 секунд. Четыре воркера на одном ключе получат по 10 или по 20 заказов.
Теперь верхняя граница. Базовый потолок одновременных заказов равен 100, действующий зависит от репутации аккаунта. Сто заказов с опросом раз в 5 секунд дают 1200 вызовов getStatus в минуту, вдвое больше лимита ключа. При интервале 10 секунд выходит ровно 600, и на остальные вызовы места не остаётся.
Лимит считается на ключ, а не на воркер, поэтому воркерам нужен общий ограничитель. Проще всего вынести опрос в один цикл: раз в интервал он проходит по активным заказам и раздаёт результаты воркерам. Если процессы живут на разных машинах, держите счётчик запросов в общем хранилище. Баланс и цены не нужно запрашивать перед каждым getNumber: перечитывайте getBalance и getPrices по расписанию.
Найдите ключи забытых скриптов
Откройте в кабинете список API-ключей и посмотрите на дату последнего использования. Ключ, которым давно никто не пользовался, обычно остался от прототипа или старого стенда. Отзовите его, и строка из забытого конфига перестанет работать. Если дата свежая, а по имени непонятно, кто работает на ключе, найдите этот скрипт. Лимит у него свой, но баланс общий, и он может покупать номера за ваши деньги. Лишнее отзывайте, а каждой живой среде оставьте отдельный ключ с понятным именем.