Когда один AI-провайдер возвращает HTTP 402, наивно построенный шлюз убивает все поставленные в очередь вызовы — и ничего не логирует. Как мы исправили этот паттерн сбоя и что узнали о честных сообщениях об ошибках.
Режим отказа у агентов без присмотра — не падение, а тихий стопор при работающем счётчике. На этой неделе Forge выпустил три вещи для продовой надёжности: сторож, который замечает зависший запуск и восстанавливает его сам, встроенную наблюдаемость по каждому ходу и починку, благодаря которой одна сорвавшаяся загрузка больше не сжигает полмиллиона токенов.
Как Forge распределяет запросы к ИИ между Anthropic, OpenAI, Google, Azure и Bedrock — с балансировкой по состоянию провайдеров и автоматическим переключением при сбое.