LAUNCH · SIGNAL STARTUP
Show HN: Sturnus, a latency-based LLM load balancer
I built sturnus because I wanted the latency-based load balancing of an AI gateway but without a big framework selling an enterprise plan.It’s a single static binary that does one…
出典・元記事Hacker News — Show HNhttps://github.com/sturnus-dev/sturnus 配信元で続きを読む◆ SOURCE POLICY
公開RSS・Atomから取得した短い概要のみを表示しています。詳細は必ず配信元の記事で確認してください。
公開RSS・Atomから取得した短い概要のみを表示しています。詳細は必ず配信元の記事で確認してください。
SHARE STARTUP