ÖZET — TL;DR
- •Switchyard = OpenAI + Anthropic uyumlu yerel proxy (
localhost:4000). Kodunu değiştirmiyorsun, sadece base URL'i değiştiriyorsun. - •Mantık: basit dosya okuma / refactor → ucuz model (GLM-4.6, Kimi K2), zor planlama / mimari → Opus 4 / GPT-5.
- •Faturalı (pay-as-you-go) kullanımda %20–30 tasarruf. Ayda 20$'ı geçmiyorsan uğraşma, günde yüzlerce agent call'ın varsa kesinlikle mantıklı.
Switchyard nedir, neyi çözer?
Claude Code, OpenCode, Codex gibi agent tabanlı araçlar tek bir görevi yaparken bile onlarca kez model çağırıyor: dosyayı oku, grep yap, küçük bir fonksiyonu yeniden yaz, plan çıkar, kodu üret. Hepsini en güçlü (ve en pahalı) modele yollarsan fatura şişiyor.
Switchyard, NVIDIA NeMo ekibinin açık kaynak proxy'si. localhost:4000'da ayağa kalkıyor, gelen istekleri routes.toml'daki kurallara göre farklı modellere yönlendiriyor. İstemci tarafı için Switchyard sanki OpenAI veya Anthropic'in kendisi — tek fark base URL.
BASİT İŞ
Dosya okuma, grep, küçük refactor
→ GLM-4.6 / Kimi K2 / Haiku
ORTA İŞ
Test yazma, dokümantasyon
→ Sonnet / GPT-4o mini
ZOR İŞ
Planlama, mimari, zor debug
→ Opus 4 / GPT-5
Kurulum — 5 dakikada hazır
1) Switchyard'ı kur
Gereksinim: Rust toolchain. Repo'yu klonlayıp binary'i derliyorsun (veya release'ten indiriyorsun):
git clone https://github.com/NVIDIA-NeMo/Switchyard
cd Switchyard
cargo build --release
# binary: ./target/release/switchyard2) API anahtarlarını ve modelleri tanımla
Proje köküne routes.toml koyuyorsun. Örnek — id'ler senin kullandığın provider ve model isimlerine göre değişir:
# routes.toml — örnek
[server]
listen = "127.0.0.1:4000"
# Provider'lar (env'den de okuyabilirsin)
[providers.anthropic]
api_key = { env = "ANTHROPIC_API_KEY" }
[providers.openai]
api_key = { env = "OPENAI_API_KEY" }
# Route: gelen "model: switchyard" isteklerini kurallara göre dağıt
[[routes]]
id = "switchyard"
# Basit işler -> ucuz model
# Zor işler -> premium model
# Detaylı kural seti için repo'daki examples/routes.toml'a bak
strategy = "router" # Switchyard'ın LLM router'ı
[[routes.models]]
id = "glm-4.6"
provider = "openai"
[[routes.models]]
id = "kimi-k2"
provider = "openai"
[[routes.models]]
id = "claude-opus-4"
provider = "anthropic"Not: Gerçek yönlendirme mantığı Switchyard'ın içindeki router LLM'inin sınıflandırmasına dayanır. İstersen kural tabanlı (regex / tool name) routing de yazabiliyorsun — detay için repo docs'a bak.
3) Proxy'i çalıştır
./target/release/switchyard --config routes.toml
# → Listening on http://localhost:4000
# OpenAI endpoint: http://localhost:4000/v1
# Anthropic endpoint: http://localhost:4000İstemciyi bağla — kod değişmez, sadece URL
En güzel kısmı bu: hiçbir tool'un kodunu fork'lamıyorsun. Sadece base URL'i localhost'a çeviriyorsun.
Claude Code
export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_MODEL="switchyard"
# sonra normal kullan:
claudeMuse / OpenAI uyumlu her şey
export OPENAI_BASE_URL="http://localhost:4000/v1"
# model olarak routes.toml'daki id'yi ver:
# örn. codex --model switchyard veya env ile
export OPENAI_MODEL="switchyard"OpenCode
// opencode.json
{
"model": {
"provider": "openai",
"model": "switchyard",
"baseUrl": "http://localhost:4000/v1"
}
}
// veya env ile — OpenCode otomatik algılar:
export OPENAI_BASE_URL="http://localhost:4000/v1"
export ANTHROPIC_BASE_URL="http://localhost:4000"Ne zaman değer, ne zaman değmez?
Uğraşmaya değmez ❌
Ayda 20$'ın altında, haftada birkaç kez tekil prompt atıyorsan. Kurulum ve bakım maliyeti kazancını geçer. Direkt premium modeli kullan.
Kesinlikle mantıklı ✅
Günde yüzlerce agent call, CI'da otomatik kod üretimi, büyük refactor'ler. Faturalı kullanımda %20–30 tasarruf ay sonunda yüzlerce dolara denk gelir.
Sık yapılan hatalar
- Base URL'de trailing slash hatası: Anthropic için
http://localhost:4000(sonda/v1yok), OpenAI içinhttp://localhost:4000/v1. - Model id uyuşmazlığı: İstemcide verdiğin model ismi
routes.toml'dakiidile birebir aynı olmalı (switchyard). - Streaming / tool calling kırılması: Eski Switchyard sürümlerinde bazı tool call formatları düşebiliyor — güncel release kullan.
- API key'i routes.toml'a hardcode etmek: Env'den oku (
{ env = "..." }), dosyayı git'e commit'leme.
Sonuç
Switchyard sihir değil, basit bir ekonomi: pahalı zekayı sadece gerçekten gerektiğinde çağır. Kurulumu 5 dakika, geri dönüşü faturalı kullanımda anında. Özellikle Claude Code + OpenCode'u yoğun kullanan ekipler için en risksiz optimizasyonlardan biri — kod değişmiyor, sadece base URL.
Biz GaraMurekkep olarak bu tür AI maliyet optimizasyonlarını ve agent kurulumlarını ekipler için anahtar teslim yapıyoruz. Takıldığın yer olursa iletişime geç — routes.toml'unu birlikte kuralım.
AI maliyetlerini düşürmek mi istiyorsun?
Switchyard kurulumu, routes.toml optimizasyonu ve faturalı kullanım analizi için bize yaz.