Sıralamalar
AI altyapı sağlayıcıları 2026: model sunumu için GPU, Kubernetes ve depolama
Bu sıralama barındırılan model API’leri değil, kendi modellerinizi çalıştırmak için altyapı hakkındadır. Yönetilen AI platformları sağlayıcı profillerinde listelenir ancak burada puanlanmaz.
Güncellendi:
Kısa yanıt
6 uygun sağlayıcı arasında ilk sırada: Amazon Web Services, DigitalOcean, PortvMind Cloud. Sıralama: 1. AWS · 1. DigitalOcean · 1. PortvMind · 4. Google Cloud · 5. Vultr · 6. Azure. Kendi altyapısında model sunumu; veri merkezi GPU’ları, bir orkestrasyon katmanı, ağırlıklar ve veri setleri için depolama ve çıkarım uç noktaları için yük dengeleme gerektirir. Bu endeks izlenen sağlayıcıları bunlardan kaçını belgelediklerine göre sıralar; GPU ölçütleri iki kat ağırlıklıdır.
Sıralama
| # | Sağlayıcı | Belgelenmiş kapsam | Doğrulanmamış | Notlar |
|---|---|---|---|---|
| 1 | Amazon Web Services | 100% | 0 | |
| 1 | DigitalOcean | 100% | 0 | |
| 1 | PortvMind Cloud | 100% | 0 | |
| 4 | Google Cloud | 80,8% | 0 | |
| 5 | Vultr | 76,9% | 1 | |
| 6 | Microsoft Azure | 69,2% | 1 |
Uygun olmayan sağlayıcılar
- Hetzner — Gerekli yetenek eksik: NVIDIA H100 sunucular
Ölçüt bazında değerler
| Ölçüt | AWS | DigitalOcean | PortvMind | Google Cloud | Vultr | Azure | Hetzner |
|---|---|---|---|---|---|---|---|
| Compute ve GPU | |||||||
| Saniye veya dakika bazlı faturalandırma Standart compute kaynaklarının başlayan saat yerine saniye veya dakika bazında faturalandırılması. | Var Linux isteğe bağlı sunucular için saniye bazlı (60 sn minimum). | Var Saniye bazlı (60 sn / 0,01 $ minimum). | Var Dakika bazlı faturalandırma. | Var Bir dakikalık minimumla saniye bazlı. | Yok Saatlik faturalandırma. | Doğrulanmadı | Yok Aylık tavanla başlayan saat bazında. |
| NVIDIA H100 sunucular NVIDIA H100 GPU'lu isteğe bağlı veya rezerve edilebilir sunucular. | Var | Var | Var 1–4 GPU profilleri için yayımlanmış fiyat. | Var | Var | Var | Yok |
| NVIDIA H200 sunucular NVIDIA H200 GPU'lu isteğe bağlı veya rezerve edilebilir sunucular. | Var | Var | Var Listelenen seçenek; fiyat kamuya açık tabloda yok. | Var | Doğrulanmadı | Var | Yok |
| NVIDIA L40S sunucular NVIDIA L40S GPU'lu isteğe bağlı veya rezerve edilebilir sunucular. | Var | Var | Var Listelenen seçenek; fiyat kamuya açık tabloda yok. | Yok | Var | Yok Yalnızca Azure Local. | Yok |
| Kubernetes | |||||||
| Yönetilen Kubernetes Sağlayıcı tarafından işletilen Kubernetes kontrol düzlemi. | Var | Var | Var | Var | Var | Var | Yok Yalnızca kendi yönettiğiniz kümeler için CCM ve CSI sürücüsü. |
| Kubernetes node otomatik ölçekleme Worker node sayısının tanımlı sınırlar içinde otomatik ölçeklenmesi. | Var | Var | Var | Var | Var | Var | Kısmi Kendi yönettiğiniz kümelerde upstream cluster autoscaler ile. |
| Depolama ve veri | |||||||
| Blok depolama volume'ları Kalıcı, bağlanabilir ve genişletilebilir blok volume'lar. | Var | Var | Var | Var | Var | Var | Var |
| S3 uyumlu nesne depolama S3 API'si veya S3 uyumlu API ile erişilen nesne depolama. | Var Yerel S3. | Var Spaces. | Var | Kısmi HMAC anahtarlarıyla XML API birlikte çalışabilirliği; tam S3 API eşdeğerliği değil. | Var | Yok Blob Storage kendi API'sini kullanır. | Var AB lokasyonları; kısmi S3 API kapsamı. |
| Ağ | |||||||
| L7 yük dengeleyici (HTTP/HTTPS) HTTP sağlık kontrolüyle uygulama katmanında yük dengeleme. | Var | Var | Var AppBalancer (HTTP/HTTPS). | Var | Var | Var | Var |
| Özel ağlar / VPC Özel CIDR aralığına sahip izole kiracı ağları. | Var | Var | Var Özel CIDR'lı izole ağlar. | Var | Var | Var | Var |
Metodoloji
Her ölçüt “var” için 1, “kısmi” için 0,5, diğer durumlarda 0 puan alır ve ağırlığıyla çarpılır. Eşitlikler aynı sırayı paylaşır ve alfabetik listelenir. Uygunluk için H100, H200 veya L40S’den en az biri gerekir.
- NVIDIA H100 sunucular ×2
- NVIDIA H200 sunucular ×2
- NVIDIA L40S sunucular ×2
- Yönetilen Kubernetes
- Kubernetes node otomatik ölçekleme
- S3 uyumlu nesne depolama
- Blok depolama volume'ları
- L7 yük dengeleyici (HTTP/HTTPS)
- Saniye veya dakika bazlı faturalandırma
- Özel ağlar / VPC
İlgili araştırmalar
GPU ve AI altyapısı
Çok kullanıcılı LLM çıkarımı: eşzamanlılık, bağlam ve KV önbellek bir GPU'yu nasıl sınırlar
Bir GPU kaç eşzamanlı kullanıcıya hizmet verebilir: bağlam uzunluğuna göre KV önbellek kapasitesi, gecikmenin yükle neden arttığı ve eşzamanlılığın doğru benchmarkı.
GPU ve AI altyapısı
LLM çıkarımı için en iyi GPU: H100, H200 ve L40S'yi model boyutuna göre eşleştirme
Model boyutu, hassasiyet, bağlam uzunluğu ve eşzamanlılığa göre LLM çıkarımı için hangi GPU kullanılmalı — Qwen, Llama, DeepSeek ve MiniMax için boyutlandırma rehberi.