OpenAI, güçlü kodlamaya, bilgisayar kullanımına ve profesyonel iş akışı performansına ihtiyaç duyan ekipler için, her görev için varsayılan olarak GPT-6 Astra'yı seçmeden yeni bir üst düzey yönlendirme seçeneği ekleyerek GPT-6.1 Sol'u API'ye çıkardı.

Sürüm, kataloğa başka bir model adı eklediği için daha az önemli, pratik fiyat merdivenini değiştirdiği için ise daha önemli. OpenAI, Yanıtlar API ve Sohbet Tamamlamaları için GPT-6.1 Sol'u listeler; araç çağırma, Yanıtlar API ve beta sürümdeki Çoklu aracı desteği aracılığıyla kullanılabilir. Yayınlanan standart fiyatlandırma, 1 milyon giriş jetonu başına 2 ABD Doları, önbelleğe alınmış 1 milyon giriş jetonu başına 0,10 ABD Doları, 1 milyon önbellek yazma jetonu başına 2,50 ABD Doları ve 272.000 giriş jetonuna kadar istemler için 1 milyon çıkış jetonu başına 10 ABD Dolarıdır.

Bu kombinasyon, mühendislik ekiplerine daha net bir orta yol sağlar: Daha sıkı işler için sınır sınıfı bir model kullanın, ancak tekrarlanan yoğun istemleri ve uzun süren iş akışlarını önbelleğe duyarlı kontroller aracılığıyla yönlendirerek maliyeti yönetin.

Ne değişti

GPT-6.1 Sol, 29 Eylül'de adlandırılmış bir API modeli olarak geldi. OpenAI'nin değişiklik günlüğü, onu hem Yanıtlar API hem de Sohbet Tamamlamalar için kullanılabilir olarak listeliyor; bu, mevcut API kullanıcılarına onu mevcut üretim trafiğine göre test etmeleri için nispeten doğrudan bir yol sağlıyor. Model sayfası aynı zamanda onu modern OpenAI araç yığınına da yerleştirir: araç çağırma, Yanıtlar aracılığıyla desteklenir ve Çoklu aracı, beta sürümde mevcuttur.

GitHub ayrıca GPT-6.1 Sol'un GitHub Copilot'ta aynı tarihte satışa sunulacağı duyuruldu; fiyatlandırma, Copilot'un kullanıma dayalı faturalandırma modeli aracılığıyla gerçekleştirildi. Bu, birçok geliştiricinin modelle doğrudan bir uygulama arka ucuna bağlantı kurmak yerine ilk olarak kodlama iş akışlarında karşılaşacağı anlamına gelir.

Önemli operasyonel detay fiyatlandırmadır. Milyon giriş jetonu başına 2 ABD Doları ve çıkış jetonu başına 10 ABD Doları ile GPT-6.1 Sol, en yüksek maliyetli sınır profilinin altında yer alır, ancak bu bir emtia modeli değildir. Çıktı, ayrıntılı kodlama aracıları, belge taslağı hazırlama ve analiz iş akışları için ana maliyet etkeni olmaya devam ediyor. Daha belirgin olan araç, önbelleğe alınmış giriştir: OpenAI önbelleğe alınmış okumaları milyon jeton başına 0,10 ABD doları olarak listelerken, önbellek yazma işlemlerinin maliyeti milyon jeton başına 2,50 ABD dolarıdır.

Önbelleğe alınan giriş neden artık daha önemli

İstemi önbelleğe alma genellikle güzel bir optimizasyon olarak değerlendirilir. GPT-6.1 Sol ile bu bir bütçe tasarımı sorusu haline geliyor. Birçok kurumsal uygulama aynı büyük sistem talimatlarını, politika bloklarını, şemaları, alma şablonlarını, örnekleri ve veri havuzu içeriğini tekrar tekrar gönderir. Bu tekrarlanan girdiler önbellek isabeti için uygunsa, marjinal girdi maliyeti keskin bir şekilde düşebilir. Bunlar sürekli olarak yeniden yazılır, yeniden sıralanır veya temsilciler arasında parçalanırsa tasarruflar hiçbir zaman ortaya çıkmayabilir.

Bu, uygulama mimarisi üzerinde baskı oluşturur. Kodlama asistanları, bilgi çalışması yardımcı pilotları, sözleşme analizi, destek otomasyonu veya analist temsilcileri çalıştıran ekiplerin yalnızca toplam token hacmini değil, önbellek isabet oranlarını da ölçmesi gerekecektir. Basit bir jeton karşılaştırmasında pahalı görünen bir model, kararlı bağlamı etkili bir şekilde yeniden kullanması durumunda gerçek bir iş yükünde daha ucuz olabilir. Bunun tersi de doğrudur: İstemi disiplini zayıf olan bir sistem, önbelleğe alınmış fiyatlandırmanın belirgin avantajını silebilir.

Paylaşılan kurumsal LLM API kullanan işletmeler için model sürümü, merkezi yönlendirme ve maliyet raporlama durumunu güçlendirir. Bireysel ekipler yalnızca kendi model çağrılarını görebilir. Platform ekiplerinin trafiğin önbellek kullanıp kullanmadığını, hangi iş yüklerinin pahalı çıktılar ürettiğini ve aracı çalıştırmalarının tek bir kullanıcı isteğinin ardından çağrıları çoğaltıp çoğaltmadığını görmesi gerekir.

Kimler etkilenir

Karmaşık kodlama araçları geliştiren geliştiriciler en belirgin kitledir. GPT-6.1 Sol'un konumlandırması, Copilot kullanılabilirliği ve Responses API aracı desteği, onu kod oluşturma, yeniden düzenleme, hata ayıklama, veri havuzu arama ve iş akışı otomasyonu için uygun hale getirir. Yakın zamanda GPT-6 Sol veya GPT-6 Astra'yı değerlendiren ekipler artık gecikme, çıktı kalitesi ve maliyet açısından karşılaştırma yapmak için aynı aileden başka bir seçeneğe sahip.

Profesyonel iş akışı aracılarını çalıştıran ürün ekipleri de etkilendi. Araç çağırma ve beta Çoklu aracı desteği, bir kullanıcı görevinin planlama, alma, yürütme, inceleme ve takip adımlarına yayılabileceği sistemlere işaret eder. Bu faydalıdır ancak muhasebeyi karmaşıklaştırır. Müşteriye yönelik tek bir işlem, çeşitli temsilci rolleri, araçlar ve yeniden denemelerde belirteçleri tüketebilir.

Finans ve platform operasyon ekiplerinin de dikkat etmesi gerekiyor. Model seçimi artık basit bir “en iyi modele karşı ucuz model” kararı değildir. Daha iyi soru, her iş yüküne hangi modelin, bağlam uzunluğunun, önbellek düzeninin ve çıktı politikasının uygulanması gerektiğidir. GPT-6.1 Sol bu soruyu daha da keskinleştiriyor çünkü yayınlanan fiyatları yeni girdi, önbelleğe alınmış girdi, önbellek yazmaları ve oluşturulan çıktı arasında gözle görülür dengeler yaratıyor.

API ekip için pratik sonuçlar

Uygulamaya yönelik ilk adım, gerçek trafikle karşılaştırma yapmaktır. Sentetik istemler, anlamlı önbelleğe alınmış girdi fiyatlandırmasına sahip bir modelin ekonomisini nadiren gösterir. Ekipler, tam sistem istemleri, alma yükleri, araç şemaları ve beklenen çıktı uzunlukları dahil olmak üzere temsili istekleri yeniden oynatmalıdır. Yalnızca milyon jeton başına maliyeti değil, tamamlanan görev başına toplam maliyeti de karşılaştırmalılar.

İkinci adım politikadır. GPT-6.1 Sol genel olarak etkinleştirilirse ekiplerin projeye, ortama, kullanıcı grubuna ve kullanım durumuna göre sınırlamalara ihtiyacı vardır. Kodlama aracıları ve çok aracılı iş akışlarına bütçe ayırmak özellikle zor olabilir çünkü geliştiriciler her alt model çağrısını göremeyebilir. Temsilci başına ilişkilendirme, harcama sınırları ve onay eşikleri sonradan akla gelen bir düşünce değil, üretim hazırlığının bir parçası haline gelir.

Üçüncü adım, geçiş hijyenidir. Model hem Yanıt API hem de Sohbet Tamamlama yoluyla mevcut olduğundan, bazı ekipler onu büyük bir yeniden yazma işlemine gerek kalmadan test edebilir. Ancak araç çağırma davranışı, önbellek davranışı ve çok aracılı beta özellikleri ayrı ayrı doğrulanmalıdır. Sıradan sohbet tamamlamalarıyla çalışan bir uygulama, araç çağrılarını veya koordineli aracıları kullanmaya başladığında farklı gözlemlenebilirliğe ihtiyaç duyabilir.

Belirsiz kalan şey

OpenAI kullanılabilirliği, desteklenen API yüzeyleri, fiyatlandırmayı, araç çağırmayı ve beta Çoklu aracı desteğini onayladı. Daha az kesin olan şey ise GPT-6.1 Sol'un, GPT-6 Sol, GPT-6 Astra, Anthropic'nin Sonnet ve Opus katmanları, Google'nin Gemini hattı ve daha düşük maliyetli açık veya ağ geçidi yönlendirmeli modellerle karşılaştırıldığında belirli kurumsal iş yüklerinde nasıl performans gösterdiğidir.

Çoklu temsilci desteği de açıkça beta sürüm olduğundan ekipler davranışların, sınırların ve operasyonel rehberliğin gelişmesini beklemelidir. Bu, sürümü kullanılamaz hale getirmez ancak kontrollü kullanıma sunmanın önemini savunur: Önce kontrollü projeler, ilk günden itibaren maliyet ölçümleri ve gecikme, güvenilirlik veya harcamanın beklentilerden farklı olması durumunda geri dönüş rotalarının netleştirilmesi.

B2B ekipleri için bu sürümün, satın alma modelinin iş yükü yönlendirmeye dönüştüğünün bir başka işareti olarak okunması en iyisidir. GPT-6.1 Sol yalnızca yeni bir uç nokta değildir. Bu, istikrarlı bağlamı, görünür jeton akışlarını ve disiplinli yönetimi ödüllendiren bir fiyatlandırma ve mimari kararıdır.