💡 3 Maddede Bu Yazının Özeti
Ollama v0.40.0-rc0, desteklenen modelleri Apple Silicon’da varsayılan olarak MLX üzerinde çalıştırıyor. Değişikliğin kapsamını, API etkisini ve güvenli test adımlarını inceliyoruz.
Ollama, Apple Silicon tabanlı Mac’lerde yerel yapay zekâ modellerini çalıştırma biçiminde önemli bir değişikliğe hazırlanıyor. 25 Eylül 2026’da yayımlanan v0.40.0-rc0 ön sürümüyle birlikte, MLX çalışma zamanı tarafından desteklenen model mimarileri Apple Silicon’da varsayılan olarak MLX üzerinde çalıştırılıyor. Bu, Ollama’nın komut satırı ve API yüzeyini değiştirmekten çok, modelin arka planda hangi çalışma zamanı tarafından yürütüldüğünü değiştiren bir altyapı kararı.
Buradaki “rc0” eki önemli: bu sürüm henüz kararlı kanalın yerini almış değil. GitHub’ın son kararlı sürüm kaydında v0.34.4 görünüyor. Dolayısıyla v0.40.0-rc0, yeni MLX yolunu denemek ve geri bildirim toplamak isteyen kullanıcılarla geliştiricilere yönelik bir sürüm adayı olarak değerlendirilmelidir.
v0.40.0-rc0 ile ne değişti?
Ollama’nın sürüm notu değişikliği tek cümlede özetliyor: Apple Silicon cihazlarda, MLX çalışma zamanının desteklediği model mimarileri otomatik olarak MLX üzerinde çalışacak. Kullanıcının ayrı bir MLX motoru seçmesi veya farklı bir çalıştırma komutu öğrenmesi gerekmiyor. Ollama, örnek olarak Qwen3.8 modelini gösteriyor:
ollama pull qwen3.8
ollama run qwen3.8Komutlar önceki kullanım biçimiyle aynı. Değişen bölüm, modelin çalıştırılmasından sorumlu alt katman. Ancak bu varsayılan davranış bütün modelleri kapsamıyor. Yalnız MLX çalışma zamanının desteklediği mimariler otomatik olarak bu yolu kullanıyor. Ollama ayrıca ön sürüm sürecinde ek modellerin test edilip etkinleştirileceğini belirtiyor.
MLX nedir ve neden Apple Silicon için önemli?
MLX, Apple’ın makine öğrenmesi araştırma ekibi tarafından Apple Silicon için geliştirilen açık kaynaklı bir dizi ve makine öğrenmesi çerçevesi. Çerçeve, Apple Silicon’ın birleşik bellek yapısından yararlanacak şekilde tasarlanıyor. CPU ve GPU’nun aynı bellek havuzu üzerinde çalışabilmesi, model verilerinin farklı bellek alanları arasında sürekli taşınması ihtiyacını azaltabilen bir mimari sunuyor.
Bu teknik temel, MLX’in Apple donanımında yerel model çalıştırma açısından doğal bir seçenek olmasını sağlıyor. Yine de v0.40.0-rc0 sürüm notu belirli bir hızlanma, bellek kazancı veya enerji tüketimi sonucu yayımlamıyor. Bu nedenle “MLX’e geçti, kesin olarak daha hızlıdır” sonucunu şimdiden çıkarmak doğru olmaz. Performans; kullanılan model, bağlam uzunluğu, nicemleme, cihazın bellek kapasitesi ve iş yüküne göre ölçülmelidir.
API kullanan uygulamalar açısından ne anlama geliyor?
Ollama’nın resmî API belgelerine göre yerel API varsayılan olarak http://localhost:11434/api adresinde çalışıyor. OpenAI uyumluluk katmanı için yerel temel adres http://localhost:11434/v1; Anthropic uyumluluk katmanı için ise http://localhost:11434 olarak belgeleniyor. Bulut uç noktaları ayrı adresler ve kimlik doğrulama gereksinimleri kullanıyor.
v0.40.0-rc0 duyurusu bu üst düzey API adreslerinin değiştiğini söylemiyor. Bu nedenle Ollama’ya API üzerinden bağlanan bir uygulamanın yapılandırmasının sırf MLX varsayılan oldu diye değiştirilmesi beklenmiyor. Fakat çalışma zamanı değişikliği; çıktı tutarlılığı, araç çağrıları, yapılandırılmış çıktı, uzun bağlam davranışı ve gecikme gibi uygulama açısından kritik ayrıntıları etkileyebilir. API sözleşmesi aynı kalsa bile gerçek iş yüklerinin yeniden test edilmesi gerekir.
OpenAI ve Anthropic uyumluluğu aynı şey değil
Ollama, OpenAI API’sinin ve Anthropic Messages API’sinin belirli bölümleriyle uyumluluk sağlıyor. Bu katmanlar, mevcut istemci kütüphanelerini yerel modellere bağlamayı kolaylaştırıyor; ancak ilgili sağlayıcıların bütün özelliklerinin birebir desteklendiği anlamına gelmiyor. Örneğin Ollama’nın Anthropic uyumluluk belgesi; mesajlar, akış, sistem istemleri, çok turlu konuşma, görsel giriş, araçlar ve düşünme desteğini listelerken bazı parametrelerle toplu işlem, alıntılar ve PDF gibi özellikleri desteklenmeyenler arasında gösteriyor.
Bu nedenle bir uygulamayı yeni sürüm adayıyla denerken yalnız “istek HTTP 200 döndü” kontrolü yeterli değildir. Kullanılan istemci özelliğinin Ollama’nın uyumluluk kapsamına girip girmediği ve modelin beklenen şemaya gerçekten uyup uymadığı da kontrol edilmelidir.
Sürüm adayını test etmek için kontrol listesi
- Model kapsamını doğrulayın: Denediğiniz mimarinin MLX yolu için etkinleştirildiğini varsaymayın; çalışma günlüklarını ve sürüm notlarını kontrol edin.
- Aynı istem setini karşılaştırın: Kararlı sürüm ile rc0 üzerinde sabit istemler, sabit parametreler ve aynı model dosyasıyla sonuç alın.
- İlk belirteç ve toplam süreyi ayrı ölçün: Etkileşimli kullanımda ilk yanıt gecikmesi, toplu üretimde ise toplam üretim süresi daha belirleyici olabilir.
- Bellek kullanımını izleyin: Uzun bağlam ve eşzamanlı isteklerde macOS bellek basıncını, takas kullanımını ve uygulama kararlılığını kaydedin.
- Yapılandırılmış çıktıyı sınayın: JSON şeması, araç çağrıları ve durdurma koşulları için yalnız geçerli örnekleri değil, hata ve sınır durumlarını da test edin.
- Geri dönüş yolunu koruyun: Üretim iş yüklerinde kararlı sürüme dönüş seçeneğini kaldırmadan önce rc0 sonuçlarını belgeleyin.
Kimler şimdi denemeli?
Apple Silicon üzerinde yerel model altyapısı geliştiren, performans ölçümü yapabilen ve olası gerilemeleri raporlayabilecek kullanıcılar için bu ön sürüm anlamlı. Özellikle Qwen3.8 veya daha sonra MLX desteği etkinleştirilecek modellerle çalışan ekipler, aynı iş yükünün önceki ve yeni çalışma zamanı davranışını karşılaştırabilir.
Kararlılığın öncelikli olduğu üretim sistemlerinde ise v0.40.0-rc0’a doğrudan geçmek yerine kararlı kanalda kalmak daha temkinli bir yaklaşım. Sürüm notunda da belirtildiği gibi model kapsamı ön sürüm boyunca genişletilecek; dolayısıyla bugün alınan sonuçlar sonraki sürüm adaylarında değişebilir.
Sonuç
Ollama v0.40.0-rc0, Apple Silicon’da desteklenen modeller için MLX’i varsayılan çalışma zamanı haline getirerek önemli bir altyapı yönelimi ortaya koyuyor. Kullanım komutlarının ve temel API adreslerinin korunması geçişi sadeleştiriyor; ancak altyapı değişikliği performans ve çıktı davranışının aynı kalacağını garanti etmiyor. En doğru yaklaşım, ön sürümü kontrollü bir ortamda ölçmek, desteklenmeyen özellikleri ayırmak ve kararlı sürüme dönüş seçeneğini korumak.
