gpt-oss, OpenAI tarafından geliştirilen ve Apache 2.0 lisansı ile açık ağırlıklı (open-weight) olarak yayımlanan bir yapay zeka dil modeli ailesidir. Bu modeller, hem ticari hem de kişisel projelerde serbestçe kullanılabilir, özelleştirilebilir ve farklı donanımlarda çalıştırılabilir şekilde tasarlanmıştır.

gpt-oss-120b & gpt-oss-20b Model Card hakkında daha ayrıntılı bilgi almak isteyenler için bu kaynağı paylaşıyorum.

Temel Özellikler

• Açık Ağırlıklar: Modelin ağırlıkları (weights) herkese açıktır, yani modeli kendi bilgisayarınızda veya sunucunuzda çalıştırabilirsiniz.
• Lisans: Apache 2.0 lisansı ile gelir; bu da ticari kullanım, özelleştirme ve dağıtımda özgürlük sağlar.
• Çeşitli Boyutlar: Şu anda iki ana versiyonu bulunuyor:
• gpt-oss-120b: Büyük boyutlu, veri merkezleri ve yüksek donanımlı bilgisayarlar için.
• gpt-oss-20b: Orta boyutlu, çoğu masaüstü ve dizüstü bilgisayarda çalışabilecek şekilde optimize edilmiş.
• Kapsamlı Özelleştirme: Model, düşük, orta ve yüksek düzeyde akıl yürütme (reasoning) için ayarlanabilir ve tam parametreli ince ayar (fine-tuning) yapılabilir.
• Güvenlik ve Test: OpenAI, bu modelleri güvenlik açısından kapsamlı şekilde test ettiğini ve geliştiricilerin güvenli kullanımına uygun hale getirdiğini belirtiyor.

Kullanım Alanları

• Kendi uygulamanızda doğal dil işleme, sohbet botu, metin üretimi gibi alanlarda kullanabilirsiniz.
• Hugging Face veya Ollama gibi platformlar üzerinden kolayca indirip çalıştırabilirsiniz.
• GitHub üzerinden kaynak koduna ve entegrasyon örneklerine ulaşabilirsiniz.

Topluluk ve Ekosistem

gpt-oss modelleri, Qwen, GLM 4.5 gibi diğer açık ağırlıklı modellerle rekabet edecek şekilde tasarlanmıştır. Toplulukta, performansının birçok benchmark’ta oldukça iyi olduğu ve farklı donanımlarda çalıştırılabildiği konuşuluyor.

Daha fazla bilgi için OpenAI’nin resmi sayfasını ziyaret edebilirsiniz: OpenAI Open Models

Mac Mini M1 için en uygun gpt-oss modeli gpt-oss-20b’dir.

Mac Mini M1, 16 GB RAM ve entegre GPU ile geldiği için büyük dil modellerini çalıştırmakta bazı sınırlamalara sahiptir. OpenAI’nin gpt-oss modelleri arasında, özellikle gpt-oss-20b modeli bu tür donanımlar için optimize edilmiştir:

• gpt-oss-20b: Orta boyutlu bir modeldir ve yaklaşık 14 GB disk alanı kaplar. 16 GB RAM veya VRAM’e sahip cihazlarda çalıştırılabilir. Ollama gibi platformlar üzerinden kolayca indirip Mac Mini M1’de kullanabilirsiniz.
• gpt-oss-120b: Çok daha büyük bir modeldir ve yüksek donanım gerektirir (genellikle veri merkezi veya üst düzey GPU’lar). Mac Mini M1 için uygun değildir.

Kullanıcı deneyimlerine göre, gpt-oss-20b modelini Mac Mini M1’de çalıştırmak mümkün, ancak uzun metinlerde veya yüksek hızda çıktı almak istediğinizde performans sınırlamaları olabilir. Daha küçük quantization (ör. 4-bit, 8-bit) seçenekleriyle performans artırılabilir ve RAM kullanımı azaltılabilir.

Ek olarak, kullanıcılar da gpt-oss-20b modelinin Mac Mini M1 gibi cihazlarda çalıştırılabildiğini ve 16 GB RAM’in yeterli olduğunu belirtiyor.

Kısacası:

• Mac Mini M1 için gpt-oss-20b modelini seçin.
• 16 GB RAM ile çalışır, ancak daha iyi performans için quantize edilmiş (sıkıştırılmış) sürümleri tercih edin.
• Ollama veya Hugging Face üzerinden kolayca kurabilirsiniz.

gpt-oss (OpenAI’nin açık ağırlıklı modelleri) ile ilgili Hacker News’te yapılan tartışmalarda öne çıkan önemli noktalar şunlardır:

1. Performans ve Karşılaştırmalar

• GPT-OSS modellerinin benchmarklarda o3 ve o4-mini gibi OpenAI’nin ticari modellerine yakın performans gösterdiği, ancak kodlama gibi bazı alanlarda Qwen 3, GLM 4.5 ve Grok 3 gibi rakiplerin gerisinde kaldığı belirtiliyor.
• Bazı kullanıcılar, modelin aktif parametre sayısının (~5 milyar) rakiplerine göre düşük olmasının, özellikle kodlama gibi karmaşık görevlerde dezavantaj yarattığını vurguluyor.
• Modelin, özellikle 20B ve 120B varyantlarının, benzer büyüklükteki diğer açık modellerle kıyaslandığında daha hızlı ve verimli çalışabildiği deneyimlerle aktarılıyor.

2. Donanım Gereksinimleri ve Yerel Çalıştırma

• 20B modelinin 16GB VRAM’e sahip bir GPU’da çalışabildiği, 120B modelinin ise 80GB GPU’da çalışacak şekilde optimize edildiği konuşuluyor.
• Kullanıcılar, Mac Mini, MacBook ve çeşitli GPU’larda elde ettikleri token/saniye hızlarını paylaşıyor; örneğin, 20B modelinin 24GB VRAM ile rahatça çalıştığı, 8GB VRAM ile ise CPU offload ile 2-5 token/saniye hızlara ulaşılabildiği aktarılıyor.
• Groq gibi özel donanımda 1.000 token/saniye gibi yüksek hızlara ulaşılabildiği, ancak tüketici donanımında bu hızların mümkün olmadığı belirtiliyor.

3. Açık Kaynak (Open Source) vs. Açık Ağırlık (Open Weights) Tartışması

• Birçok kullanıcı, modelin “open source” olarak adlandırılmasına itiraz ediyor ve “open weights” teriminin daha doğru olduğunu savunuyor. Çünkü modelin eğitim verisi ve tam eğitim süreci paylaşılmıyor, sadece ağırlıklar ve mimari açık.
• Apache 2.0 lisansı ile yayınlanması, bazıları tarafından “açık kaynak” olarak görülse de, toplulukta bu konuda görüş ayrılığı var.

4. Strateji ve Piyasa Dinamikleri

• OpenAI’nin bu modelleri neden şimdi yayınladığı tartışılıyor. Birçok kişi, GPT-5’in yakında çıkacağı ve bu modellerin “N-1” stratejisiyle, bir önceki nesil modellerin açık ağırlık olarak paylaşılmasının rekabet avantajı sağladığını düşünüyor.
• Çinli şirketlerin (Qwen, Deepseek, GLM) açık modellerle hızlı ilerlemesi ve ABD’li şirketlerin de bu alanda geri kalmamak için benzer adımlar atması gerektiği vurgulanıyor.

5. Kullanım Alanları ve Sınırlamalar

• Modellerin metin tabanlı olduğu, multimodal (görsel/görüntü) desteklemediği belirtiliyor.
• Kodlama, bilgi çıkarımı ve genel amaçlı kullanımda güçlü olduğu, ancak bazı özel görevlerde rakiplerinin önde olabileceği konuşuluyor.

6. Topluluk ve Ekosistem

• Ollama, llama.cpp gibi araçlarla entegrasyonun hızlıca sağlandığı, topluluk desteğinin güçlü olduğu aktarılıyor.
• Kullanıcılar, modelin hızlıca farklı platformlarda denenebilmesini ve açık ağırlıkların yaygınlaşmasını olumlu buluyor.