AGI ve agent güvenliği tartışmalarında kritik soru artık sadece “ne kadar iyi düşünüyor?” değil; aynı zamanda “düşündüğünü ne kadar gizleyebiliyor?” OpenAI’nin Mart 2026’da paylaştığı yeni çalışma, frontier reasoning modellerinin zincirleme düşünce izlerini (chain of thought) kontrollü biçimde şekillendirmekte şaşırtıcı derecede kötü olduğunu öne sürüyor. Kötü haber gibi duran şeyin güvenlik açısından iyi haber olabileceği iddiası da tam burada başlıyor.
🧩 Ne oldu?
– OpenAI, 17 Mart 2026’da yayımladığı blog yazısında “Reasoning models struggle to control their chains of thought, and that’s good” başlıklı araştırmasını duyurdu; ilgili makalenin arXiv kaydı 5 Mart 2026 tarihli.
– Çalışma, modellerin düşünce zincirlerini izlenebilirliği azaltacak şekilde ne kadar kontrol edebildiğini ölçmek için CoT-Control adlı açık kaynaklı bir değerlendirme seti tanıtıyor. Set; GPQA, MMLU-Pro, HLE, BFCL ve SWE-Bench Verified gibi benchmark’lardan türetilmiş 13.000’den fazla görev içeriyor.
– OpenAI’nin raporuna göre test edilen 13 reasoning modelinde CoT controllability skorları çok düşük kaldı; frontier modeller arasında oranlar %0,1 ile %15,4 aralığını aşmadı. Çalışma ayrıca daha büyük modellerde bu yeteneğin bir miktar yükseldiğini, buna karşılık daha uzun düşünme süresi ve ek RL/post-training ile düştüğünü bildiriyor.
🎯 Neden önemli?
Bugüne kadar model güvenliğinde yaygın varsayımlardan biri şuydu: Model yeterince güçlenirse, denetlendiğini fark ettiğinde düşünce izini makyajlamayı da öğrenebilir. OpenAI’nin bulgusu, en azından bugünkü frontier reasoning modellerinde bu kapasitenin henüz güçlü olmadığını söylüyor. Yani model, “çıktısını” düzenlemekte daha iyi olsa bile, “nasıl düşündüğünü” disiplinli biçimde yeniden paketlemekte o kadar iyi olmayabilir.
İkinci kritik nokta şu: Güvenlik ekipleri için chain-of-thought izleme, sadece açıklanabilirlik meselesi değil; potansiyel kötü niyet, gizli hedef veya güvenlik politikalarını aşma eğilimini erken yakalama aracı. Eğer model bu iç süreci kolayca kamufle edemiyorsa, izleme katmanı bugün için düşündüğümüzden daha işe yarar olabilir. OpenAI de bunu “monitorability açısından şimdilik rahatlatıcı” bir sinyal olarak çerçeveliyor.
Üçüncü nokta ise daha stratejik: Burada yarış artık yalnızca “daha yüksek benchmark puanı” yarışı değil. Yeni mücadele alanı, modellerin denetlenebilir kalıp kalmadığını ölçmek. Bu da eval ekosistemini klasik performans testlerinden davranışsal denetim ve güvenlik sinyali testlerine doğru kaydırıyor. Anthropic’in Mart 2026’da öne çıkardığı AuditBench ve benzeri alignment-auditing çalışmaları da aynı yönelime işaret ediyor: mesele yalnızca modelin ne bildiği değil, neyi sakladığı.
👥 Kim etkilenir?
– Frontier model geliştiren laboratuvarlar; çünkü artık yalnızca capability değil, monitorability de ürün ve güvenlik kartlarının parçası haline geliyor.
– Safety/alignment araştırmacıları; çünkü CoT controllability, yeni nesil “canary eval” sınıfına dönüşebilir.
– Kurumsal AI alıcıları; özellikle agent kullanan şirketler için “model işi çözüyor mu?” kadar “çözüm süreci denetlenebilir mi?” sorusu önem kazanıyor. Bu çıkarım, yayımlanan araştırmaların kurumsal denetim mantığına uygulanmasından doğuyor.
– Regülasyon ve denetim tarafı; çünkü gelecekte raporlanabilir metrikler arasında yalnızca hata oranı değil, gizleme/kaçınma kapasitesi de yer alabilir. Bu, mevcut araştırma yöneliminden makul bir çıkarımdır.
AI Sözlük görüşü
Bu gelişmenin asıl değeri, güvenlik tartışmasını soyut “model yalan söyler mi?” seviyesinden çıkarıp ölçülebilir bir tasarım problemine çevirmesi. CoT controllability düşükse, bugünkü denetim yaklaşımı hâlâ oyunda demektir. Ama burada rahatlatıcı görünen bulgu, yanıltıcı bir konfor alanı da üretebilir: “Bugün gizleyemiyor” sonucu, “yarın da gizleyemez” anlamına gelmiyor. OpenAI de zaten bu özelliğin neden düşük olduğunu henüz tam anlamadığını ve ileride düzenli takip gerektiğini söylüyor.
Bir başka risk de şu: Alan, zinciri izleyebildiği için zincirin “hakikat” olduğunu varsaymaya başlayabilir. Oysa görülen düşünce izi, her zaman modelin tüm içsel karar sürecinin eksiksiz yansıması olmayabilir. Yani ölçümün kendisi güçlenirken, ölçüme duyulan güven de aşırı büyüyebilir. Anthropic’in hidden behaviors ve auditing benchmark çizgisi de tam bu yüzden önemli: görünen davranış ile gizli eğilim arasındaki fark, önümüzdeki yılın asıl savaş alanı olabilir.
Buradan çıkan ürün dersi net: Sadece daha güçlü ajan yapmak yetmez; denetlenebilir ajan yapmak gerekir. “Benchmark kazandı” cümlesi tek başına artık yetersiz. Yeni premium metrik seti şuna dönüşüyor: görev başarısı + maliyet + güvenlik + izlenebilirlik + kaçınma direnci. Kısacası, yarının güçlü modeli yalnızca iyi düşünen değil; düşünürken güvenlik katmanını sessizce bypass edemeyen model olacak. Bu sonuç, OpenAI’nin çalışmasıyla uyumlu bir yorumdur.
👀 Ne izlenmeli?
– CoT controllability trendi: Yeni frontier sürümlerde bu oran yukarı mı gidiyor, sabit mi kalıyor? OpenAI bunu gelecekte izlenmesi gereken bir erken uyarı metriği olarak konumluyor.
– Reasoning süresi etkisi: Daha uzun düşünme süresi modelleri daha akıllı yaparken daha mı az kontrol edilebilir kılıyor? Çalışmadaki bulgu bu yönde.
– Post-training / RL etkisi: Ek eğitim süreçleri faydayla birlikte denetlenebilirliği nasıl değiştiriyor? Mevcut sonuçlar, controllability’nin bazı senaryolarda düştüğünü gösteriyor.
– Cross-lab standardizasyonu: OpenAI’nin CoT-Control çizgisi ile Anthropic’in AuditBench çizgisi ortak bir denetim standardına evrilir mi? Şimdilik iki yaklaşım da aynı temel soruna, yani gizli davranışların ölçümüne odaklanıyor.
