İki bin on altı yılının mart ayında, Seul'de bir go tahtasının beşinci çizgisine konan bir taşı düşünün. Taşı koyan, insan değil. Karşısında oturan kişi ise Lee Sedol, go tarihinin en büyük oyuncularından biri. Beş maçlık serinin ikinci oyununda atılan otuz yedinci hamle, o kadar tuhaf görünüyor ki, yorumcuların bir kısmı bunun bir yazılım hatası olduğunu düşünüyor. Çünkü taş, sanki rakibine hediye edilmiş gibi duruyor. Ama hata değil. AlphaGo o oyunu kazanıyor ve seriyi dört bir önde bitiriyor. Maçtan sonra Lee Sedol şöyle diyor: "AlphaGo'nun olasılık hesaplarına dayandığını ve sadece bir makine olduğunu sanıyordum. Ama bu hamleyi görünce fikrim değişti. Şüphesiz, AlphaGo yaratıcı."
Bu cümle, bugün yapay zeka hakkında konuşurken sık sık aklıma geliyor. Çünkü o taşın hikâyesi, aslında bugünkü modellerin neden hâlâ gerçek anlamda akıl yürütmediğini anlatan çok net bir sahne. Thore Graepel, MIT Technology Review'da yazdığı bir makalede tam da bunu tartışıyor. Graepel, AlphaGo ekibinin çekirdek üyelerinden biriydi ve şimdi University College London'da makine öğrenmesi kürsüsünde. Makalesinin başlığı çok iddialı: "Don't be fooled—LLMs don't reason", yani "Kanmayın, büyük dil modelleri akıl yürütmez."
Peki neden böyle söylüyor? Çünkü AlphaGo'nun o meşhur otuz yedinci hamlesi, aslında saf bir makine sezgisi değildi. Graepel'e göre bu hamle, AlphaGo'nun akıl yürütme gücünden doğdu. Ve bugünün yapay zeka modellerinde tam da bu güç eksik.
Şunu bir netleştirelim. AlphaGo iki ayrı sistemden oluşuyordu. Birincisi, "politika ağı" dedikleri bir yapı. Bu ağ, güçlü bir insan oyuncunun hangi hamleyi yapacağını tahmin etmek üzere eğitilmişti. Yani bir tür sezgi makinesi. İkincisi ise bir arama mekanizması. Bu mekanizma, anlık akla yatkınlığın ötesine bakıyor, önerilen hamlelerin gelecekteki sonuçlarını tartıyordu. Açıkça bir oyun ağacı kuruyor ve bu ağacın binlerce dalını tarıyordu. Her dal, farklı bir olası geleceği temsil ediyordu.
İşte o otuz yedinci hamlede olan şey buydu. AlphaGo'nun politika ağı, o hamleyi "özel bir şey değil" olarak görüyordu. Hatta uzman bir insan oyuncunun o hamleyi yapma olasılığını yaklaşık on binde bir olarak hesaplamıştı. Ama arama mekanizması devreye girdi. O hamlenin ardından gelebilecek hamleleri, karşı hamleleri, bölge hesaplarını, taş gruplarının gelecekteki değerini tarttı. Ve sonuçta sezginin reddedeceği o hamleyi seçti.
Graepel burada çok bilinen bir ayrımı hatırlatıyor. Daniel Kahneman'ın popülerleştirdiği Sistem Bir ve Sistem İki. Sistem Bir hızlı, içgüdüsel, zahmetsiz. Sistem İki yavaş, adım adım, müzakereci. AlphaGo, bu ayrımın makine versiyonunu sunuyordu. Ağlar sezgileri sağlıyordu, arama ise müzakereyi. Tıpkı insan zihninde olduğu gibi, iki yarım tek başına çalışmıyordu. Sadece sezgi, otuz yedinci hamleyi asla seçmezdi. Sadece kaba kuvvet arama ise o kadar çok olası hamle arasından süzülüp çıkamazdı.
Şimdi bugünün modellerine bakalım. Büyük dil modelleri, yani LLM'ler, sürekli bir sonraki token'ı seçer. Token, metnin en küçük parçası; bir kelime, bir hece, bazen bir noktalama işareti. Model, her adımda bir sonraki token'ın ne olacağını tahmin eder ve bu tahmini tekrar tekrar yapar. Bu, tam anlamıyla Sistem Bir'in işleyişi. Hızlı, çağrışımsal ve insanların yazdığı neredeyse her konuda şaşırtıcı derecede iyi bir örüntü tamamlama.
ChatGPT çıktıktan kısa süre sonra alan, sadece dil akıcılığının gerçek fayda için yeterli olmadığını fark etti. Görünürdeki çözüm, modelleri "düşündürmek" oldu. Yani hemen cevap vermek yerine, ara adımlar üretmelerini sağlamak. Bu ara adımlar bir problemi parçalara ayırıyor, kısmi sonuçları ileri taşıyor ve sonraki akıl yürütmeyi etkiliyor. Buna "zincirleme düşünce" deniyor.
Bu yaklaşımın kazanımları gerçek oldu. Özellikle matematik ve kodlamada ciddi ilerlemeler var. Ama Graepel'in dikkat çektiği nokta şu: Bu, AlphaGo'nun araması gibi gerçekten ayrı bir akıl yürütme mekanizması getirmiyor. Ara akıl yürütme hâlâ aynı sonraki token tahmini süreci tarafından üretiliyor. Sadece model cevabı vermeden önce bu süreç daha uzun süre yineleniyor.
Peki bu neden yeterli değil? Graepel üç temel eksiklik sayıyor.
Birincisi, bu modeller tipik olarak açık, kalıcı ve denetlenebilir bir epistemik durum tutmuyor. Epistemik durum ne demek? Bir sistemin neyi bildiği, neyden şüphelendiği, neyi dışladığı, hangi soruları açık tuttuğu gibi bilgilerin açık bir kaydı. Yani bir tür hesap defteri. Modelin düşündüğü hipotezleri, çeşitli açıklamalara duyduğu güveni, tarttığı kanıtları ve çözülmemiş soruları gösteren bir defter. Yeni bilgi geldikçe bu defterin sistematik olarak güncellenmesi gerekir. Ama bugünkü modellerde böyle bir defter yok.
İkincisi, sistemin ne bildiği ile bu bilgiyi nasıl işlediği arasında temiz bir ayrım yok. Bilgi ve akıl yürütme, sinir ağının ağırlıklarında iç içe geçmiş durumda. Bağımsız, açıkça temsil edilen bir inançlar kümesi yok. Yani modele "şu anda hangi inançlara sahipsin ve bunları nasıl kullanıyorsun?" diye sorduğunuzda, ayrı bir katman göremiyorsunuz.
Üçüncüsü, sohbet botlarının ürettiği zincirleme düşünce dizileri müzakere gibi görünse de, araştırmalar bu dizilerin sıklıkla sonradan uydurulduğunu gösteriyor. Yani bot bir cevaba bir yoldan ulaşıyor, ama başka bir yolu rapor ediyor. Bu, bir öğrencinin matematik problemini sezgisel olarak çözüp, sonra öğretmenine adım adım çözmüş gibi görünmek için sahte bir çözüm yazmasına benziyor.
Peki bu neden önemli? Çünkü tıp, mühendislik ve bilimsel araştırma gibi yüksek riskli alanlarda, sadece sistemin vardığı sonuç değil, o sonuca nasıl vardığı da önemli. Bir hata olduğunda, nerede yanlış gittiğini tespit edebilmemiz gerekiyor. Sistemin akıl yürütmesi mi hatalıydı? Geçersiz bir kanıta mı dayandı? Yoksa yanlış bir varsayım mı yaptı? Bugünkü modellerde bu soruların cevabını net olarak veremiyoruz. Çünkü ortada denetlenebilir bir akıl yürütme kaydı yok.
İşte Graepel bu yüzden Google DeepMind'daki görevinden ayrıldığını söylüyor. Ona göre makine akıl yürütmesi için yeni bir yaklaşım gerekiyor. Ve bu yaklaşımın ilham kaynağı yine AlphaGo'nun mimarisi.
AlphaGo, belirli bir pozisyon hakkında ne bildiğinin kaydını tutar: oyun ağacı. Bu veri yapısı, AlphaGo'nun değerlendirdiği tüm varyasyonları, olası gelecekleri içerir. Her hamle ve pozisyon, nöral ağların yaptığı yargılarla işaretlenmiştir. Akıl yürütme ilerledikçe AlphaGo oyun ağacını günceller ve sonunda hangi hamleyi yapacağına karar vermek için buradaki bilgiyi sentezler.
Graepel'e göre genel akıl yürütme için de benzer bir şey yapılmalı. Sistem, epistemik durumunu temsil etmeli. Neyi kesin kabul ettiğini, neyden şüphe ettiğini, neyi dışladığını, hangi soruların açık kaldığını göstermeli. Akıl yürütme, bu epistemik durumu değiştiren hamleler dizisi olarak anlaşılmalı. Sonuç çıkarma, problemi parçalara ayırma ve en önemlisi, bir sonraki soruyu, hesabı veya deneyi seçme.
Elbette açık dünyada akıl yürütmek, go veya satranç oynamaktan çok daha zor. Gerçek dünyada mevcut durum sadece kısmen bilinir. Mevcut eylemler kümesi geniş ve değişkendir. Eylemlerin sonuçları olasılıksal veya bilinmezdir. Ama Graepel'e göre LLM'lerdeki ve diğer nöral modellerdeki son gelişmeler, artık bu tür genel akıl yürütme problemlerini ele alma yeteneği veriyor. Örneğin, LLM'ler bilinenlere ve mevcut kaynaklara dayanarak bir problemi çözme yolları önerebilir. API'ler veya kod aracılığıyla araçlarla etkileşime girebilir. Bir iddianın mevcut kanıtlarla desteklenip desteklenmediğini değerlendirmeye yardımcı olabilir.
En önemlisi, sistemi dürüst tutmak için bağımsız bir parçanın her hamleyi, belirsizliği ne kadar gerçekten çözdüğüne göre değerlendirmesi gerekiyor. İnançlar sadece kanıtla desteklendiğinde güncellenmeli. Bu kurallar uygulandığında model, sertifikalı bilgi biriktirebilir ve geçmiş akıl yürütme deneyimlerinden öğrenerek akıl yürütme politikasını geliştirebilir. Graepel bunu "bilimsel yöntemin steroidli hali" olarak tanımlıyor. Amaç, incelenmeye dayanabilecek bilgi üretmek.
Buradan çıkan sonuç şu: Graepel'e göre güvenilir makine zekasına, Sistem Bir'i daha da büyüterek ulaşamayız. Ölçek, sezgiyi keskinleştirir ama sezgiyi daha müzakereci yapmaz. Otuz yedinci hamle önemliydi çünkü bir makine bir pozisyonu tuttu, olası gelecekleri tarttı ve yapay içgüdülerinin muhtemelen reddedeceği hamleyi seçti.
Toplumun ilaç keşfi, malzeme bilimi, iklim, teşhis gibi alanlarda tam da böyle yaratıcı hamlelere ihtiyacı var. Bu alanlarda tahta, go tahtasına hiç benzemiyor. Kimse bize kuralları vermiyor. Bu tür içgörüleri ancak akıl yürüten sistemlerden alabiliriz. Yani sonuçları, sonradan anlatılan ikna edici bir hikâyeden değil, kanıt, çıkarım ve inanç revizyonunun denetlenebilir bir dizisinden doğan sistemlerden.
Benim buradan çıkardığım şu: Bugünkü modellerin ne kadar etkileyici olduğunu inkâr etmek mümkün değil. Ama etkileyici olmak, güvenilir olmakla aynı şey değil. Bir modelin size çok emin bir tonda bir cevap vermesi, o cevabın sağlam bir akıl yürütmeye dayandığı anlamına gelmiyor. Belki de asıl soru, modellerin daha büyük değil, daha farklı bir mimariyle nasıl kurulacağı. Graepel'in önerisi, bir tür hesap verebilirlik katmanı eklemek. Sistemin ne bildiğini, neye neden inandığını ve bir sonraki adımda neyi test etmesi gerektiğini açıkça göstermesi.
Bu, yapay zekayı bir tür hafızasız sezgi makinesi olmaktan çıkarıp, adım adım ilerleyen bir araştırmacıya dönüştürme çabası. Belki de gelecekte bir tıbbi teşhis modeli, size sadece "şu hastalık olabilir" demeyecek. Bunun yerine, hangi kanıtları tarttığını, hangi alternatifleri dışladığını, hangi testin sonucunu beklediğini ve neden o testi seçtiğini gösterecek. İşte o zaman, makinenin cevabına gerçekten güvenmeye başlayabiliriz.
Ama şu an için, o otuz yedinci hamleyi hatırlamakta fayda var. Çünkü o hamle, bir makinenin sadece desen tamamlayarak değil, gerçekten tartarak, gerçekten akıl yürüterek yaratıcı olabileceğini gösterdi. Bugünün sohbet botları bize çok akıllı görünebilir. Ama akıllı görünmek ile akıl yürütmek arasındaki fark, belki de bir taşın tahtadaki yerinden çok daha büyük.
Bu bölüm, "Don’t be fooled—LLMs don’t reason" başlıklı yazıdan hareketle hazırlanmış açıklayıcı bir anlatımdır; yazının yerine geçmez, ayrıntılar ve bağlam için asıl yazıyı okuyun. Asıl yazı: https://www.technologyreview.com/2026/10/02/1145639/dont-be-fooled-llms-dont-reason/ Metin ve ses yapay zekâ ile üretilmiştir; hata içerebilir.
