OpenAI’nin eski araştırmacılarından ve Tesla’nın yapay zeka biriminin başındaki isim olan Andrej Karpathy, yapay zeka sistemlerine soru sormanın sanıldığı kadar “büyülü” bir işlem olmadığını, bunun aslında insan etiketleyicilerden gelen verilerin bir harmanlanması olduğunu vurguluyor. Karpathy’nin ifadelerine göre, bir yapay zeka modeline soru sorduğunuzda, aslında modeli eğiten insan veri etiketleyicilerin “ortalama” bir temsili ile etkileşim kuruyorsunuz. Yani “AI’ye soru sormak” aslında “AI’nin arkasındaki insan etiketleyicilere dolaylı olarak soru sormak” anlamına geliyor.

People have too inflated sense of what it means to "ask an AI" about something. The AI are language models trained basically by imitation on data from human labelers. Instead of the mysticism of "asking an AI", think of it more as "asking the average data labeler" on the…

— Andrej Karpathy (@karpathy) November 29, 2024

Yapay Zeka Nasıl Cevap Veriyor?

Karpathy, bir yapay zekaya turistik bir soru sormayı örnek vererek durumu açıklıyor: Örneğin, “Amsterdam’da görülmesi gereken en iyi 10 yer neresi?” sorusu, AI tarafından daha önce insan etiketleyicilerin benzer sorulara verdiği yanıtlara dayanarak oluşturuluyor. Eğer soru, eğitim verilerinde doğrudan bulunmuyorsa, model bu soruya istatistiksel olarak en uygun cevabı üretmek için eğitim sırasında öğrendiği insan benzeri yanıt kalıplarını taklit ediyor. Ancak bu durum, her zaman derin bir anlayış veya doğru bilgiye dayanmaz. Karpathy bu durumu, “AI’ye hükümeti nasıl yöneteceğimizi sormak, Ohio’lu birine 10 dolarlık bir ödeme yapıp 30 dakika boyunca yanıt araştırmasını istemeye benziyor” diyerek basitçe ifade ediyor.

Yapay Zeka Asistanlarının “Kişiliği” Nasıl Oluşturuluyor?

Yapay zeka modelleri, iki temel eğitim sürecinden geçiyor:

1. Temel Eğitim: Model, büyük miktarda internet verisi ve metin tabanlı içeriklerle genel bilgi birikimi kazanıyor.
2. İnce Ayar (Fine-Tuning): Model, “insan” ve “asistan” rollerini canlandıran diyaloglarla eğitiliyor. Bu süreçte, insan veri etiketleyiciler, yapay zekanın bir yardımcı gibi davranmasını sağlayacak yanıtlar oluşturuyor.

Karpathy, ince ayar sürecinin, kullanıcıların yapay zekayı sadece “ileri düzey bir otomatik tamamlama sistemi” gibi değil, gerçek bir yardımcı olarak algılamalarını sağladığını belirtiyor. Bu süreç, yapay zekanın büyük başarısına önemli bir katkı sağladı. Özellikle ChatGPT gibi sistemler, bu yöntem sayesinde insana daha yakın bir etkileşim sunmayı başardı.

Uzmanlık ve Etiketleyicilerin Rolü

Belirli alanlarda (örneğin tıp veya matematik) uzman düzeyinde cevaplar verebilmek için, şirketler ilgili uzmanları veri etiketleyici olarak görevlendiriyor. Karpathy, bu yöntemin doğru ve profesyonel cevaplar sağladığını kabul ederken, yapay zekanın her zaman gerçek uzmanlık düzeyinde performans göstermediğine dikkat çekiyor. AI sistemlerinin cevapları genellikle internet üzerindeki ortalama bir kullanıcıdan daha iyi olsa da, derin bilgi veya mantık yürütme gerektiren durumlarda sınırlı kalabiliyor.

Reinforcement Learning ve Yapay Zekanın Sınırları

Karpathy, insan geri bildirimine dayalı pekiştirmeli öğrenim (Reinforcement Learning from Human Feedback – RLHF) yöntemini de eleştiriyor. Bu yaklaşımı “geçici bir çözüm” olarak nitelendiriyor ve objektif başarı kriterlerinden yoksun olduğunu vurguluyor. Ona göre, AlphaGo gibi oyun odaklı sistemlerde olduğu gibi net hedefler ve başarı ölçütleri olmadıkça, bu yöntem uzun vadede yapay zekanın sınırlarını aşmakta yetersiz kalacak.

Andrej Karpathy’nin Yeni Yolculuğu

OpenAI’den ayrıldıktan sonra Karpathy, kendi yapay zeka eğitim şirketini kurarak bilgi birikimini yeni nesillere aktarmayı hedefliyor. Bu, yapay zekanın hem geliştirilmesi hem de doğru şekilde anlaşılmasını sağlamak için önemli bir adım olarak değerlendiriliyor.

Sonuç

Andrej Karpathy’nin açıklamaları, yapay zekanın arkasındaki insan emeğinin ne kadar önemli olduğunu ortaya koyuyor. Bir yapay zeka modeline soru sorduğunuzda, aslında insanların sağladığı bilgi ve rehberliği kullandığınızı unutmamak gerekiyor. Bu süreç, yapay zekanın gücünü ve sınırlarını anlamak için önemli bir perspektif sunuyor.