Q* süper yapay zeka hakkında bilmeniz gerekenler
Sam Altman'ın sohbetGPT sağlayıcısı OpenAI'nin başkanlığından azledilmesinde, yapay zeka alanında insan hayatını tehlikeye atabilecek bir gelişmeye ilişkin uyarının önemli bir rol oynadığı iddia ediliyor. Sözde süper zeka Q*'nun arkasında ne var?
Birkaç gün öncesine kadar sözde süper zeka neredeyse boş bir hayaldi. Pek çok insan yapay zekanın halihazırda yapabildikleri ve yazılım geliştiricilerin yeni ve daha iyi programları piyasaya sürme hızı karşısında hayrete düşmüştü. Ancak pek çok uzman bile yapay zekanın insanlardan daha zeki olabileceğini hayal edemiyordu, en azından henüz. Birçok uzmana göre bir süper zeka geliştirmek hala yıllar alacaktır. Ancak şimdi önemli bir atılımın çoktan başarılmış olabileceğine dair spekülasyonlar var.
Bunun nedeni ChatGPT mucidi OpenAI'nin Q* ("Q-Star") adlı yeni projesi. Modelin daha önce bilmediği matematiksel problemleri bağımsız olarak çözebilmesi bekleniyor - uzmanlar bunun "Yapay Genel Zeka" veya kısaca AGI veya halk arasında süper zeka olarak bilinen yönde bir kilometre taşı olacağına inanıyor.
Reuters haber ajansı ve "The Information" dergisi tarafından bildirildiği üzere, Q*'nun aynı zamanda şu anda görevine iade edilen CEO ve OpenAI kurucu ortağı Sam Altman'ın görevden alınmasında da rol oynadığı söyleniyor. İki kaynağa göre, modelin muhtemelen OpenAI içinde dolaşan bir test versiyonu güvenlik uzmanlarını alarma geçirdi. Personele gönderilen bir iç mektupta, Q*'nun geliştirilmesinin "insanlık için bir tehdit" oluşturabileceği uyarısında bulunulduğu anlaşılıyor.
"Kimse tam olarak ne olduğunu bilmiyor"
Peki bu program ne yapıyor da yazılım şirketlerinde böylesine bir korku dalgası yarattı? Gallen Üniversitesi Bilgisayar Bilimleri Doktora Programı Akademik Direktörü Damian Borth, "Kimse tam olarak ne olduğunu bilmiyor" diyor. "Yayınlanmış bir blog yazısı ya da makale yok. Sadece varsayımlar var ve ilginç olan da bu." Topluluktaki diğer pek çok kişi gibi o da isimdeki "Q" harfinin Q-öğrenme olarak adlandırılan algoritmaya bir gönderme olduğundan şüpheleniyor. Bu, bir makine öğrenimi yöntemi olan takviyeli öğrenmeden bir algoritmadır. Basitçe söylemek gerekirse, programlar çevreleriyle etkileşime girer, kararlar alır ve olumlu bir eylem için bir ödül alır. Bu onu teşvik eder (pekiştirme) ve eylemi daha sık gerçekleştirir, olumsuz eylemler için ise tam tersi olur.
Ancak OpenAI çevrimiçi topluluğundaki diğer kişiler, projenin kod adının arkasında kuantum hesaplamanın olduğundan şüpheleniyor. Kuantum bilgisayarlar son derece güçlüdür ve çok sayıda değişkeni olan belirli karmaşık sorunları geleneksel bilgisayarlardan daha hızlı çözebilir. Ancak Borth bunun olası olmadığına inanıyor. "OpenAI bu alanda fazla bir şey yapmadı, ancak açıkça GPU'lara, yani grafik işlemcilere odaklandı" diyor. "Öte yandan, takviyeli öğrenmede OpenAI her zaman çok güçlü olmuştur. ChatGPT'yi de içeren üretken yapay zekânın yanı sıra bu, temel direklerden biridir."
Q* yıldız işaretinin ardında, topluluk iki düğüm veya nokta arasındaki en kısa yolu belirleyebilen "A*" algoritmasından şüpheleniyor. Bunu yapmak için, körü körüne bir sonraki mevcut düğümü seçmez, bunun yerine aramayı hızlandırmak için ek bilgileri dikkate alır.
Kullanıcılar kuşkularını açıkça ifade ediyor
Q* hakkında şu ana kadar neredeyse hiçbir güvenilir bilgi bulunmamasına rağmen, toplumdaki pek çok kişi yeni yapay zeka modelini "insan uygarlığındaki en büyük atılım", bir "devrim" ve "çığır açan" bir sistem olarak ilan etti bile. Reuters ve The Information'a göre Q* sadece ilkokul seviyesindeki matematik problemlerini çözebiliyor.
Bu nedenle bazı kullanıcılar da açıkça şüpheci: "Yapay zeka konusunda çok araştırma yapmış biri olarak, bir çığır açıldığına inanmanın çok kolay olduğunu söyleyebilirim" diye yazıyor biri. Bir diğeri ise "insan ya da insanüstü zekanın" "farklı bir mimariye" ihtiyacı olduğunu yazıyor. OpenAI'deki bir kullanıcı ise "Q* bu yönde bir hareket, ancak "o" olup olmadığı hiç de net değil" diye yazıyor.
Aslında, Q* ile ilgili özel olan şey, görünüşe göre matematiksel görevleri bağımsız olarak çözebilmesidir. Borth, "Şu ana kadar bildiğimiz kadarıyla, yapay zeka ilk kez matematik için gereken türden bir entelektüel performansa ulaşmayı başardı" diyor. "Yani ChatGPT'deki şüphecilerin dediği gibi makine sadece papağan gibi konuşmuyor, Q*'nun mantıksal sonuçlar çıkarma yeteneğine sahip olması gerekiyor." Ancak bunun AGI'ye doğru kararlı bir adım olup olmadığı henüz söylenemez.
"Bir kere AGI'nin tanımı tam olarak net değil. Kendisinin farkında olan, insanlara karşı çalışan ya da sadece çeşitli görevler arasında genelleme yapan bir makine mi?" diyor Borth. "Öte yandan, AGI'nin insanlar için tehlikeli olmasının gerekli olduğunu düşünmüyorum. Mevcut sistemlerimizi nasıl kullandığımıza bağlı olarak, bu zaten gerçekleşebilir."
Altman yapay zeka patlamasının yüzü olarak görülüyor
Tedirginlik, şirketin kendisinin bu konuda uyarıda bulunduğu iddiasından da kaynaklanıyor. The Information'ın haberine göre, güvenlik uzmanlarının gelişimin hızından özellikle endişe duydukları söyleniyor.
Yapay zeka patlamasının yüzü olarak kabul edilen ve en başından beri bilgisayarlara bağımsız öğrenmeyi öğretmeyi hedeflediği söylenen Altman, bu yıl ABD Senatosu'ndaki bir oturumda yapay zekanın potansiyel riskleri hakkında şu yorumu yaptı: "En büyük korkum, teknolojiye ve sektöre önemli zararlar veriyor olmamız. [...] Bence bu teknoloji yanlış giderse, çok yanlış gidebilir. Ve bu konuda sesimizi duyurmak istiyoruz" diyen Altman, eşi benzeri görülmemiş bir ileri geri konuşmanın ardından yeniden OpenAI'nin CEO'su oldu.
Yönetim kurulu yaklaşık iki hafta önce Altman'ı gerekçe göstermeden görevden almış ve iki kez geçici CEO atamıştı. Ancak geçtiğimiz Çarşamba günü, büyük yatırımcı Microsoft'un baskısı çok büyük oldu ve Altman görevine geri döndü. Aynı zamanda, aralarında eski ABD Hazine Bakanı Larry Summers'ın da bulunduğu yeni bir yönetim kurulu atandı. Washington'daki Teknoloji Politikası Enstitüsü Direktörü Sarah Kreps'e göre, yeni yönetim kurulu Altman'ın yapay zekanın gelişimini hızlandırırken aynı zamanda güvenlik önlemleri alma vizyonunu destekliyor.
Bu makale ilk olarak Capital.de'de yayınlanmıştır.
Kaynak: www.ntv.de