Brent Orrell
Üretken yapay zeka dünyasında işler hızla ilerliyor ve çok daha hızlı ilerlemeye başlayabilir. Mevcut veri ve tasarım engellerinin aşılabileceği varsayılırsa, bu teknolojik hızlanma ya hayal edilemeyecek faydalar sağlayabilir ya da insanlığın şimdiye kadar karşılaştığı en büyük uyum zorluklarından birini ortaya çıkarabilir. Ya da belki her ikisini de.
“Yinelemeli” yapay zeka hakkında hiç duymadıysanız, bu konuyu araştırmanızda fayda var. Basitçe ifade etmek gerekirse, yinelemeli yapay zeka, yinelemeli testler, değerlendirmeler ve kendi kendini değiştirme yoluyla kendini geliştirebilir. İnsan araştırmacıların daha önce aylarca veya yıllarca süren gelişmeler, yapay zeka tarafından saatler veya günler içinde gerçekleştirilebilir. Henüz emekleme aşamasında olsa da, tam olarak geliştirilmiş özyineleme, teknolojik gelişimin hızı, ekonomi, istihdam ve daha geniş anlamda toplum üzerinde büyük bir etkiye sahip olacaktır.
Kuşkusuz, yapay zekanın gelişme şekli oldukça değişken olduğundan, tüm tahminler belirsizdir. Bu analizin amacı, belirli bir gelecekteki gelişmeyi tahmin etmek değil, ortaya çıkan özyinelemeli yapay zeka davranışlarının toplum ve işgücünü nasıl etkileyebileceği konusunda bazı bilgilendirici sorular sormaktır.
Özyinelemeli Yapay Zekanın Şafağı
Bunu daha önce de yaşadık — en azından öyle düşünüyoruz. Makine çağı bize sadece buhar makinelerini getirmedi — çocuk işçiliğini, tehlikeli şehir fabrikalarını, on yıllarca süren işçi ayaklanmalarını da beraberinde getirdi ve bu kargaşadan komünizm ve faşizm gibi tehlikeli yeni ideolojilerin yükselişine katkıda bulundu. Elektrifikasyon şehirleri yeniden şekillendirdi, ancak aynı zamanda meslekleri yerinden etti ve sosyal ve ekonomik ritimleri yeniden şekillendirdi. Bu bir kalıptır: değişim, belirsizlik, sosyal uyum.
Son zamanlarda, robotik otomasyon milyonlarca imalat işçisini yerinden etti ve ABD’de ve yurtdışında üniversite eğitimi almamış işçiler için yeni krizler başlattı. Her ileri adım, sorunları çözer ve ekonomik refahı artırır, ancak aynı zamanda tahmin edilmesi zor yeni sürtüşmeler ve zorluklar da yaratır. Bu durum, dönüşümsel değişimin bir parçası olan, ancak önemli bir farkı olan yinelemeli yapay zeka dünyasında da muhtemelen geçerli olacaktır: hız. Buhar makineleri, elektrik ve hatta internetin tam olarak yaygınlaşması onlarca yıl sürdü. Yinelemeli yapay zeka, yaygınlaşmayı yıllara indirgeyerek, bununla başa çıkmak için çok az zaman bırakabilir.
Son zamanlarda yayınlanan iki makale, bu dönüşümün nasıl olabileceğini göstermektedir. Bir makale, 1.773 yeni sinir ağı mimarisi üreten, test eden ve değerlendiren bir yapay zeka sistemini anlatmaktadır. Bu sistem, 106 adet son teknoloji doğrusal dikkat modeli üretmiştir. Bu modeller, büyük dil modelleri (LLM) için temel fiziksel ve analitik çerçeveler sağlamaktadır. Yapay zeka, sonraki nesil algoritma geliştirme çalışmalarına dahil edilmek üzere en başarılı yeni mimarileri seçmiştir.
Kullanılan işlemci türüne bağlı olarak (makale, bunların hızlı mı yoksa çok hızlı mı olduğunu belirtmiyor), projenin ~20.000 GPU saati, yaklaşık 10²²–10²³ aritmetik işlemine karşılık geliyor ve yine kullanılan yongalara bağlı olarak 36.000 ila 180.000 dolar arasında bir maliyete sahip. Geleneksel sinir mimarisi tasarımı, genellikle insan araştırmacıların aylarca süren bir süreçte mimarileri tek tek önermesi, tasarlaması ve test etmesini içerir. Özyinelemeli bir AI sistemi, aksi takdirde 3-5 yıl sürecek insan araştırmasını birkaç günlük hesaplama süresine sıkıştırır. Ayrıca, yeni AI yaklaşımlarının bir gecede yüzlerce aday üretebileceğini, başarısızlıkları eleyebileceğini ve başarılı olanları bir sonraki nesil modellere dönüştürebileceğini de gösterir. Özellikle dikkat çeken nokta, yinelemeli LLM iyileştirmelerinin, pratik AI uygulamalarının dayandığı temel teknolojiyi yükseltmiş olmasıdır. Bu, dramatik bir şekilde hızlanan ve kendini pekiştiren inovasyonun dönüm noktasıdır.
İkinci makale, bu senaryoyu geleceğe yansıtarak, bilimsel disiplinler arasında özerk bir şekilde hipotezler formüle edebilen, deneyler tasarlayabilen ve sonuçları yorumlayabilen AI sistemleri oluşturmak için teorik bir yapı önermektedir. Hiçbir laboratuvarın ulaşamayacağı ölçekte sanal deneyler yapabilen bir AI düşünün. Yeni bir antibiyotik önerebilir, milyonlarca biyolojik modelde etkinliğini simüle edebilir, başarısızlıkları eleyebilir ve insan araştırmacılara klinik denemeler için tamamen incelenmiş bir ilaç adayı sunabilir. Bu ilkeyi bilimsel çabaların her alanına uygulamak, gelişim hızının ne kadar derin olabileceğini gösterir.
Bu sadece daha hızlı bilim değil, bilimsel yöntemde kuantum hızlanmasıdır — kuantum mekaniği anlamında değil, yeni bir zaman ölçeğine kesintisiz bir sıçrama anlamında. Bir zamanlar cevaplanması on yıllar süren sorular, milyonlarca paralel sanal deney sayesinde birkaç gün içinde çözülebilir. Böyle bir hızlanma, at arabasından nükleer enerjiyi keşfetmeye ve aya inişe kadar olan süreci, bir yüzyıl yerine birkaç yıl içinde tamamlama şansı elde etmek gibi olurdu.
Bu görüşün eleştirmenleri, fiziksel kısıtlamalar ve hesaplama sınırlamalarının şu anda böyle bir hızlanmaya izin vermediğini haklı olarak belirtmektedir. Gelecekteki herhangi bir özyinelemeli yapay zeka, muazzam yeni verilere, muazzam enerji ve yarı iletken kaynaklara ve halüsinasyonlar, sınır durumlarında arızalar ve veri bozulması gibi kalıcı sorunların düzeltilmesine ihtiyaç duymaktadır. Gerçek atılımlar, sadece daha hızlı modeller değil, simüle edilmiş keşifleri güvenilir bir bilimsel ilerlemeye dönüştürmek için verimlilik, doğrulama ve yorumlanabilirlik alanlarında da ilerlemeler gerektirecektir. Bununla birlikte, özyinelemeli yapay zekanın bu sorunlara çözüm bulmada kritik bir müttefik olabileceği de unutulmamalıdır. Bugün çözümsüz görünen sorunlar, zamanla yapay zeka odaklı deneyler yoluyla çözülebilir.
Karbon Tabanlı Zekadan Silikona
Üretken yapay zekanın kavramsal temelleri, 2024 Nobel Fizik Ödülü sahibi Geoffrey Hinton’ın çalışmalarına dayanmaktadır. Hinton, yapay zeka sinir ağlarını, insan beyninin geniş nöron ağları aracılığıyla çalışma şekline göre kasıtlı olarak modellemeye çalışmıştır. Başka bir deyişle, yapay zeka sistemleri, beynimizi taklit etmek için açıkça tasarlanmıştır ve farklı bilgi ve davranış düğümlerini birbirine bağlayarak bilinç ve zeka yaratır. Bugün var olan beyin milyonlarca yıl boyunca evrimleşmiştir, oysa yapay zekanın bilişsel evrimi yıllar, hatta iyimser bir tahminle on yıllar içinde gerçekleşmekte ve mühendislerinin bile anlamakta zorlandığı şekillerde çalışmaktadır.
Sonuçlar şimdiden şaşırtıcıdır. Örneğin, Caltech bilim adamları kısa süre önce bir yapay zekanın, onlarca yıldır düzinelerce insan araştırmacının çalışmasına rağmen çözülemeyen inatçı bir fizik problemini çözdüğünü bildirdi. İnsanların zarif çözümler için estetik tercihlerinden ve fizikteki geleneksel entelektüel geleneklerden etkilenmeyen yapay zeka, bu sorunu “kaba kuvvet” yöntemiyle çözdü: önceki yöntemleri ve gelenekleri basitçe görmezden geldi. Bilim adamları yapay zekanın sonuçlarını incelediklerinde, ilk başta bunun “saçma” ve “karmaşık” olduğunu düşündüler, ta ki sonuç işe yarayana kadar. Yapay zekanın saçma olmadığı ortaya çıktı; önceki girişimlerden o kadar farklı bir mantık ve yaklaşım kullanıyordu ki, başlangıçta insanlar için anlaşılmazdı. En önemli başarı, hesaplama hızı değil, insan araştırmacılar için pratik olmayan bir ölçekte mimari tasarım alanını sistematik olarak keşfetme yeteneğiydi. İnsan kökenli olmasına rağmen, yapay zeka zekası giderek dereceden çok türde bir farklılık gibi görünmeye başladı.
Yaşanan Yapay Zekanın Sonuçları
Büyük ölçekte, sıkıştırılmış zaman çizelgeleri üzerinde genişletilmiş ve yeni deneysel-gelişimsel kapasite, insan refahına muhtemelen muazzam faydalar sağlayacaktır (örneğin, hastalıkları tedavi etmek, yaşam süresini uzatmak, enerji-iklim değişikliği sorununu çözmek). Aynı zamanda, zamanla biriken ve geleceğin yüksek düzeyde entegre AI ekosisteminde ağlar arasında anında paylaşılabilecek olan “teknik borç” olarak da bilinen, uyumsuz AI gelişmelerinin riskini de beraberinde getirir. Eski tarz, karbon bazlı donanım ve düşük voltajlı yazılımlarla çalışan insanların, yeni, silikon bazlı, ışık hızında zekayı yönetebileceğinden ne kadar eminiz? Yinelemeli yapay zekanın etkileri, insanlığın ilgilendiği her alana yayılma eğilimindedir. Küresel güvenliği ele alalım. Otonom sistemler, yeni gerçek dünya ve siber dünya silahları tasarlayıp kullanabilir veya finansal piyasaları istikrarsızlaştırabilirse, ekonomik ve sosyal düzenlemelerde büyük bir istikrarsızlık yaratabilirler. Yapay zeka sistemleri, zaten nükleer eşikte tehlikeli bir denge içinde olan dünyada, zaten korkutucu derecede kısa olan karar verme sürelerini daha da kısaltarak nükleer caydırıcılık mantığını altüst edebilir.
Yinelemeli yapay zekayı büyük ölçekte kullanan ilk ülkeler, savunma, teknoloji ve ekonomik güç alanlarında muazzam bir ilk hareket avantajı elde edebilir. ABD, Çin ve Avrupa Birliği halihazırda bu alana büyük yatırımlar yapıyor, ancak yinelemeli bir atılım bu rekabeti daha da yoğunlaştırarak, çok az kuralın olduğu, kısıtlamaların az olduğu ve potansiyel olarak varoluşsal sonuçları olan bir yapay zeka silahlanma yarışının riskini yaratabilir.
Bu nedenle, yapay zeka uyumu, güvenilirliği ve öngörülebilirliği üzerine yapılan mevcut araştırmalar çok önemlidir. OpenAI, Anthropic ve DeepMind’daki araştırmacılar, “anayasal yapay zeka” ve mekanik yorumlanabilirlik (modelin bunları nasıl ürettiğini keşfetmek için yapay zeka çıktılarını tersine mühendislik) gibi teknikleri deniyorlar. Bu teknikler, insanlara bu sistemlerin nasıl düşündüğü ve veri setleri değiştikçe ve beklenmedik uç durumlar ortaya çıktıkça bunların nasıl yolunda tutulabileceği konusunda daha iyi kontrol ve görünürlük sağlıyor. Ancak bu alanda çalışanlar bile, yarattıkları sistemlerin işleyişine ilişkin görüşlerinin sınırlı olduğunu kabul ediyorlar. Basit gerçek şu ki, ilaçlar için FDA, havacılık için FAA vb. gibi yönetişim çerçevelerimiz, on yıllar değil haftalar içinde gelişen teknolojiler tarafından ciddi şekilde zorlanacak. Yine, ihtiyaç duyulabilecek şey, yeni teknolojilerin güvenliğini hızlı bir şekilde değerlendirebilen yönetici yapay zekalar olabilir.
Makine Dünyasında İnsani Anlam
Son olarak, özyinelemeli yapay zeka, insan kimliğinin özüne inen sorular da ortaya atmaktadır. Tarih, makinelerin daha önce insanlara ait olan görevleri üstlendiğinde, amaç duygumuzun yeniden ayarlanması gerektiğini göstermektedir. Endüstriyel dokumanın yükselişi zanaatkarların yerini aldı; hesap makinesi, manuel hesaplamanın ekonomik değerini azalttı; dijital fotoğrafçılık, yüzyıllardır süren karanlık oda zanaatını aniden sona erdirdi. Robotlar, işçileri montaj hatlarından uzaklaştırdı. Her durumda, insan anlamı, bazen acı verici bir şekilde, bir görevi iyi yapmanın gururundan, insan becerisinin, yaratıcılığının ve yargısının hâlâ önemli olduğu yeni alanlar bulma zorluğuna kaydı. Yinelemeli yapay zeka, bu kez bir ticaret veya endüstri için değil, temel araştırma ve diğer entelektüel görevler için benzer bir hesaplaşmaya zorlayabilir. Zeka zirvesinde olan insanlar yerlerinden edilebilir.
Anlam ve amaç — sürekli, tartışılmaz insan ihtiyaçları — genellikle dünyayı şekillendirmekten ve ona katkıda bulunmaktan elde ettiğimiz tatmin duygusuyla bağlantılıdır. Düşünen, kendini yansıtan bir tür olduğumuz için, bu ihtiyaçlar Maslow’un hiyerarşisinin en üstünde yer alır; yapay zeka ile birlikte, en üstte birdenbire daha fazla kalabalıklaşabilir ve maddi mallar için değil, anlam, amaç ve tatmini keşfetmek için kalan fırsatlar için rekabet başlayabilir. Yapay zeka kaynaklı, tüm dünyayı kapsayan bir varoluşsal krizin bireyler, topluluklar ve uluslar için ne anlama geleceğini tahmin etmek zordur.
Herkes bu geleceğin yakın olduğu konusunda hemfikir değildir. Şüpheciler, mevcut sistemlerin gerçek özyinelemeyi başarmak için gerekli istikrar ve özerkliğe sahip olmadığını savunurlar. Haklı olabilirler, bu da uyum stratejilerini düşünmek için daha fazla zamanımız olacağı anlamına gelir. Ancak teknolojik hızlanmaya karşı bahis oynamak akıllıca görünmüyor. Özyinelemeli yapay zeka en uzak öngörüler kadar ileri gitmese bile, gidişatı bizi evrimsel odada artık en zeki veya en yaratıcı zeka olmamak ne anlama gelebileceği ile yüzleşmeye zorluyor.
Temel politika ikilemi, yeniliği boğmadan hızlandırmaktır. Bilimin özgürlüğünü, araştırma yapıp yapmama ve nasıl araştırma yapacağımız konusunda sınırlamaya çalıştığımız her seferinde, kendimizi potansiyel olarak faydalı atılımlardan mahrum bırakıyoruz. Aynı zamanda, kâr veya hâkimiyet arzusu, düşünceli düzenlemeleri gölgede bıraktığı için, “ortak mülkiyet trajedisi” de devreye giriyor. Sosyal medyada gördüğümüz gibi, yeni pazarlara girmek için acele etmek, çocuklar ve gençler gibi bazı nüfus kesimlerini riske atabilir. Yapay zeka konusunda ihtiyatlı olmak (önlem almak olmasa da) fazlasıyla haklı görünüyor.
Aynı zamanda, aşırı, önleme odaklı düzenlemeler, yapay zekayı yeraltına, denizaşırı ülkelere veya otoriter sistemlerin kollarına itebilir ve demokratik toplumları, olumsuz sonuçlar veya seçmenler tarafından denetlenmeyen rejimlere karşı savunmasız bırakabilir. Doğru dengeyi sağlamak, yeniliği engellemeden, gelişen tehditleri önceden tahmin eden ve bunlara yanıt veren yeni yönetişim modelleri gerektirecektir.
Temel uyum stratejileri, önlem amaçlı düzenlemeleri savunanlar ile daha hızlandırıcı bir bakış açısına sahip olanlar arasındaki yoğun diyalogdan ortaya çıkmalıdır. Bu tür liberal demokratik tartışma yapısı, her iki tarafın uzmanlarının zayıf argümanlar yerine en güçlü argümanlarla mücadele ettiği “çelik gibi” tartışmaları zorlama avantajı taşır. Bu, soruların ‘sol’ veya “sağ” olarak kodlandığı ve büyük ölçüde bu temelde yargılandığı, son derece kutuplaşmış toplumumuzda olağanüstü zor bir görevdir. Bir şekilde, hâlâ zamanımız varken kanıtlara, felsefi düşüncelere ve ödünleşimlerin tartılmasına daha fazla yer vermeliyiz.
Yapay zeka söz konusu olduğunda, karşı karşıya olduğumuz zorluk, bu yeni zeka bizim ötemize geçtiğinde (eğer geçmezse değil), kaçınılmaz olarak getireceği risklerden daha ağır basan şekillerde insanlığın gelişmesine fayda sağlamasını temin etmektir.
- AEI’de araştırma görevlisi olan Raphael Colard, bu makalenin yazılmasına katkıda bulunmuştur.
- Brent Orrell, American Enterprise Institute’da kıdemli araştırmacıdır.
