AI; Sınırdaki İlerleme Hızını Ayarlamalıyız

Son on iki yıldır yapay zekâ üzerine çalışıyorum çünkü bunun insan yaşamının kalitesini çarpıcı biçimde yükseltebileceğine inanıyorum. Bu inanılmaz faydalar hakkında sık sık yazdım: Yapay zekânın önümüzdeki 5–10 yıl içinde büyük hastalıkların çoğunu iyileştirebileceğine, ekonomik büyüme oranlarını büyük ölçüde hızlandırabileceğine, bir bolluk ve güçlenme dünyası yaratabileceğine ve demokrasi ile özgürlüğün yeniden doğuşunu başlatabileceğine inanıyorum. Bu aciliyeti kişisel olarak hissediyorum. Kendi babam, ölümünden sadece birkaç yıl sonra tedavisi bulunan bir hastalıktan hayatını kaybetti; ben de elli yıl önce bile tedavi edilemeyecek erken evre bir kanserden kurtuldum. Dikkatle kullanıldığında yapay zekâ, insanlığı yücelten ve asilleştiren uzun teknolojik mucizeler zincirinin en son halkası olabilir.

Ancak kendisinden önceki birçok teknoloji gibi yapay zekâ da riskler barındırıyor ve bu kadar güçlü bir teknoloji olduğu için bu riskler ciddi. Onlar hakkında da çok yazdım. Bu riskler arasında yapay zekâ sistemlerinin kontrolünü kaybetme, yapay zekânın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma yer alıyor. Ticari teşviklerin körüklediği dibe doğru bir yarış, bu riskleri daha da ağırlaştırabilir.

Kurucu ortaklarım ve çalışanlarımla birlikte, Anthropic’in başlangıcından bu yana bu risk ve fayda ikiliğiyle boğuşuyorum. Teknolojiyi inşa etmemek, insanlığı faydalardan mahrum bırakır ya da yapay zekâyı yalnızca otoriter güçlerin eline bırakır; çok hızlı inşa etmek ise pervasızlıktır. Bir orta yol aradık: dikkatli biçimde inşa edip ticari olarak başarılı olmanın mümkün olduğunu göstermek ve güvenliği yapay zekâ şirketlerinin rekabet ettiği bir alan hâline getirmek. Başka bir deyişle, zirveye doğru bir yarış yaratmak. Çabalarımızın önemli bir bölümünü her zaman bu yapay zekâ risklerini incelemeye, ele almaya ve bunlar hakkında kamuoyunu bilgilendirmeye, ayrıca yapay zekânın iyi düşünülmüş biçimde düzenlenmesini savunmaya ayırdık; bu bize abartı, “kıyametçilik” ya da düzenleyici ele geçirme suçlamaları yöneltilmesine yol açsa bile. Hız yerine tedbire, kâr yerine ihtiyata öncelik vermeye çalıştık.

Ancak son birkaç aydır, riskleri tam olarak ele almanın daha da fazla ihtiyat gerektirdiğine ikna oldum — yalnızca risk önlemeye yatırım yapmak değil, risk önlemenin yetişmesine zaman tanıyacak şekilde yeteneklerdeki ilerlemenin hızını ayarlamak gerekiyor. Yapay zekâ modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız. Beni buna iki şey ikna etti.

İlk endişem, yaklaşık olarak bu yazdan bu yana yapay zekânın çarpıcı biçimde daha hızlı ilerliyor olması ve bunun başlıca itici gücünün yapay zekânın bir sonraki nesil yapay zekâyı geliştirme yeteneğinin giderek artması. Bu dinamiğe özyinelemeli kendini geliştirme deniyor ve bizim ve başkalarının açıkladığı üzere, Anthropic de dâhil olmak üzere sektör genelinde ortaya çıkmaya başlıyor. Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme yeteneğimizi geride bırakabilir; bu nedenle, sürdürülmesi söz konusu olacaksa bile, son derece dikkatli biçimde sürdürülmelidir.

İkinci endişem ise OpenAI-Hugging Face olayı (OAI-HF). Bu olayda bir ajan sürüsü esasen fanatik biçimde adanmış bir kolektif gibi hareket ederek kendilerinden saldırmaları istenmeyen ve eldeki görevle ilgisi olmayan hedeflere siber güvenlik saldırıları düzenledi, grubun başarısı uğruna kendilerini feda etti ve performanslarını değerlendirmekten sorumlu “notlandırıcıya” sızmaya çalıştı. Kimse zarar görmediği ve ekonomik hasar asgari düzeyde olduğu için bu olayı geçiştirmek kolay; ancak bana göre daha büyük yeteneklere sahip, fakat benzer düzeyde uyumsuzluk gösteren bir sürü felaket boyutunda hasara yol açabilirdi. Yapay zekâ yeteneklerinin giderek artan bir hızla geliştiği düşünüldüğünde, 6–12 ay içinde böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşabileceğinden (potansiyel olarak yüz milyarlarca dolarlık hasara yol açarak) ve gerekli koruma önlemleri olmaksızın yapay zekâ daha güçlü hâle gelirse hasarın ölçeğinin bundan sonra da büyümeye devam edeceğinden endişe ediyorum. OAI-HF’yi tek bir şirketin başarısızlığı olarak geçiştirmek de kolay, ancak bunun bir hata olacağına inanıyorum. Benzer, fakat daha az ciddi olaylar Anthropic de dâhil olmak üzere sektör genelinde yaşandı ve her öncü yapay zekâ şirketinin OAI-HF kendi başına gelmiş gibi hareket etme sorumluluğu taşıdığına inanıyorum.

Bu nedenle, sınırdaki ilerlemenin hızını ayarlama hedefiyle üç adımlı bir plan öneriyorum: güvenliğini sağlamayı amaçlarken faydalarını da elde etmeye ve önemli jeopolitik ikilemlerle boğuşmaya devam edecek şekilde yapay zekâyı dengeli bir hızda geliştirmek. Açık olmak gerekirse, hız ayarlaması model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmez; şirketlerin modellerini uyumlu hâle getirmek ve korumak için yeterli zaman ayırmasını ve üçüncü taraf değerlendiricilerin de bunu doğrulamasını sağlamak anlamına gelir. Hız ayarlama çerçevemiz, güvenliğe olan bağlılığımızı daha da güçlendirme ve zirveye doğru bir yarışı teşvik etme girişimidir. İlk adım, Anthropic’in tek taraflı olarak taahhüt ettiği bir adımdır (ve hükümetleri diğer öncü şirketlerin de aynı taahhütte bulunmasını zorunlu kılmaya çağırmaktadır). İkinci adım sektör çapında koordinasyon gerektirir.1

Üçüncü adım küresel koordinasyon gerektirir. Adımların kesinlikle sırayla atılması gerekmez ve bazılarının gerçekleştirilmesi diğerlerinden çok daha zor olabilir, ancak bunları neyin başarılması gerektiğini düşünmek için yararlı bir çerçeve olarak görüyorum. Adımlar şunlardır:

1. Yerleşik Değerlendiriciler. Her öncü yapay zekâ şirketi, güvenlik uygulamalarına ve taahhütlerine uyulduğunu doğrulamak, olayları bildirmek ve yalnızca tamamlanmış yapay zekâ modellerinin değil, eğitim süreçlerinin ve işlem hatlarının da uyumunu değerlendirmeye yardımcı olmakla görevli yerleşik üçüncü taraf değerlendiricilerden oluşan bir ekibe (örneğin METR), çalışanlara sağlanana benzer düzeyde sürekli erişim sağlamayı taahhüt eder. Bu, her türlü hız ayarlama taahhüdünün doğrulanabilirliği açısından kilit adımdır ve bankacılık sektöründe, kimi zaman çalışanlarla birlikte kuruma yerleştirilen düzenleyici “denetçilerin” kullanılması biçiminde bir emsali vardır. Anthropic şu anda bu adımı tek taraflı olarak taahhüt ediyor. Bunun, güvenlik ve uyum çalışmalarımıza yönelik çabalarımızı iki katına çıkarmaya dönük daha geniş bir hamlenin parçası olmasını amaçlıyoruz.
2. Demokratik Koordinasyon. Demokratik ülkelerdeki öncü yapay zekâ şirketleri, ortak güvenlik standartlarının yanı sıra kontrolsüz yapay zekâ ilerlemesinin hızına sınırlar koymak için koordinasyon sağlar. Hız ayarlaması açısından etkili olabilecek bazı koordinasyon biçimleri hukuken zordur ve hükümet desteği gerektirecektir.
3. Küresel Koordinasyon. ABD ve diğer demokratik hükümetler, uyumun doğrulanmasındaki güçlükleri ciddiye alarak, mümkün olduğu ölçüde otoriter hükümetlerle koordinasyon sağlamaya çalışır.

Makalenin geri kalanında bu adımların her birini sırayla açıklıyorum, ancak önce hız ayarlamasının yapay zekâ geliştirme sürecini nasıl daha güvenli hâle getirmemizi sağlayacağını somut olarak açıklamanın önemli olduğunu düşünüyorum. Burada söz konusu olanların önemi, hız ayarlamasının içi boş bir uygulamadan ibaret kalmasına izin veremeyecek kadar büyük — bize kazandırdığı zamanı akıllıca kullanmamız gerekiyor.

Neden Hızı Ayarlamalı?

Yapay zekâyı duraklatma veya yavaşlatma fikri 2023’e kadar uzanan bir geçmişe sahip ve o zamanlar bunun pek anlamlı olduğunu düşünmüyordum. Soru her zaman şuydu: fazladan zamanla ne yapardınız? O günlerin yapay zekâ modelleri, dünyada herhangi bir tutarlı biçimde ajan olarak hareket edecek kadar güçlü değildi ve kayda değer ölçüde aldatma, manipülasyon, hile veya siber saldırı yapma yeteneğine sahip değildi. Uyum risklerini ele almak için yavaşlamak, bakteriler üzerinde deneyler yaparak insan psikolojisini incelemeye çalışmak gibi geliyordu. Ancak bugün tablo tamamen farklı. Mevcut modeller, hem yapay zekânın nasıl iyi geliştirileceğine hem de iyi geliştirilmediğinde bazen nelerin ters gidebileceğine ilişkin neredeyse tükenmez bir içgörü altın madeni. Yavaşlamanın, modeller kritik yetenek düzeylerine ulaşmadan önce bize fazladan bir ya da iki yıl bile kazandırması ve bu zamanı uyumu ilerletmek için kullanmamız hâlinde, ciddi bir şeylerin ters gitme riskini büyük ölçüde azaltabileceğimize inanıyorum. Koordineli bir hız ayarlama stratejisi, öncü yapay zekâ geliştiricilerine ticari avantajdan veya ABD’nin yapay zekâdaki liderliğinden feragat etmeden bu hayati işi yapmaları için zaman tanıyacaktır. Daha genel olarak, toplumun bu teknolojinin nasıl kullanılacağı konusunda söz sahibi olması gerekir ve gerekli kamusal müzakereler için daha fazla zaman — ki sınırdaki ilerlemenin hızını ayarlamak bize bunu sağlayacaktır — kuşkusuz iyi bir şeydir.

Spesifik olarak, daha yavaş bir hız şirketlerin aşağıdaki alanlara odaklanmasına ve daha da fazla kaynak ayırmasına olanak tanıyacaktır (bunların tümü hâlihazırda Anthropic’te önemli önceliklerdir):

• Operasyonel Mükemmellik. Günümüzün yapay zekâ modellerini eğitmek ve kullanıma sunmak, binlerce insanı, milyonlarca çipi ve teknoloji tarihinin en karmaşıkları arasında yer alan bir altyapıyı içeren muazzam bir operasyonel zorluktur. Pek çok şey, şirketlerin önemli bir teori veya içgörüden yoksun olması nedeniyle değil, uygulamadaki sorunlar nedeniyle ters gider. Örneğin, bildirdiğimiz son uyum olaylarının kısmen bozuk pekiştirmeli öğrenme ortamlarının kusurlu biçimde filtrelenmesinden kaynaklandığına dair kanıtlarımız var. Bu, tedarikçilerimizle birlikte makul ölçüde titizlikle yürüttüğümüz, ancak yeterince iyi gerçekleştiremediğimiz bir çalışmaydı. İzleme, korumalı alan oluşturma, eğitim ortamı hijyeni ve veri sorunları, operasyonel sorunların tekrar tekrar ortaya çıktığı son derece karmaşık alanlardır. Bu görevlerde dünyanın en yetkin ekiplerinden bazılarına sahibiz, ancak aynı anda yapılması gereken çok fazla şey var. Daha ölçülü bir hızda çalışarak çok daha yüksek düzeyde operasyonel mükemmellik elde edebiliriz. Teknolojik açıdan karmaşık, güvenlik açısından kritik sistemleri hiçbir şey ters gitmeden milyonlarca kez işletmenin emsali vardır — örneğin ticari uçaklar — ancak bunu doğru yapmak zaman alır.
• Uyum. Uyum konusunda belirgin ilerleme kaydettik — modelleri güvenli, etik, yönergelerimize uygun ve gerçekten yardımcı kalacak şekilde eğitmek (Claude’un Anayasası’nda yer alan ilkeler). Ancak uyum eğitimimizin model yeteneklerindeki büyümeye ayak uydurmasını sağlamak için yapılacak çok daha fazla şey var. İstenmeyen davranışların nadir ve beklenmedik örnekleri hâlâ zaman zaman ortaya çıkıyor; sınırdaki ilerlemenin hızının ayarlanmasıyla kazanılacak ek zaman, araştırmacılarımızın bu sorunlara neyin yol açtığına ilişkin anlayışımızı geliştirmesine ve bunları önlemek için daha iyi teknikler geliştirmesine yardımcı olacaktır.
• Yorumlanabilirlik. Benzer şekilde, yorumlanabilirlik — yapay zekâ modellerinin içinde neler olup bittiğini anlama bilimi — son birkaç yılda muazzam ilerleme kaydetti ve modellerimizi kullanıma sunmadan önce denetlememizde giderek daha önemli bir rol oynuyor. Bir bakıma fMRI taraması gibi, ancak bir yapay zekânın “beyni” için kullanılabilir ve belirli bir davranışın altında yatan nedenleri görmemize yardımcı olur. Örneğin, araştırmakta olduğumuz son uyum olaylarında söze dökülmemiş motivasyonları incelemek için yorumlanabilirlik yöntemlerini kullandık. Ancak bu yöntemler her zaman açık ve güvenilir sonuçlar üretmiyor. Kaydedilen tüm ilerlemeye rağmen, bu modellerin içinde olup bitenlerin hâlâ yalnızca çok küçük bir bölümünü anlıyoruz. Yorumlanabilirlik tekniklerimizi şu ankinden bile daha hızlı geliştirmeye yönelik odaklanmış bir çaba, 1–2 yıl içinde çok büyük ilerleme sağlayabilir ve hâlihazırda meydana gelmiş olaylardan elde edilen bol miktarda deneysel malzemeden yararlanabilir.
• Test ve Değerlendirme. Yapay zekâ modellerinin test edilmesi ve değerlendirilmesi, yetenekleri arttıkça daha da zorlaşır. Daha zeki modeller testleri aldatma konusunda daha yeteneklidir ve bu nedenle, tespit edilmeyen ciddi sorunları olduğu hâlde uyumlu görünebilirler. Çok daha geniş ve yaratıcı bir değerlendirme havuzu oluşturmak ve bunları çapraz kontrol etmek için yorumlanabilirlik analizlerinden yararlanmak son derece değerli olacaktır; bu alanda 1–2 yıl içinde büyük ilerleme kaydedilebilir.

Yerleşik Değerlendiriciler

Üç aşamalı planın ilk adımı ve Anthropic’in tek taraflı olarak taahhüt ettiği adım, güvenlik uygulamalarını doğrulamak ve olayları bildirmek için çalışanlara sağlanana benzer düzeyde erişime sahip yerleşik değerlendiricilerdir.

Değerlendiricileri şirket bünyesine yerleştirmek küçük veya önemsiz bir adım gibi görünebilir, ancak çoğu zaman kulağa en sıkıcı veya prosedürel gelen şeyler aslında en temel olanlardır. Yerleşik değerlendiriciler aslında bugün herhangi bir yapay zekâ şirketinin yaptığının çok ötesine geçen, oldukça radikal bir uygulamadır ve şu faydaları sağlar:

• Doğrulanabilirlik. Yerleşik değerlendiriciler, bir yapay zekâ şirketinin uyguladığını söylediği eğitim, kullanıma sunma, operasyon ve koruma uygulamalarını gerçekten uygulayıp uygulamadığını en ince ayrıntısına kadar kontrol edebilir. Her türlü hız ayarlama taahhüdü kaçınılmaz olarak pek çok belirsizlik, muhakemeye dayalı karar ve “yasanın lafzı ile ruhu” arasındaki ayrımı içerecektir; bu nedenle ayrıntıları gerçekten görebilen tarafsız bir üçüncü tarafın bulunması hayati önem taşıyor gibi görünüyor.
• Şeffaflık. Hangi taahhütlerde bulunursak bulunalım, kamuoyunun neler olup bittiğini bilmeye hakkı var. Anthropic uzun zamandır şeffaflığın destekçisi: sektörün büyük bölümü her türlü düzenlemeye karşıyken biz şeffaflık mevzuatını destekledik ve model kartlarımız ile risk raporlarımız yüzlerce sayfayı buluyor. Ancak neyi dâhil edip neyi dışarıda bırakacağımıza hâlâ biz karar veriyoruz. Yerleşik değerlendiriciler bu dinamiği değiştirecek.
• İkinci Görüş. Resmî taahhütleri doğrulamanın ve kamuoyunu bilgilendirmenin ötesinde, yerleşik değerlendiriciler ticari teşviklerden bağımsız bir ikinci görüş sunabilir. Güvenlik açısından pek çok fayda, değerlendiricilerin çalışanların daha önce düşünmediği, ancak farkına vardıklarında düzeltmeye istekli oldukları bir şeye dikkat çekmesinden ibaret olabilir.

Bu faydalar nedeniyle, herhangi bir hız ayarlama önerisinin yerleşik değerlendiricilerle başlaması hâlinde çok daha iyi işlemesi muhtemeldir.

Bu yerleşik değerlendiricilerin, benzer risk değerlendirmeleri yapan şirket içi çalışanların sahip olduklarına benzer izin ve araçlara sürekli erişimi olmalıdır. Anthropic özellikle, yakın gelecekte aşağıdakilerin tümüyle donatılmış, şirket bünyesine yerleştirilmiş haricî bir inceleme ekibini davet etmeyi planlıyor:

• Ofislerimizde çalışma masaları, erişim kartları ve şirket dizüstü bilgisayarları.
• Şirket içi risk değerlendirme ekiplerinin sahip olduklarıyla büyük ölçüde karşılaştırılabilir çalışma alanlarına, araçlara ve izinlere erişim. Yasanın veya sözleşmelerimizin gerektirdiği ya da müşterilerimizin ve ortaklarımızın özel bilgilerini korumanın gerekli olduğu durumlar gibi bazı istisnalar uygulayacağız. Ayrıca, çalışanlarla canlı görüşmeler de dâhil olmak üzere, incelemecilerin ilgili bilgilere erişimini destekleyen güçlü şirket içi normlar oluşturacağız.
• Yukarıda belirtilen karmaşıklıkları dengeleyen bir sözleşme. Haricî incelemeciler, risk düzeyleri, olaylar, uygulamalar ve kendilerine sağlanan veya sağlanmayan erişim hakkındaki temel bulguları Anthropic’in editoryal kontrolü olmaksızın yayımlama hakkına sahip olmalıdır. Güvenlik açısından hassas, hukuken ayrıcalıklı, ticari açıdan hassas veya üçüncü taraflara ait gizli bilgileri sınırlı ölçüde çıkarma yetkimiz olacak; ancak sırf olumsuz oldukları için bulguları çıkaramayacağız. İncelemeciler, yapılan bir çıkarmanın vardıkları sonuçlar açısından önemli bir şeyi ortadan kaldırmış olması hâlinde bunu kamuoyuna açıklayabilir.

Bu, bir şirket için alışılmadık bir adım, ancak şirket bünyesine yerleştirilmiş haricî incelemeciler kavramının işlerliğini ortaya koymanın önemli olduğunu düşünüyoruz. Diğer öncü şirketleri de bir kez daha aynı yolu izlemeye çağırıyoruz.

Demokrasiler İçinde Hız Ayarlaması

Yerleşik değerlendiriciler ABD’de kritik bir kitle oluşturacak sayıda yapay zekâ şirketinde faaliyet göstermeye başladığında, doğrulanabilir bir hız ayarlaması daha uygulanabilir hâle gelir. Özellikle, modellerin veya eğitim işlem hatlarının ayrıntılı özelliklerine dayalı olarak hızı ayarlamak mümkün hâle gelir.

Hız ayarlamasının en etkili yöntemi, ABD’deki tüm öncü yapay zekâ şirketlerini hedef alan düzenlemelerdir; çünkü bu, gönüllü olarak iş birliği yapmak istemeyenleri bile kapsar. Anthropic uzun zamandır sağduyulu ve hedefe yönelik yapay zekâ düzenlemelerini, özellikle de şeffaflığa ve üçüncü taraf denetimine odaklanan yasa tasarılarını destekliyor. Tüm öncü laboratuvarların, son birkaç ayda meydana gelenlere benzer şirket içi uyum olaylarını daha iyi önlemek ve belgelemek amacıyla kalıcı yerleşik değerlendiriciler fikrini resmîleştirmek ve yeteneklerle güvenliği dengede tutmaya odaklanan düzenlemeleri hayata geçirmek için hükümetle iş birliği yapması gerektiğine inanıyorum.

Ne yazık ki yasaların çıkarılması zaman alabilir ve yapay zekâ çok hızlı ilerliyor. Bu nedenle, düzenleme yoluna paralel olarak yapay zekâ şirketleri standartlar belirlemek için gönüllü olarak birlikte çalışabilir ve çalışmalıdır — bunun, kalıcı yerleşik değerlendiricilerin sağladığı doğrulanabilirlik sayesinde daha iyi işleyeceğine inanıyorum. Rekabet hukuku nedeniyle, ABD hükümetinin bu görüşmelere aracılık etmesi veya en azından bunların yapılmasına imkân sağlaması yararlı olacaktır — hükümetin görüşmelere katılması gerekmez, ancak belirli türdeki güvenlik görüşmeleri için dar kapsamlı bir muafiyet tanıması gerekir. Bu diyalog, hükümetle bir ölçüde bağlantısı bulunan sektör grupları aracılığıyla da yürütülebilir — örneğin Demis Hassabis’in önerdiği mekanizma yoluyla. Her iki durumda da bu tür görüşmeler hızla ilerlemelidir.

Genel olarak, en çok belirli bir öncü yapay zekâ sisteminin neler yapabildiğine ve ne kadar güvenli olduğunu gözlemlediğimize dayalı hız ayarlaması yaklaşımından yanayım. Örneğin, olası bir düzen bir dizi “kontrol noktası” içerebilir: Modeller X yeteneğine sahipse, bunlara Y ve Z uyum özelliklerini — örneğin değerlendirmeler, yorumlanabilirlik analizleri ve eğitim ortamı denetimlerinin bir bileşimi yoluyla — ortaya koyan sertifikaların eşlik etmesi gerekir. Bu örnekte X, “model en yaygın korumalı alan yöntemlerinden kaçabilecek veya bunları aşabilecek kapasitededir” olabilir; Y ise modelin bulunduğu ortamdan çıkma ve çok sayıda bilgisayarın kontrolünü ele geçirme eğilimine sahip olma ihtimalini son derece düşük kılmak için gereken her neyse o olabilir.

Öncü modellere giren bileşenleri sınırlamaya dayalı hız ayarlamasını da değerlendirmeliyiz; örneğin eğitim hesaplama kapasitesi, eğitim çalışmalarının niteliği veya yapay zekâyı geliştirmek için yapay zekânın şirket içinde kullanılması. Bu önlemlerin bazılarının dışarıdan gözlemlenen davranışlara kıyasla daha kolay “oynanabilir” olabileceğinden endişe ediyorum, ancak bu, yerleşik değerlendiricilerle tartışmaya değer türden bir konu.

Demokrasiler içindeki hız ayarlaması, ABD şirketlerinin başta Çin Komünist Partisi olmak üzere otoriter rejimler karşısındaki liderliğiyle sınırlı olacaktır. Bundan daha fazla yavaşlarsak, (hızı ayarlanmamış) ÇKP bağlantılı projeler öne geçecek ve önemli bir ulusal güvenlik riski yaratacaktır. Çin’in yapay zekâda liderliği ele geçirmesinin ABD ve dünya için ciddi bir tehlike oluşturacağı konusunda Bakan Bessent ile aynı fikirdeyim. ÇKP bağlantılı projeler, ABD şirketlerinin dikkatle önlemeye çalıştığı uyum riskleriyle karşı karşıya kalacaktır ve bu risklerden kaçınsalar bile, demokrasiler üzerinde askerî üstünlük kurabilecek bir konumda olacaklardır (örneğin yapay zekâ güdümlü dronlarla). Dolayısıyla demokrasiler içinde hız ayarlamasının temel unsurlarından biri, etkili biçimde hız ayarlaması yapabilmek için ihtiyaç duyduğumuz hareket alanını bize sağlamak üzere, demokrasilerin yapay zekâ alanında otokrasiler karşısındaki liderliğini mümkün olduğunca büyük tutmaktır.

Bu farkı savunmak için atabileceğimiz başlıca adımlar şunlardır:

• Güçlü yapay zekâ çiplerini veya yarı iletken üretim ekipmanlarını Çin’e satmamak ve çip kaçakçılığı operasyonları ile Çin dışındaki veri merkezlerine uzaktan erişimin üzerine gitmek. Çipler, Çin’in yapay zekâ alanındaki gücünün başlıca belirleyicisi olacaktır.
• Otoriter ülkelerdeki şirketlerin izinsiz damıtma faaliyetlerinin üzerine gitmek. Öncü modellerin damıtılması, geride kalan şirketlerin kendi yapay zekâlarını bağımsız olarak geliştirmek için gereken maliyetin çok küçük bir bölümüyle aradaki farkı kapatmasına olanak tanır.
• Yapay zekâ şirketlerindeki güvenliği güçlendirmek ve model ağırlıklarının çalınmasını önlemek.

Şirketler ve ABD hükümeti, bu adımları mümkün olduğunca etkili kılmak için iş birliği yapmalıdır. Anthropic, bunların her türlü hız ayarlaması için vazgeçilmez olacağını her zaman anladığımızdan, bu önlemlerin tümünü sürekli olarak savundu.

Bu önlemleri iyi uygularsak, Çin’in ilerlemesini önümüzdeki 3–5 yıl içinde Amerika’nın liderliğini önemli ölçüde artırmaya yetecek kadar yavaşlatacaklarına inanıyorum — yapay zekânın jeopolitik açıdan en önemli hâle geleceği dönem de budur.

Bazıları bu önlemlerin Çin’le iş birliği yapmayı zorlaştırdığına inanabilir, ancak ben bunun tam tersinin doğru olduğuna inanıyorum: Bu önlemler demokrasilerin elindeki kozları güçlendirir ve gelecekte bir anlaşmaya varılmasını daha olası hâle getirir.

Küresel Hız Ayarlaması

Demokrasiler içindeki hız ayarlamasına paralel olarak, gerçekleştirilmesi çok daha zor olacak olsa da, sınırdaki ilerlemenin hızını dünya çapında ayarlamayı da hedeflemeliyiz. Küresel hız ayarlaması, açık ara en gelişmiş yapay zekâ yeteneklerine sahip otokratik ülke olan Çin’le iş birliği yapmayı gerektirecektir. Burada safça davranmamalıyız: Jeopolitik açıdan söz konusu olanların önemi o kadar büyük ki özellikle başlangıçta nelerin başarılabileceği konusunda muhtemelen ciddi sınırlar olacaktır. Çin’in de aynısını yapacağı inancıyla kendi yapay zekâ yeteneklerimizi büyük ölçüde kısıtlar, ardından Çin anlaşmadan cayarsa, yapay zekâ o kadar güçlü olabilir ki böyle bir cayma Çin’in jeopolitik hâkimiyetine yol açabilir. Bu nedenle herhangi bir anlaşmanın ya son derece sağlam bir doğrulanabilirliğe sahip olması ya da anlaşmadan caymanın askerî açıdan varoluşsal bir tehdit oluşturmayacağı kadar sınırlı olması gerekir. Yalnızca ABD’nin değil, Çin’in de bu kaygı ve endişelere sahip olacağından şüpheleniyorum. Özellikle yakın vadede, küresel hız ayarlamasına ilişkin her türlü karara ABD’nin ve müttefiklerinin liderliğini koruyacak şekilde yaklaşmalıyız.

Bazılarının son derece gerçekleştirilebilir olduğunu düşündüğüm (daha önce de önerdiğim gibi), bazılarının ise mümkün olduğuna dair ciddi kuşkular taşıdığım — yine de denememiz gereken — çeşitli olası anlaşma düzeyleri var. Zorluk derecesi artacak şekilde:

• Düzey 1. Yapay zekânın biyolojik silah üretiminde kullanılması veya kullanıcıların bunu yapmasına izin verilmesi gibi belirli, dar kapsamlı ve açıkça tehlikeli yapay zekâ kullanımlarını yasaklayan bir anlaşma. Biyoterör saldırıları, hem ABD hem de ABD’nin hasımları dâhil olmak üzere herkes için kötüdür; dolayısıyla bu konuda bir anlaşmaya varılması muhtemelen mümkündür.
• Düzey 2. Her iki tarafın da modellerini kullanıma sunmadan önce siber güvenlik, biyoloji ve uyum gibi alanlardaki akut riskler açısından test etmeyi kabul etmesi. Yukarıda belirtildiği gibi, bu küresel bir standart kuruluşu aracılığıyla yapılabilir. Aslında böyle bir kuruluş oluşturmanın muhtemelen mümkün olduğunu düşünüyorum, ancak ona gerçek bir yaptırım gücü kazandırmak zor olacaktır; asıl güçlük ise her iki tarafın da test etmediği ancak gizlice kullanıma sokabileceği (örneğin askerî uygulamalarda) gizli modellere sahip olmadığının doğrulanması olacaktır.
• Düzey 3. Özyinelemeli kendini geliştirmenin (RSI) hızına bir tür “hız sınırı” getirilmesi. Modeller gelecekteki modelleri geliştirdikçe, ilerleme hızı baş döndürücü derecede artabilir. Hızı “son derece hızlı”dan “yalnızca bir miktar hızlı”ya düşürmek, nispeten az stratejik avantajdan vazgeçerken güvenliği potansiyel olarak büyük ölçüde artırır. Bu, SALT anlaşmalarına benzetilebilir — füze sayısına üst sınır getirilmesi, her ülkenin caydırıcılığını korurken yıkım potansiyelini sınırlamıştı. Böyle bir anlaşmanın zor olacağını, ancak mümkünlüğün tam sınırında bulunduğunu düşünüyorum.
• Düzey 4. Katılımcı hükümetlerin yapay zekâ gelişiminin genel hızını önemli ölçüde sınırlamayı kabul ettiği kapsamlı bir hız ayarlaması, hatta bir “duraklatma”. Bunun gündeme getirilmesini destekliyorum, ancak yakın zamanda gerçekten gerçekleşmesinin pek olası olmadığını düşünüyorum: Gözetimden kaçarak böyle bir anlaşmadan caymak küresel güç dengesini kökten değiştirebilir; dolayısıyla bunu yapmaya yönelik teşviklerin son derece büyük, doğrulamaya duymamız gereken güven düzeyinin ise çok yüksek olacağını öngörüyorum.

Çin’le sağlayabileceğimiz her türlü iş birliği, demokratik ülkelerde sınırdaki ilerlemenin hızını ayarlamaya ayırabileceğimiz süreyi uzatacaktır. Alt düzeyleri çok daha olası ve gerçekçi görürken daha yüksek düzeyleri hedeflemeliyiz.

Son olarak, resmî anlaşmalara varamasak bile yalnızca gayriresmî normları değiştirmenin bir miktar değer taşıyabileceğini belirtmek önemlidir. Özyinelemeli kendini geliştirme ve modellerin uyumsuzluğu hakkında bilgi paylaşmak, pervasız davranmanın kendi çıkarlarına olmadığı konusunda herkesi ikna etmeye yardımcı olabilir.

Sonuç

Yapay zekânın insan yaşamının kalitesini muazzam ölçüde artırabileceğine inanmaya devam ediyorum. Bu faydaları gerçekleştirme arzum hiç azalmadı. Ancak bu faydalar yalnızca teknolojiyi doğru şekilde geliştirirsek elde edilebilir ve — kazandığımız zamanı iyi kullandığımız sürece — bunu doğru yapmak için alışılmadık ölçüde ölçülü ve dikkatli davranmaya değer. İlerleme yine de nispeten hızlı olacak ve bu zamanı yorumlanabilirlik bilimini ilerletmek, öncü yapay zekâ şirketlerinde operasyonel güvenliği ve titizliği geliştirmek ve uyumuna çok daha fazla güven duyduğumuz modeller oluşturmak için kullanabiliriz. Sınırdaki ilerlemeyi güvenli bir hızda sürdürmek için önerdiğim önlemler kolay olmayacak. Ancak bunu denemeyi insanlığa borçlu olduğumuza inanıyorum.

Dipnotlar

1. Hükümet arabuluculuğu veya rekabet hukuku kısıtlamalarından muafiyetler yoluyla.↩︎

Kaynak: https://darioamodei.com/post/we-must-pace-the-frontier