Yapay zekâ şirketleri bugüne kadar daha büyük, daha hızlı ve daha yetenekli modeller geliştirmek için yarıştı. Şimdi ise sektörün önde gelen isimleri arasında farklı bir tartışma büyüyor: En güçlü yapay zekâ sistemlerinin geliştirilme hızı bilinçli olarak düşürülmeli mi?
Tartışmanın merkezinde Anthropic CEO’su Dario Amodei bulunuyor. Amodei, “We Must Pace the Frontier” başlıklı yazısında en ileri yapay zekâ sistemlerinin geliştirilme hızının güvenlik çalışmalarının yetişebileceği bir seviyeye çekilmesini savundu.
Amodei neden yavaşlama istiyor?
Amodei’nin önerisi yapay zekâ çalışmalarını tamamen durdurmak değil. Anthropic CEO’su, teknolojinin sağlık, bilim ve ekonomik büyüme gibi alanlarda büyük faydalar yaratabileceğini düşünüyor ancak yapay zekâ modellerinin yeteneklerinin güvenlik önlemlerinden daha hızlı ilerlemesinin ciddi riskler doğurabileceğini savunuyor.
Bu nedenle en güçlü modellerin geliştirilme hızının düşürülmesini; bağımsız değerlendirmelerin güçlendirilmesini, sektör genelinde güvenlik standartları oluşturulmasını ve ülkeler arasında koordinasyon sağlanmasını öneriyor.
Altman ve Musk aynı noktada buluştu
Amodei’nin çağrısı teknoloji dünyasında dikkat çekici bir destek de buldu.
OpenAI CEO’su Sam Altman ile xAI’ın kurucusu Elon Musk, yapay zekânın geliştirilme hızının güvenlik açısından yeniden değerlendirilmesi gerektiği yönündeki çağrıya destek verdi.
Böylece normalde yapay zekâ yarışının farklı cephelerinde bulunan üç önemli isim, en gelişmiş sistemlerin kontrolü konusunda benzer bir noktada buluşmuş oldu.
Ancak asıl sorun bundan sonra başlıyor.
Rakipler de yavaşlayacak mı?
Bir yapay zekâ şirketinin geliştirme hızını azaltması, rakiplerinin de aynı kararı alacağı anlamına gelmiyor.
BBC Teknoloji ve Yapay Zekâ Editörü Zoe Kleinman’ın analizinde dikkat çektiği temel sorunlardan biri de bu. Bir şirket güvenlik gerekçesiyle frene basarken rakibinin daha güçlü bir model geliştirmeye devam etmesi, teknoloji yarışındaki dengeleri hızla değiştirebilir.
Bu nedenle “yavaşlama” çağrısı yalnızca yapay zekâ güvenliğiyle ilgili teknik bir tartışma değil; aynı zamanda büyük bir rekabet problemi.
ABD-Çin yarışı denklemi değiştiriyor
Sorunun bir de ülkeler arasındaki boyutu bulunuyor.
ABD, dünyanın en gelişmiş yapay zekâ modellerine sahip olma yarışında Çin ile rekabet ediyor. Amerikan şirketlerinin geliştirme hızını düşürmesi ancak Çinli laboratuvarların aynı yolu izlememesi halinde teknolojik üstünlüğün el değiştirebileceği endişesi var.
Bu durum, şirketlerin tek başlarına alacağı bir yavaşlama kararının neden yeterli olmayabileceğini gösteriyor.
Amodei’nin uluslararası koordinasyon çağrısının arkasındaki temel gerekçelerden biri de bu.
Yapay zekâyı kim denetleyecek?
Bir başka büyük soru ise olası bir yavaşlamanın nasıl uygulanacağı.
Şirketler geliştirdikleri modellerin ne kadar güçlü olduğunu ve hangi çalışmaların yürütüldüğünü bağımsız kuruluşlara açıklamak zorunda mı olacak? Ortak güvenlik standartlarını kim belirleyecek? Ülkeler aynı kuralları kabul edecek mi?
Yavaşlama fikrine yönelik eleştirilerin önemli bir bölümü bu sorular üzerinde yoğunlaşıyor.
Eleştirmenlere göre “yapay zekâyı yavaşlatmak” kolay ifade edilen ancak uygulama yöntemi henüz netleşmemiş bir öneri.
Milyarlarca dolarlık yatırım ne olacak?
Yapay zekâ yarışının arkasında devasa bir ekonomik sistem de bulunuyor.
Şirketler gelişmiş çiplerden veri merkezlerine, enerji altyapısından yeni modellere kadar yapay zekâ için büyük yatırımlar yapıyor. Daha güçlü modellerin daha seyrek ortaya çıkması, yatırımcıların bu yatırımlardan beklediği getiriyi de etkileyebilir.
Bu nedenle yapay zekânın geliştirilme hızının düşmesi yalnızca teknoloji şirketlerini değil; çip üreticilerini, veri merkezi yatırımlarını, enerji talebini ve teknoloji şirketlerinin değerlemelerini de etkileyebilecek bir gelişme olabilir.
Frene basmak mümkün mü?
Yapay zekâ tartışmasında gelinen nokta birkaç yıl öncesinden oldukça farklı.
Bir dönem ağırlıklı olarak iş kayıpları, eğitimde kopya, telif hakları ve yanlış bilgi gibi sorunlar konuşulurken artık teknolojiyi geliştiren şirketlerin yöneticileri de çok daha güçlü sistemlerin kontrolü konusunda uyarılarda bulunuyor.
Buna karşılık başka bir görüş, henüz nasıl gelişeceği tam olarak bilinmeyen bir teknolojinin aşırı düzenlenmesinin inovasyonu yavaşlatabileceğini savunuyor.
Dolayısıyla yapay zekâ dünyasının önündeki soru artık yalnızca yeni modellerin ne kadar güçlü olacağı değil.
Şirketlerin, rekabetin en yoğun olduğu anda gerçekten frene basıp basamayacağı da önümüzdeki dönemin en önemli teknoloji tartışmalarından biri olacak.
Kaynak: Dario Amodei – We Must Pace the Frontier; BBC / Zoe Kleinman
