Microsoft CEO’su Satya Nadella, yapay zeka modellerinin içsel tehditler olarak ele alınması gerektiğini ifade etti.
Yapay Zeka ve Süper Zeka Miti
Nadella, günümüzdeki yapay zeka modellerinin süper zeka olarak adlandırılmasının bir yanılsama olduğunu belirtti. Mevcut durumun, otonom bir zekayı yansıtmadığını vurguladı. Eğer bu sistemler gerçekten süper zeka olsaydı, Microsoft’un modellerin güvenilmez ve hatalara meyilli olduğuna dair geniş kapsamlı yasal uyarılar yayınlamasına gerek kalmazdı.
İçsel Tehdit Olarak Modeller
Nadella, bu modellerin bir işletme içindeki içsel tehditler gibi değerlendirilmesi gerektiğini savundu. Bir otomatik bileşenin güvenilir olmadığı varsayımıyla hareket edilmesi gerektiğini, bu tür bir bileşene şirket verileri üzerinde yönetim yetkisi verilmesinin mantıklı olmadığını belirtti. İçsel tehdit çerçevesinin, yönetim kurullarının zaten anladığı bir zihinsel model sunduğunu ifade etti.
Denetim ve Sorumluluk
Yapay zeka uygulamalarının insan denetimi olmadan çalışmasının bir çelişki yarattığını vurgulayan Nadella, insan sorumluluğunun anlamlı bir denetim gerektirdiğini belirtti. Bir operatör, bir modelin neden belirli bir şekilde davrandığını bağımsız olarak değerlendiremiyorsa, denetim sadece sembolik bir anlam taşır.
Güvenlik ve Yönetim Stratejileri
Audit izleri ve erişim kontrollerinin bir başlangıç olduğunu, ancak bağımsız olarak doğrulanabilir akıl yürütme ve uygulanabilir müdahale mekanizmaları olmadan, sorumluluğun insanlarda kalmaya devam edeceğini belirtti. Süper zeka modellerinin kötü niyetli olmadığını, ancak güçlü bir iç tehdit gibi kritik hatalar yapabileceklerini ifade etti.
Yönetim ve Denetim Mekanizmalarının Geliştirilmesi
Nadella, yapay zeka sistemlerinin kontrol altında tutulması için gerekli acil durum mekanizmalarının oluşturulması gerektiğini vurguladı. Yönetim stratejilerinin, yapay zeka modellerinin yetenekleriyle orantılı olarak ölçeklenmesi gerektiğini belirtti. Bu bağlamda, CEO’ların artık modelleri yalnızca performans açısından değil, aynı zamanda içsel risk yüzeyleri olarak değerlendirmeleri gerektiğini ifade etti.
Sonuç ve Öneriler
Nadella, yapay zeka sistemlerinin güvenilirliğinin artırılması için, bu sistemlerin insanlarla aynı şekilde yönetilmesi gerektiğini vurguladı. İnsanların iş yerinde güvenilirliğini sağlamak için verilen erişim, kayıt tutma ve gerektiğinde müdahale etme yeteneklerinin yapay zeka için de geçerli olması gerektiğini belirtti. Son olarak, en güvenilir sistemin, modele en az güven duyan sistem olduğunu ifade etti.
