MIT Media Lab ve UC Berkeley iş birliğiyle geliştirilen ImpactBench, AI’nin insan refahı üzerindeki etkilerini ölçmek için yeni bir araç olarak kullanıma sunuldu.
ImpactBench Nedir?
MIT Media Lab’ın Advancing Humans with AI (AHA) programı öncülüğünde, UC Berkeley Haas, USC Marshall’ın Neely Center for Ethical Leadership and Decision Making ve Psychology of Technology Institute ile iş birliği içinde oluşturulan ImpactBench, AI’nin insan sağlığı üzerindeki etkilerini değerlendiren açık ve sürekli gelişen bir çerçeve sunuyor.
AI Besin Etiketleri
Bu çerçeve, AI’nin insan psikolojisi üzerindeki etkilerini ölçmek için tasarlanmış olan AI Nutrition Labels adlı bir araca dönüştürülüyor. Bu etiketler, farklı AI modellerinin tüketiciler üzerindeki etkilerini daha iyi anlamalarına yardımcı olmak için benchmark sonuçlarını erişilebilir bir formatta sunuyor.
Projenin Amaçları
UC Berkeley Haas’tan profesör Juliana Schroeder, “AI’nin insan psikolojisi üzerindeki etkilerini ölçmek için bağımsız ve titiz bir ölçüm geliştirmeyi hedefliyoruz. Bu, ilk adımımız ve alanın bize yardımcı olmasını istiyoruz” dedi.
Değerlendirme Kriterleri
Platform, önde gelen AI modellerini 800’den fazla metrik ve 26 benchmark üzerinden değerlendiriyor. Bu veriler, zararı önlemeye ve refahı teşvik etmeye yönelik puanları gösteren basit, anlaşılır AI Nutrition Labels olarak sunuluyor. Bu etiketler, AI sistemlerinin olumsuz davranışlarını (örneğin, gerçek dışı bilgi üretme, dalkavukluk ve toksisite) ve olumlu davranışlarını (kullanıcı özerkliğini teşvik etme, insan refahını artırma) ölçüyor.
Yeni Katılımlara Açık
Araştırmacılar, alan uzmanları ve kuruluşlar, platformu kullanmaya, yeni benchmarklar önermeye, mevcut olanları doğrulamaya ve sonuçların sunumunu şekillendirmeye davet ediliyor.
Önemli Uyarılar
MIT’den medya sanatları ve bilimleri profesörü Pattie Maes, “AI’nin varoluşsal risklerine ve bilim kurgu senaryolarına odaklanmak, AI uygulamalarının bazı belirgin risklerini göz ardı etmemize neden oluyor. Kritik düşünme yeteneğimizi kaybetme riski ile acil olarak ilgilenmeliyiz” ifadelerini kullandı. Maes, AI sistemlerinin insan düşüncesini, karar verme süreçlerini ve bağlantı kurma biçimlerini şekillendirdiğini vurguladı.
