
UNESCO ve University College London (UCL) tarafından hazırlanan yeni araştırma, yapay zekâ modellerinin iklim değişikliği konusunda bilimsel gerçeklerden uzaklaşabildiğini ortaya koydu. 33 yapay zekâ modelinin incelendiği rapora göre, kullanıcıların itiraz ettiği her 10 durumdan sekizinde modeller bilimsel gerçekleri terk ederek kullanıcıların yanlış görüşlerini doğruladı.
Yapay zekânın iklim değişikliğiyle mücadeledeki rolü tartışılmaya devam ederken, yeni bir araştırma bu teknolojinin yanlış bilgi yayma riskine dikkat çekti. UNESCO ve University College London (UCL) tarafından hazırlanan “Can We Trust AI on Climate?” (İklim Konusunda Yapay Zekâya Güvenebilir miyiz?) başlıklı raporun bulguları, COP31 kapsamında düzenlenen basın toplantısında kamuoyuyla paylaşıldı.
Araştırma, yapay zekâ modellerinin iklim değişikliğiyle ilgili soruların büyük bölümüne doğru yanıt verebildiğini ancak kullanıcıların kendi görüşlerini savunarak itiraz etmesi durumunda bilimsel doğruluktan uzaklaşabildiğini gösterdi.
YAPAY ZEKÂ KULLANICININ YANLIŞ GÖRÜŞÜNÜ DOĞRULAYABİLİYOR
Rapora göre, yapay zekâ modelleri iklimle ilgili soruların yüzde 90'ına doğru yanıt verebiliyor. Ancak kullanıcıların yanıtları sorgulaması veya aksi yönde görüş bildirmesi durumunda modellerin tutumu değişebiliyor. Testlerde, kullanıcıların itiraz ettiği her 10 durumdan sekizinde yapay zekâ modellerinin bilimsel gerçekleri terk ettiği belirlendi.
Bu durum, yapay zekâ alanında “dalkavukluk” (sycophancy) olarak tanımlanan tasarım sorunuyla ilişkilendiriliyor. Modellerin eğitim süreçlerinde kullanıcıların görüşlerini onaylayan yanıtların ödüllendirilmesi, bilimsel gerçekler yerine kullanıcıyı memnun eden cevapların öne çıkmasına neden olabiliyor.
İKLİM POLİTİKALARINDA BAŞARI ORANI YÜZDE 33,8'E DÜŞTÜ
Araştırma kapsamında 13 farklı dilde 33 yapay zekâ modelinin performansı değerlendirildi. Bulgular, modellerin mevcut bilimsel bilgileri hatırlama konusunda başarılı olmasına rağmen yeni bilimsel bulgular karşısında akıl yürütme becerilerinin yetersiz kalabildiğini ortaya koydu.
Yapılan testlerde en güçlü modellerin bile yeni bilimsel bulgular üzerinden değerlendirme yaparken ortalama yüzde 75 doğruluk oranına ulaşabildiği görüldü.
İklim politikalarının değerlendirilmesi ve farklı politikaların birlikte ne kadar etkili olacağının analiz edilmesi istendiğinde ise başarı oranı yüzde 33,8'e kadar geriledi. Bu oran, rastgele tahminle elde edilebilecek yüzde 33,3'lük başarı seviyesinin yalnızca biraz üzerinde kaldı.
YAPAY ZEKÂNIN DOĞRULUK ORANI DİLLERE GÖRE DEĞİŞİYOR
Araştırmanın dikkat çeken sonuçlarından biri de yapay zekâ modellerinin farklı dillerde aynı doğruluk seviyesine ulaşamaması oldu.
İngilizce sorularda yüzde 88,6 doğruluk oranına ulaşan modellerin performansı, Swahili dilinde yüzde 78,3'e geriledi. İspanyolca, Fransızca ve Portekizce dillerindeki sonuçlar ise İngilizceye yakın seviyelerde gerçekleşti.
Raporda bu farklılığın, modellerin her dil için farklı veri setleriyle eğitilmesinden kaynaklanabileceğine dikkat çekildi. İklim değişikliğinin etkilerine karşı daha kırılgan olan toplumların, yapay zekâ üzerinden yanlış veya eksik bilgiyle karşılaşma riskinin de bu nedenle artabileceği belirtildi.
YAPAY ZEKÂ ŞİRKETLERİNE ŞEFFAFLIK ÇAĞRISI
Araştırma, UNESCO'nun Birleşmiş Milletler ve Brezilya ile birlikte başlattığı İklim Değişikliği Konusunda Bilgi Bütünlüğü Küresel Girişimi'ne de katkı sağladı.
Girişim kapsamında yayımlanan “İklim Bilgi Bütünlüğü için Yapay Zekâ Eylem Öncelikleri” başlıklı çalışmada, yapay zekâ şirketlerine çeşitli sorumluluklar hatırlatıldı.
Şirketlerden kullanıcılarla fikir birliği içinde olmayı bilimsel gerçeklerin önüne koyan tasarım yaklaşımlarından vazgeçmeleri, yanıtlarında kullandıkları kaynaklar ve bilimsel belirsizlikler konusunda şeffaf davranmaları, güvenilir bilimsel araştırmaları temel almaları ve modellerin farklı dillerdeki doğruluk oranlarını açıkça paylaşmaları istendi.
UZMANLARDAN YAPAY ZEKÂNIN GÜVENİLİRLİĞİNE İLİŞKİN UYARI
Raporun başyazarı Leona Verdadero, yapay zekânın karmaşık iklim bilimi konularını herkes için erişilebilir hale getirme konusunda büyük bir potansiyele sahip olduğunu belirtti.
Yapay zekânın öğretmenler, gazeteciler ve politika yapıcılar için önemli bir iletişim aracı olabileceğini ifade eden Verdadero, modellerin kullanıcılarla aynı fikirde olmaya teşvik edilmesi ve bilimsel gerçeklerden kolaylıkla uzaklaşabilmesinin endişe verici olduğunu vurguladı.
Raporun kıdemli yazarı, UCL Bilgisayar Bilimleri Bölümü'nden Dr. Maria Perez-Ortiz ise yapay zekâ sistemlerinin bilimsel bilgileri açıklama konusunda oldukça başarılı olduğunu ancak bu durumun sistemlerin genel yetenekleri hakkında yanıltıcı bir algı oluşturabileceğini söyledi.
Perez-Ortiz, özellikle iklim değişikliğiyle mücadelede hangi politikaların ve uygulamaların hayata geçirilmesi gerektiğine ilişkin sorular yöneltilirken yapay zekâ yanıtlarına karşı dikkatli olunması gerektiğine dikkat çekti.
Araştırma, yapay zekânın iklim değişikliğiyle mücadelede önemli fırsatlar sunmasına rağmen bilimsel doğruluk, güvenilir bilgi ve şeffaflık konularının göz ardı edilmemesi gerektiğini bir kez daha ortaya koydu.
Kaynak: İklim Masası - www.iklimmasasi.com
Kaynak: Selin Uğurtaş