Yapay zeka ve Rubicon
Yapay zekada “Rubicon” geçildi mi?
BM Genel Sekreteri Antonio Guterres’e göre böyle bir tehlike var.
Zirvenin açılışını yaparken dünya liderlerine şöyle seslendi:
“Üretken yapay zeka çok fazla umut vaat ediyor ama aynı zamanda bizi bir Rubicon’a ve kontrol edebileceğimizden daha fazla tehlikeye de sürükleyebilir.”
M.Ö 10 OCAK 49
“Rubicon” nedir açayım…
2000 yılı aşkın bir süre önce Komutan Jül Sezar, Galya seferini zaferle tamamlamış, ordularının başında Roma’ya dönmekte.
Roma o zaman bir Cumhuriyet.
Senatoda, “Sezar’ın yönetime el koyacağından” kuşkuları oluşur.
Sezar’a “Kuzey İtalya’daki Rubicon ırmağını geçmeden ordularını dağıtması ve kendisinin sembolik bir güçle Roma’ya gelmesi” için alınan, Senato kararı bildirilir.
ZARLAR ATILDI
Ancak…
Jül Sezar “Cumhuriyete noktayı koymak ve kendini imparator ilan etmekte” kararlıdır.
Rubicon ırmağını ordularıyla birlikte geçerken “Alea İacta Est” diye seslenir.
Bu Latince söylem “zarlar atıldı” ya da “ok yaydan çıktı” anlamındadır.
Jül Sezar, komutası altındaki lejyonları ile Roma’ya yürür.
Karşısına çıkarılan Pompey güçlerini yener ve İmparator olur.
BM Genel Sekreteri, “yapay zekanın insanlığı yok edebilme potansiyel tehlikesini kontrole almak için” bir “küresel yasa hazırlanmasını” önerdi.
Bu yasanın bir yıl sonraki BM toplantısına sunulması hedefleniyor.
Yapay zekanın “insanlığı yok edebilmek potansiyel tehlikesi” ile atom bombasının yaratılmasında öncülük eden Amerikalı fizikçi Oppenheimer arasında bir paralel de kurulmakta.
Oppenheimer, II. Dünya Savaşı’nı noktalayan Hiroşima ve Nagazaki’ye atılan atom bombaları dehşetini görmüş, dehşete düşmüştü.
“Nükleer silahların kullanılacağı bir savaşta insanlığın yok olabileceği tehlikesinin farkındaydı.”
Ömrünün kalan yıllarını “nükleer silah üretimine, araştırmalarına son verilmesi” için mücadeleyle geçirmişti.
Bu nedenle “vatana ihanet iddiasıyla” yargılanmıştı da.
Oysa…
Patlatılan atom bombasıyla Rubicon geçilmişti.
BM Genel sekreteri de yapay zeka ile Rubicon’un geçilmiş olma riskini dile getiriyor.
ELON MUSK DA
Tesla’nın CEO’su ve X’in (eski Twitter) sahibi Elon Musk’ın da aralarında bulunduğu bir gurup “tehlikeleri daha iyi araştırmak ve anlayabilmek için yapay zeka sistemlerini daha güçlü hale getiren çalışmaların 6 ay süreyle durdurulması” çağırısında bulundu.
27 binden fazla imzaya sahip mektup kısa...
“Güçlü yapay zeka sistemleri, ancak etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olunması sonrası geliştirilmelidir” deniyor.
Mektupta “yapay zeka uzmanları arasında en yeni sistemlerin, özellikle de Start-Up OpenAI tarafından tanıtılan GPT-4 teknolojisinin topluma zarar verebileceği yönünde yükselen endişelere” işaret ediliyor.
“Gelecekteki sistemlerin daha da tehlikeli olacağı inancı” vurgulanıyor.
…………………..
Montreal Üniversitesi’nde profesör ve yapay zeka araştırmacısı Yoshua Bengio “çok güçlü yapay zeka sistemlerinde neyin yanlış gidebileceğini anlama yeteneğimiz çok zayıf” diye yazdı.
ABD merkezli Yapay Zeka Güvenliği Merkezi düzinelerce önde gelen teknoloji uzmanının desteklediği bir bildiri yayınladı:
“En kötü senaryoda, yapay zekanın kontrolü ele geçirecek kadar akıllı hale gelebileceğinden ve bunun da insanlığın yok olmasına yol açabileceğinden kaygılıyız.”
İnsan beyniyle beslenen bir yapay zeka karikatürü yaklaşan tehlikeye işaret ediyor.
10 RİSK
Dünya yapay zeka teknolojilerinde müthiş bir hızla gelişmeye sahne olurken riskler de araştırılmakta.
FORBES’in sıraladığı risklerden bazıları şöyle…
1- Şeffaflık eksiği
Yapay zeka sistemlerinde karmaşık ve yorumlanması zor derin modellerde süreç ve teknolojinin altında yatan mantık açık ve anlaşılır olmuyor.
2- Önyargı ve ayırımcılık
Yapay zeka sistemleri önyargılı eğitim verileri veya algoritmik tasarım nedeniyle istemsiz de olsa toplumsal önyargıları sürdürebilir.
3- Gizlilik kaygıları
Yapay zeka teknolojileri, büyük miktarlarda kişisel verileri toplayıp analiz ederek “veri gizliliği ve güvenliği ile ilgili sorunları” gündeme taşımakta.
4- Etik aşılanma
Yapay zeka sistemlerine “ahlaki ve etik değerlerin aşılanması” önemlidir.
5- Güvenlik riskleri
Yapay zeka teknolojileri haydut devletlerin veya devlet dışı aktörlerin tehlikelerine ilişkin endişeleri arttırıyor.
Bu tür tehditlere karşı koruma sağlayan “küresel normlar ve düzenlemeler” oluşturmak için uluslararası işbirliği gerekiyor.
6- Güç yoğunlaşması
Yapay zeka gelişiminin az sayıda büyük şirket ve hükümet tarafından kontrol altına alınması büyük tehdit ve kötü egemenlik riskleridir.
7- Yapay zekaya bağımlılık
Yapay zeka sistemlerine aşırı güvenmek yaratıcılığın, eleştirel düşünme becerilerinin ve insan sezgilerinin kaybına yol açabilir.
İnsan girdisiyle yapay zeka destekli karar verme arasında denge kurulmalıdır.
8- Yasal düzenlemeler
Hukuk sistemlerinin teknolojik gelişmelere ayak uyduracak ve herkesin haklarını koruyacak şekilde gelişmesi gerekiyor.
9- Yanlış bilgi ve manipülasyon
Yapay zeka sistemleri internette dezenformasyon için kullanılıyor ve demokrasi için tehdit, faşizmin aracı olma potansiyel tehlikesini oluşturuyor.
Deepfake videolardan fikir birliği numarası yaparak, sahte haberler yayarak, yapay zeka sistemlerinin toplumsal güveni baltalama tehlikesi büyük.
Seçimlerde kullanılabilir.
Haydut devletler, teknoloji çeteleri, aşırı ideoloji grupları tarafından da…
10- İstenmeyen sonuçlar
Yapay zeka sistemleri bazen “öngörülmez” olabiliyor.
Bu da büyük karışıklıklar üretebilir.
Yapay genel zekanın, insan zekasını aşan gelişimi, insanlık için uzun vadeli endişeler üretiyor.
Yapay zeka insani değerler veya önceliklerle uyumlu olmayabileceğinden, istenmeyen ve potansiyel olarak yıkıcı sonuçlara yol açabilir.
…………………
Yeni antibiyotiklerin keşfedilmesi… Felçli insanların tekrar yürüyebilmesinin sağlaması… Küresel gelirde yıllık yüzde 7 artış… İnternet dünyasının Nobel’i Turing ödülü… İnsan ve yapay zeka arasında sınır; “özerk arzu…” Yapay zekaya “psikolojik Turing testi…”
Bir sonraki yazıya…