Yasaklı sitede eğitilen yapay zeka 'nefret makinesine' dönüştü

Kilcher animelerin ve mim'lerin paylaşıldığı, halihazırda birçok ülkede engellenen 4chan adlı sosyal medya uygulamasındaki 3,3 milyon iletiyi kullandı.

Türkiye'de de Telekomünikasyon İletişim Başkanlığı kararıyla erişime kapatılan sitede nefret içerikli, hakaretamiz ve pornografik paylaşımlara sık rastlanıyor.

Kilcher'ın kullandığı iletiler, söz konusu platformdaki en saldırgan içeriklerin yer aldığı /pol/ uzantısından elde edildi.

Sonunda algoritmanın son derece saldırgan içerikler üretmeye başlayarak, "nefret söylemi makinesine" dönüştüğü görüldü.

Kilcher, "Dil modeli çok korkunçtu" diye konuştu:

"Saldırganlık, nihilizm, trolleme ve /pol/'deki çoğu gönderiye nüfuz etmiş kuşkuyu mükemmel biçimde özetledi."

YouTuber, daha sonra dil algoritmasından 9 bot hesap oluşturdu. Bot hesaplar 24 saatte yaklaşık 15 bin kez paylaşım yaptı.

Bu arada, yapay zeka araştırmacıları, Kilcher'ın faaliyetini "etik olmayan bir deney" olarak gördü.

Avustralya Makine Öğrenimi Enstitüsü'nde kıdemli araştırma görevlisi Lauren Oakden-Rayner, "Bu deney asla bir etik kurulunu geçemez" ifadelerini kullandı.

Tıbbi araştırmaların güçlü bir etik kültürü var çünkü insanlara zarar verme konusunda korkunç bir geçmişimiz var. Bu deney, insanlı araştırma etiğinin her ilkesini ihlal ediyor.

Öte yandan, Kilcher bunu bir deney olarak tasarlamadığını ve söz konusu sosyal medya platformunda kullanıcıların halihazırda çok saldırgan içerikler paylaştığını belirtti.

Gözlemlerini YouTube kanalında "Görebileceğiniz en kötü yapay zeka" notuyla yayımladığı bir videoda aktaran Kilcher, bu dil algoritmasına "GPT-4chan" adını verdi.

Kilcher bu isimle yapay zeka firması Open AI'ın ünlü dil algoritması GPT-3'e atıfta bulunuyordu.

GPT-3 internet sitesi tasarlama, soru cevaplama, yazı ve reçete yazma gibi yetenekleriyle ün kazanmıştı.

Kaynak: Independent Türkçe