Yapay zeka ne kadar yakıyor?
27.06.2024 - 07:01 | Son Güncellenme:
Yapay zekaya sorulan her soru elektrik, su ve doğalgaz israfına neden oluyor. Her yıl enerji ihtiyacı yüzde 26 ila yüzde 36 oranında artan yapay zeka veri merkezleri iki yıl içinde Almanya kadar enerji harcamaya başlayacak.
İSMAİL ŞAHİN - Son 2 yıldır bir yapay zeka (YZ) furyasıdır gidiyor. Bilgisayarınıza indiriyorsunuz veya daha ileri seviyede bir şey istiyorsanız aylık 20 dolar (yaklaşık 650 TL) veriyorsunuz, size saniyeler içinde kod yazabiliyor, ödevinizi yapabiliyor, istediğiniz her alanda, istediğiniz her konuda, istediğiniz uzunlukta, istediğiniz dilde bir metin üretebiliyor. Fotoğraflardan sanat eseri çıkartabiliyor, istediğiniz sesi taklit edebiliyor, haber, hatta şarkı yazdırıp besteletebiliyorsunuz.
ChatGPT’nin yaratıcısı OpenAI gibi şirketler son bir yıl katlanarak büyüyerek değerini 80 milyar dolara çıkardı. Bu YZ’lerde kullanılan çipler ise Nvidia’yı 3 trilyon doları aşarak dünyanın en değerli ikinci şirketi konumuna yükseltti. Herkes YZ’nin büyüsüne odaklanıyor ama kimse, bu teknolojinin yuttuğu enerji kaynaklarından bahsetmiyor.
Aslında her YZ modeli farklı ama, genel anlamında şu prensipte çalışıyor. Yapay zeka şirketleri internetteki ve dijital olan bütün verileri indiriyorlar, sosyal medya, wikipedia, açık kaynaklar, kütüphaneler, gazete arşivleri ne varsa. YZ modeli bu dataları paralel işlem yapabilen çok büyük bilgisayar tarlalarında binlerce ekran kartıyla eğitiliyor. Bütün yazıları sayısal veriye çeviriyor ve bütün yazıları en anlamlı şekilde cevap vermeye çalışıyor. Siz burada bir arama yaptığınızda kelime kelime cevap veriyor bir sonraki kelimeyi tahmin ediyor, matematiksel cebir işlemi var. Çok karmaşık bir hesapla bir sonraki cümyeli yazıyor.
HER YIL KATLANIYOR
Her şirket kendi yapay zekasını geliştiriyor, bu da her bir şirketin bütün kaynakları tekrar tekrar taradığını gösteriyor. Yani aynı iş için yeniden çok yüklü miktarlarda enerji harcanıyor. Bu da her yıl yapay zekanın enerji ihtiyacını yüzde 26 ila yüzde 36 oranında artmasına neden oluyor.
Elektrik Enerjisi Araştırma Enstitüsü (EPRI) tarafından yayınlanan yeni bir rapora göre, yalnızca ABD’de, gelişmiş YZ modellerine güç sağlamakla görevli veri merkezlerinden gelen elektrik talebinin küresel olarak 2026 yılına kadar 1.000 TWh’ye ulaşabileceğini tahmin ediyor. Bu rakam 2022 seviyelerinin iki katı ve Almanya’nın toplam elektrik talebine eşdeğer.
Yapılan akademik araştırmalara göre sadece OpenAI şirketinin yapay zeka dil öğrenme modeli ChatGPT’nin eğitimi sırasında 1300 MWh enerji harcanmış. 2024 yılı verilerine göre şu anda dünyada 67.200 firma yapay zeka geliştiriyor. Bunun yanı sıra Türkiye gibi bazı hükümetler de kendi yapay zekalarını geliştirmek için girişim yapıyorlar. Bu kadar büyük enerjiyi yapay zeka şirketlerinin teknoloji tarlalarındaki GPU yani işlemciler sömürüyor. Kısa bir süre önce piyasa değeri 3 trilyon doları aşan Nvidia’nın GPU’ları sektörün yüzde 95’ini domine ediyor. Nvidia’nın yapay zeka eğitiminde kullanılan H100 ve A100 tipi CPU’larının her biri 300 watt güç harcıyor. ChatGPT3’ün eğitiminde bu GPU’lardan 2500 adet kullanıldı. Nvidia bu GPU’lardan 2 milyon adet sattı ve bu yıl içinde de 3.5 milyon adete ulaşmayı hedefliyor. Elon Musk geliştirdiği Grok modeli için kuracağı süper bilgisayarda bu B200 modeli daha gelişmiş GPU’lardan 300.000 adet kullanacağını açıkladı.
SOĞUTMAK DA YÜZDE 40 ENERJİ HARCIYOR
Tüm bunların yanı sıra, devasa GPU tarlalarının verimli çalışabilmeleri için soğutma gücüne ihtiyaç var. Soğutma yapay zekanın harcadığı enerjinin yüzde 40’ını oluşturuyor. Tahminler, yapay zekanın enerji taleplerini karşılamak için genellikle fosil yakıtlara dayanan yeni enerji santrallerine ihtiyaç duyulacağını gösteriyor. Enerji sağlayıcıları, bu enerji taleplerinin karşılanmasını sağlamak için şimdiden yeni enerji santrallerini devreye sokmak için acele ediyor. Goldman Sachs forestate, bu talepleri karşılamak için kullanılan enerjinin yüzde 60 civarında yenilenemeyen kaynaklardan geleceğini tahmin ediyor.
ENERJİ ŞİRKETLERİYLE BİRE BİR ANLAŞMA
YZ için teknoloji devleri 142.3 milyar dolar enerji anlaşması yaptılar. Bu anlaşmaları yaparken devasa karbon ayak izlerini de gizleyebilmek için yenilenebilir enerjiye yönelerek eleştiri oklarına karşı önlem alıyorlar. Microsoft geçtiğimiz martta Brookfield şirketi ile 10 milyar dolara 10.5 GW’lık anlaşma imzaladı. Amazon ABD’de 12,4 GW temiz enerji sözleşmesi yaparken, Meta 8,7 GW ve Google 6,2 GW sözleşme yaptı. ABD’de veri merkezlerinin elektrik talebini karşılamak için 20 doğalgaz santrali devreye girecek.
SU DA HARCIYOR
Yapay zeka için kullanılan işlemcilerin soğutulmasında aynı zamanda su da kullanılıyor. Bu veri merkezlerinde kullanılan kWh enerji başına 9 litreye kadar su kullanılıyor. Yapay zekaya sorulan her 25 soruda veri sisteminin soğutulması için yarım litreye yakın su tüketiliyor.
GÜNDE 1 MİLYON DOLARLIK ENERJİ
İş bununla da kalmıyor. YZ’yi eğittikten sonra işin ‘çıkarım’ aşaması var. Yani onu kullanma aşaması. Yapılan hesaplamalara göre bir YZ’nin eğitimi tükettiği enerjinin yüzde 20’sini kapsıyor. 88 farklı dil modeli üzerinde yapılan testlerde, her 1000 aramanın 0.002 kWh ve metin oluşturmanın ise 0.047 kWh enerji harcadığı tespit edildi. Görüntü oluşturmak ise 1000 çıkarım başına 2.907 kWh olarak gerçekleşti. Ortalama bir akıllı telefonu şarj edebilmek için 0.012 kWh enerji kullanılıyor. Yani yapay zeka kullanarak bir görüntü oluşturmak neredeyse bir akıllı telefonu şarj etmek kadar enerji harcıyor.
ÇÖZÜM UZAYDI
Sadece ChatGPT’nin 13 milyon aktif günlük kullanıcısı var. Bunlar günde ortalama 15 çıkarım yapıyorlar. Yani günde ChatGPT üzerinden 195 milyon çıkarım yapılıyor. ChatGPT’de bir çıkarım, Google’daki aradan 10 kat fazla enerji harcıyor. OpenAI bu kadar çıkarım talebine yetişebilmek için 3617 adet HGX A100 sunucusuna ihtiyaç duyuyor. Her sunucu 3000 Watt enerji tüketiyor. Hesaplamalara göre ChatGPT günde 260.42 MWh enerjiyi şebekeden çekiyor. Bu da günlük enerji sarfiyatının 1 milyon dolar olduğunu gösteriyor. Çıkarımsama evresi YZ’nin harcadığı enerjinin yüzde 40’ını oluşturuyor.
SAYILARLA YAPAY ZEKA
■ 20.000 firma yapay zeka uzmanı arıyor. Diploma dahi istemiyor.
■ Her 1000 çıkarım 0.002 kWh enerji harcıyor
■ Her 1000 metin oluşturma 0.047 kWh enerji harcıyor.
■ Her 1000 görüntü oluşturmak 2.907 kWh enerji harcıyor.
■ Nvidia’nın yapay zeka çipi 300 watt enerji harcıyor
■ Nvidia’nın H100 GPU’su toptan 24 bin dolara satılıyor.
■ Nvidia’nın B200 GPU’su 30 ila 40 bin dolar.
■ Meta bu yıl 600.000 H100 GPU satın alacak
■ ChatGPT 175 milyar parametre ile eğitildi.
■ GPT-3’ü eğitmek için 1.300 MWh elektrik kullanıldı. Bu da Konya Karapınar’da bululan Avrupa’nın en büyük güneş enerji santrali Kalyon GES’in kapasitesine eşdeğer.
■ ChatGPT ortalama bir ABD hanesinden 17.000 kat daha fazla elektrik kullanıyor.
■ Her gün ChatGPT’de 195 milyon çıkarım yapılıyor
■ Dünya genelinde 67.200 firma yapay zeka geliştiriyor.
■ Dünya genelinde 333.000’den fazla firma yapay zeka kullanıyor.
