Sloganlara Başvurmadan Yapay Zekânın Çevresel Maliyeti Nasıl Ölçülür?
Yapay zekânın çevresel maliyetine dair faydalı bir tahmin elde etmek için öncelikle hangi faaliyetin ölçüldüğünü, ölçümün nerede başlayıp nerede bittiğini ve hangi birimin raporlandığını sorun. Bir modeli eğitmek ile bir komutu yanıtlamak farklı iş yükleridir; elektrik kullanımı emisyonlarla aynı şey değildir ve tek bir komuta ait bir rakam, bir veri merkezinin toplam talebini temsil edemez. Pratik bir karşılaştırma, sonuç çıkarmadan önce bu ayrımları kayda geçirir.
İşe eğitimi çıkarımdan ayırarak başlayın
Eğitim, bir modeli oluşturmak veya güncellemek için kullanılan hesaplamadır. Sunum (serving) olarak da adlandırılan çıkarım ise dağıtımdan sonra bir çıktı üretmek için kullanılan hesaplamadır. Tek bir eğitim çalıştırması belirli bir süre boyunca önemli miktarda enerji tüketebilirken, çıkarım kullanıcılar ve istekler genelinde sürekli tekrarlanır. Zamanla, tekrarlanan sunumların toplamı eğitimin yanında dikkate değer bir boyuta ulaşabilir; ancak göreceli paylar modele, kullanıma ve hesaba katılan döneme bağlıdır. İkisi, herhangi bir birleşik toplam sunulmadan önce ayrı ayrı ölçülmeli ve raporlanmalıdır. Uluslararası Enerji Ajansı hem eğitimi hem de dağıtımı veri merkezi faaliyetleri olarak tanımlamaktadır ve Google tarafından yapılan teknik bir çalışma, model eğitimini sınırlarının dışında tutarak özellikle çıkarımı ölçmektedir. IEA, “Energy demand from AI” ve Elsworth ve ark., “Measuring the environmental impact of delivering AI at Google Scale”
Eğitim için faydalı raporlama; çalıştırmanın süresini, tüketilen enerjiyi, kullanılan donanımı ve rakamın yalnızca ana hızlandırıcıları mı yoksa daha geniş bilgi işlem sistemini mi kapsadığını içerir. Çıkarım için ise hizmeti ve görevi tanımlayın: örneğin, belirtilen bir ölçüm dönemi boyunca adı geçen bir asistan için metin üretimi. Raporlanan birimin istek başına mı, belirteç (token) başına mı, üretilen çıktı başına mı yoksa toplam hizmet enerjisi mi olduğunu belirtin. Bu paydalar farklı sorulara yanıt verir. İstek başına bir değer; komut ve yanıt uzunluğuna, model yönlendirmesine ve iş yükü koşullarına göre değişebilir; belirteç başına bir değer ise doğrudan belirteçlerle orantılı olarak ölçeklenmeyen genel giderleri gizleyebilir.
Rakamları karşılaştırmadan önce sınırları kontrol edin
Ölçüm sınırı, hangi ekipmanların ve faaliyetlerin hesaba katıldığını belirler. Dar kapsamlı bir tahmin, aktif GPU'lar veya diğer yapay zekâ hızlandırıcıları tarafından çekilen elektriği sayabilir. Daha geniş kapsamlı bir sunum tahmini; ana bilgisayar CPU'larını ve belleğini, erişilebilirlik için ayrılmış boşta bekleyen makineleri, güç dönüşümünü, soğutmayı ve diğer veri merkezi genel giderlerini de içerebilir. Bazı sınırlar tesis dışındaki ağı, son kullanıcı cihazlarını, model eğitimini veya veri depolamayı hariç tutar. Bir tahmin kendi içinde geçerli olabilir, ancak sistemin daha fazla (veya farklı) kısımlarını hesaba katan bir tahminle karşılaştırma yapmak için yine de uygunsuz olabilir.
Google'ın yayımladığı Gemini Apps tahmini, sınırların neden önemli olduğunu göstermektedir. Kapsamlı sunum yöntemi kullanılarak Mayıs 2025 için medyan metin komutu tahmini 0,24 vat-saat (Wh) iken; aynı çalışmada ana bilgisayar CPU ve belleğini, boşta bekleyen makineleri ve tesis genel giderlerini hariç tutan daha dar bir yöntem 0,10 Wh sonucunu vermiştir. Bunlar evrensel bir yapay zekâ komutu değerleri değil, tek bir ürün, tarih, metrik ve muhasebe sınırı için geçerli sonuçlardır. Çalışma ayrıca eğitimi ve son kullanıcı cihazlarını da hariç tutmaktadır. Google Cloud, “Measuring the environmental impact of AI inference” ve beraberindeki teknik makale
Görev başına herhangi bir sayıyı okurken kısa bir sınır beyanı arayın. Bu beyan toplamın yalnızca hızlandırıcıya mı yoksa tüm yığına mı ait olduğunu, veri merkezi genel giderlerinin dâhil edilip edilmediğini, eğitim ve veri merkezi dışı faaliyetlerin kapsanıp kapsanmadığını belirtmelidir. Bu bilgi eksikse, sayıyı karşılaştırma açısından eksik kabul edin. Başka bir kaynaktan sessizce bir genel gider çarpanı eklemeyin: tesis verimliliği ve iş yükü koşulları farklılık gösterir.
Birimleri iddiadan ayırmayın
Elektrik yaygın olarak küçük bir görev için vat-saat (Wh), daha büyük toplamlar için kilovat-saat (kWh) ve tesis veya bölgesel toplamlar için megavat-saat ya da teravat-saat cinsinden raporlanır. Bir kWh 1.000 Wh'ye eşittir. Vat (W) veya kilovat (kW) cinsinden ölçülen güç, belirli bir andaki veya bir aralıktaki bir orandır; Wh veya kWh cinsinden enerji ise zaman içinde birikir. Dolayısıyla, bir veri merkezinin güç kapasitesine ilişkin bir ifade, tek başına bir yıl boyunca ne kadar elektrik kullandığını belirtmez.
Emisyonlar genellikle görev başına gram CO₂e veya yıllık ton CO₂e gibi karbondioksit eşdeğeri kütlesi olarak ifade edilir. Elektrik kaynaklı emisyonları tahmin etmek için enerji kullanımı, değeri şebekeye, zaman aralığına ve muhasebe yöntemine bağlı olan bir elektrik emisyon faktörüyle birleştirilir. Ekipman üretiminden kaynaklanan gömülü emisyonlar ayrı bir bileşendir ve seçilen bir yönteme göre donanım ömrü veya kullanımı boyunca dağıtılabilir. Enerjiyi ve emisyonları ayrı sonuçlar olarak tutun; daha düşük bir emisyon rakamı, daha düşük elektrik kullanımını değil, daha az karbon yoğunluklu bir elektrik tedarikini yansıtıyor olabilir. Su kullanımı da bir diğer farklı metriktir ve kendine ait bir sınıra ve birime ihtiyaç duyar.
Donanım verimliliğini sonucun tamamı değil, girdilerden biri olarak değerlendirin
Donanım verimliliği, birim enerji başına faydalı hesaplama veya birim faydalı iş başına enerji olarak ifade edilebilir. Ancak bir çipin vat başına tepe performansı, gerçek bir hizmet görevini tamamlamak için kullanılan enerjiyle aynı şey değildir. Gerçek dünya sonuçları ayrıca kullanım oranına, yazılım ve model tasarımına, iş yükü boyutuna, toplu işleme (batching), sistem destek ekipmanına ve tesise bağlıdır. IEA, sunucuların veri merkezi elektriğinin ortalamada büyük bir kısmını oluşturduğunu, soğutma ve diğer bileşenlerin paylarının ise tesis türüne göre önemli ölçüde değiştiğini belirtmektedir. IEA, “Energy demand from AI”
Kişisel bir karşılaştırma için, mümkünse sağlayıcının görev başına ölçülen enerjisiyle birlikte, aynı hizmet ve dönemdeki aynı tanımlanmış görevi tercih edin. İki modeli veya hizmeti karşılaştırıyorsanız görev, çıktı uzunluğu, ölçüm sınırı ve atıl kapasiteye yönelik yaklaşımın karşılaştırılabilir olduğunu kontrol edin. Bir donanım özelliği veya kıyaslama testi (benchmark) verimlilik potansiyelini açıklamaya yardımcı olabilir, ancak üretimdeki enerji kullanımını tek başına belirleyemez.
Veri merkezi toplamlarını komut başına kesinlik için değil, ölçeği anlamak için kullanın
Bir tesisin veya ülkenin toplamı, istek başına yapılan bir tahminden farklı bir soruya yanıt verir. Toplam elektrik tüketimi; sunulan tüm iş yüklerini, tesis ekipmanını ve seçilen bir aralıktaki talep değişikliklerini yansıtır. Böyle bir toplamı tahmini istek sayısına bölmek, yalnızca pay ve payda aynı hizmetleri, konumları ve dönemi kapsıyorsa kaba bir ortalama oluşturabilir. Paylaşılan altyapı yapay zekâ dışı iş yüklerine de hizmet eder; bu nedenle, tahsis yöntemi bunu haklı çıkarmadığı sürece tüm tesis elektriğini yapay zekâya atfetmek yapay zekânın payını abartmak olur.
ABD Enerji Bakanlığı'nın 2024 Lawrence Berkeley Ulusal Laboratuvarı raporu, ABD veri merkezlerinin geçmişteki elektrik kullanımını tahmin etmekte ve 2028'e kadar bir dizi gelecekteki talep senaryosu sunmaktadır. Bu, ulusal bir veri merkezi analizidir; bireysel bir yapay zekâ isteğinin enerjisinin doğrudan ölçümü değildir. Ölçeği ve senaryo yaklaşımı, toplam talepteki belirsizliği anlamak için faydalıdır; dar kapsamda tanımlanmış bir sunum görevi için ise ürün düzeyindeki operasyonel telemetri daha uygundur. Lawrence Berkeley National Laboratory, “2024 United States Data Center Energy Usage Report”
Belirsizliği gizlemek yerine tanımlayın
Belirsizlik; operasyonel verilere eksik erişim, ölçülen iş yükleri yerine tahmin edilenler, boşta kalma kapasitesine ilişkin varsayımlar, değişen donanım kullanımı ve paylaşılan ekipmanın nasıl tahsis edildiğine ilişkin tercihler yoluyla ortaya çıkabilir. Emisyonlar; elektrik konumu ve zamanlaması, emisyon faktörleri ve satın alınan elektriğin muhasebeleştirilme şekliyle ek bir çeşitlilik kazandırır. Eksiksiz sayaç verileri bulunmadığında veri merkezi toplamları da tahminlere ve senaryolara dayanır. IEA, mevcut ve gelecekteki veri merkezi elektrik tüketiminde önemli ölçüde belirsizlik olduğunu açıkça belirtmektedir. IEA, “Energy demand from AI”
Bu nedenle faydalı bir rapor gözlem süresini belirtir, sınırı tanımlar, rakamların doğrudan ölçüldüğünü mü yoksa modellendiğini mi tespit eder ve temel varsayımları ortaya koyar. Tahminlerin senaryolara veya tahsis tercihlerine bağlı olduğu durumlarda bir aralık verin veya bu tercihlerin sonucu nasıl etkilediğini açıklayın. Temeldeki ölçüm bunu desteklemediğinde çok sayıda ondalık basamak sunmaktan kaçının. Bir medyan, ortalama veya temsilî görev de doğru şekilde etiketlenmelidir: her biri bir iş yükü dağılımını farklı şekilde özetler ve hiçbiri her bir isteği tek başına tarif etmez.
Bir iddiayı değerlendirmek için pratik bir kontrol listesi
Yapay zekâya ilişkin çevresel bir rakamı tekrarlamadan veya karşılaştırmadan önce şunları sorun:
Bu bir eğitim mi, çıkarım mı yoksa birleşik bir toplam mı?
Hangi hizmeti, iş yükünü, dönemi ve işlevsel birimi tanımlıyor?
Yalnızca hızlandırıcıları mı, yoksa ana bilgisayarları, atıl kapasiteyi ve tesis genel giderlerini de hesaba katıyor mu?
Bu değer enerji, güç, emisyon veya su mu; ve hangi birimler kullanılıyor?
Emisyonlar için hangi elektrik faktörü, konum, zaman temeli ve gömülü emisyon yaklaşımı uygulandı?
Sonuç ölçüldü mü, tahmin mi edildi yoksa senaryoya mı dayanıyor ve hangi önemli istisnalar veya belirsizlikler devam ediyor?
Sıradan kişisel tercihler için bu kontrol listesi, bağlamından koparılmış bir “sohbet başına enerji” rakamından daha eyleme dönüştürülebilirdir. Tanımlanmış tek bir hizmet için ölçülen bir sonucu bir bütün olarak yapay zekâya ilişkin genel bir iddiadan ayırmaya yardımcı olur ve hangi eksik ayrıntıların bir karşılaştırmayı güvenilmez kılacağını gösterir.