Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
"Daha hızlı ve daha akıllı bir yapay zeka eğitim yöntemi, doğruluktan ödün vermeden enerji kullanımını azaltarak yapay zeka için daha sürdürülebilir bir geleceğin kapılarını aralıyor."
AI Can Now Learn 100x Faster Without Wasting Energy
Yapay zeka her zamankinden daha fazla enerji tüketiyor ve veri merkezleri talebi karşılamakta zorlanıyor. Çığır açan bir eğitim yöntemi her şeyi değiştirebilir, doğruluğu korurken enerji kullanımını azaltabilir.
Yapay Zeka Sinir Ağı Kavramı
Geleneksel yinelemeli eğitimden olasılık tabanlı bir yaklaşıma geçerek araştırmacılar, çok daha az hesaplamayla sinir ağlarını optimize etmenin bir yolunu buldular. Doğada bulunan dinamik sistemlerden ilham alan bu yenilik, performanstan ödün vermeden yapay zekayı çok daha yeşil hale getirme potansiyeline sahip.
Yapay Zekanın Artan Enerji İştahı
Büyük dil modelleri (LLM'ler) de dahil olmak üzere AI teknolojileri günlük yaşamın vazgeçilmez bir parçası haline geldi. Ancak, bunları desteklemek için gereken bilgi işlem gücü, büyük miktarda enerji tüketen veri merkezlerinden geliyor. Sadece Almanya'da, veri merkezleri 2020'de yaklaşık 16 milyar kilovat-saat (kWh) elektrik kullandı; ülkenin toplam enerji tüketiminin yaklaşık %1'i. 2025'e kadar bu sayının 22 milyar kWh'ye çıkması öngörülüyor.
Yeni Yöntem: 100 Kat Daha Hızlı, Benzer Doğruluk
Yapay zeka uygulamaları daha karmaşık hale geldikçe, enerji talepleri özellikle muazzam hesaplama kaynakları gerektiren sinir ağlarını eğitmek için artmaya devam edecektir. Bu zorluğun üstesinden gelmek için araştırmacılar, aynı doğruluk seviyesini korurken geleneksel yaklaşımlardan 100 kat daha hızlı olan yeni bir eğitim yöntemi geliştirdiler. Bu atılım, yapay zeka eğitimi için gereken enerjiyi önemli ölçüde azaltma potansiyeline sahiptir.
Görüntü tanıma ve dil işleme gibi yapay zeka görevlerini destekleyen sinir ağları, insan beynine göre modellenmiştir. Giriş sinyallerine ağırlıklı değerler atayarak bilgileri işleyen birbirine bağlı düğümlerden veya yapay nöronlardan oluşurlar. Belirli bir eşiğe ulaşıldığında, sinyal bir sonraki düğüm katmanına iletilir.
Bu ağları eğitmek hesaplama açısından yoğun bir iştir. Başlangıçta, parametre değerleri genellikle normal bir dağılım kullanılarak rastgele atanır. Daha sonra sistem, tahmin doğruluğunu artırmak için bu değerleri birçok yineleme boyunca tekrar tekrar ayarlar. Çok sayıda hesaplama içerdiğinden, sinir ağlarını eğitmek önemli miktarda elektrik tüketir.
Olasılık Tabanlı Parametrelerle Daha Akıllı Eğitim
Fizikle Geliştirilmiş Makine Öğrenimi profesörü Felix Dietrich ve ekibi yeni bir yöntem geliştirdi. Düğümler arasındaki parametreleri yinelemeli olarak belirlemek yerine, yaklaşımları olasılıkları kullanıyor. Olasılıksal yöntemleri, eğitim verilerinde büyük ve hızlı değerler değişiminin gerçekleştiği kritik konumlarda değerlerin hedefli kullanımına dayanıyor.
Mevcut araştırmanın amacı, bu yaklaşımı kullanarak verilerden enerji tasarrufu sağlayan dinamik sistemler elde etmektir. Bu tür sistemler, belirli kurallara göre zaman içinde değişir ve örneğin iklim modellerinde ve finansal piyasalarda bulunur.
Doğruluktan Ödün Vermeden Enerji Verimliliği
Felix Dietrich, "Yöntemimiz, gerekli parametrelerin minimum hesaplama gücüyle belirlenmesini mümkün kılıyor. Bu, sinir ağlarının eğitimini çok daha hızlı ve sonuç olarak daha enerji verimli hale getirebilir," diyor. "Ayrıca, yeni yöntemin doğruluğunun yinelemeli olarak eğitilen ağların doğruluğuna benzer olduğunu gördük."
Münih Teknik Üniversitesi (TUM), 10 Mart 2025, SciTechDaily
Mustafa Tamer, 16.04.2025, Sonsuz Ark, Çeviri, Bilim ve Teknoloji, Aklın Merdivenleri
Referans: Rahma, Atamert, Chinmay Datar ve Felix Dietrich tarafından “Geri Yayılım Olmadan Hamilton Sinir Ağlarının Eğitimi”, 2024 38. Sinirsel Bilgi İşleme Sistemleri (NeurIPS) konferansında Makine Öğrenmesi ve Fizik Bilimleri Çalıştayı. https://neurips.cc/virtual/2024/99994
Erik Lien Bolager, Iryna Burak, Chinmay Datar, Qing Sun, Felix Dietrich tarafından yazılan “Derin Sinir Ağlarının Örnekleme Ağırlıkları”, 2023, Sinir Bilgi İşleme Sistemlerindeki Gelişmeler. https://proceedings.neurips.cc/paper_files/paper/2023/hash/c7201deff8d507a8fe2e86d34094e154-Abstract-Conference.html
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.