Bakır kabloların veri merkezlerinde devasa birer trafik sıkışıklığına dönüştüğü şu günlerde, NVIDIA laboratuvarlarından çıkan en son prototipler geleceğin yapay zeka çiplerinde tamamen yeni bir dönemi başlatıyor. Çünkü şirket optik bileşenleri doğrudan silikon taşıyıcının üzerine yerleştirmeyi başardı. Çip sektörünü yakından takip edenler bilir ki, veri iletim hızları ne kadar artarsa artsın, işlemciler arasındaki o minik bakır yollar bir süre sonra fiziksel sınırlarına dayanır. NVIDIA’nın üzerinde az konuşulan ama gelecekte her şeyi değiştirebilecek bu hamlesi, tam olarak bu darboğazı tarihe gömmeyi amaçlıyor.
Hızlı Özet
- NVIDIA, optik bileşenleri doğrudan çip taşıyıcısına entegre eden ilk prototiplerini üretti.
- DWDM teknolojisi sayesinde optik veri hızları saniyede 256 gigabite ulaştı.
- Yeni CPO mimarisi, yapay zeka veri merkezlerinde yaşanan ısı ve enerji sorunlarını çözmeyi hedefliyor.
Milyarlarca parametreli yapay zeka modelleri eğitilirken binlerce grafik işlemcinin birbiriyle saniyenin kesirleri kadar kısa sürede haberleşmesi gerekir. Sıradan bağlantı yolları yetersiz kalıyor; sistemi bekletmek istemiyorsanız yeni fiziksel çözümler bulmanız şart oluyor. Donanım mühendisleri yıllardır elektriksel sinyalleri ışığa dönüştürmenin yollarını arıyordu ancak bugüne kadar yapılan entegrasyon denemeleri hem maliyetliydi hem de üretim hatlarında kayıplara yol açıyordu. NVIDIA mühendisleri ise Co-Packaged Optics yani CPO yaklaşımını bir üst seviyeye taşıyarak optiği doğrudan interposer katmanına yerleştirdi.
CPO Teknolojisi Donanım Dünyasında Neyi Değiştirecek?
Teknik açıdan bakıldığında, optik motorun silikon interposer üzerine entegre edilmesi, elektrik sinyallerinin kat etmesi gereken mesafeyi milimetrenin altına indiriyor. Böylece hem sinyal kaybı sıfıra yakın bir seviyeye geriliyor hem de iletim sırasında açığa çıkan ısı enerjisi azalıyor. Bu mimari, devasa yapay zeka kümelerinin çok daha az elektrik harcayarak çok daha yüksek hesaplama gücü sunması anlamına geliyor. Yani önümüzdeki yıllarda bulut tabanlı yapay zeka servislerinin daha hızlı yanıt vermesini ve işletme maliyetlerinin düşmesini sağlayacak en kritik altyapı taşı döşeniyor.
| Özellik | Değer / Teknik Karşılık |
|---|---|
| Optik Entegrasyon Yeri | Doğrudan Interposer Üzeri (On-Interposer) |
| Optik Veri Hızı | 256 Gb/s (DWDM Destekli) |
| Prototip Durumu | Gelecek Nesil Çipler İçin Üretildi |
| Ana Hedef Teknoloji | Co-Packaged Optics (CPO) |
DWDM yani Yoğun Dalga Boyu Bölümlemeli Çoğullama teknolojisinin bu denkleme dahil olması ise işin rengini değiştiriyor. Tek bir fiber optik kablo üzerinden farklı dalga boylarında çok sayıda ışık sinyalini aynı anda taşımanıza olanak tanıyan bu yöntem, saniyede 256 gigabitlik bant genişliklerine kapı aralıyor. Şirketin elindeki ilk prototipler henüz son kullanıcıya yönelik ekran kartlarında yer almayacak; ancak büyük dil modellerini eğiten dev sunucu sistemlerinin mimarisini baştan aşağı yazacak güce sahip.
Bakır Kabloların Fiziksel Sınırları ve Optik Dönüşüm
Geleneksel devre kartlarında elektrik sinyalleri bakır yollar üzerinden iletilirken dirençle karşılaşır. Frekans arttıkça bu direnç ısıya dönüşür ve sinyal bütünlüğü bozulur. Yüksek hızlı iletişim protokollerinde bu sorunu aşmak için ek dengeleme devreleri veya sinyal güçlendiriciler kullanılır ki bu da toplam güç tüketimini artırır. Optik iletişimde ise fotonlar bakır elektronları gibi dirençle karşılaşmadığı için çok daha uzun mesafelerde kayıpsız taşınabilir. NVIDIA’nın CPO yaklaşımı, transistörlerin ürettiği elektriksel veriyi çipi terk etmeden hemen önce ışığa çevirerek bu dönüşümü milimetrik mesafelere indiriyor.
Veri merkezlerinin güç bütçelerine bakıldığında, soğutma sistemlerinin çektiği elektriğin toplam tüketim içindeki payı azımsanamayacak seviyelerdedir. Bakır kablo demetlerinin şasi içindeki hava akışını engellemesi ve ek klima ihtiyacı doğurması işletme giderlerini doğrudan etkiler. Optik interposer entegrasyonu, kalın kablo yığınlarını ortadan kaldırarak kabin içi hava sirkülasyonunu rahatlatır ve fiziksel yoğunluğu artırır. Böylece aynı fiziksel alana çok daha fazla yapay zeka işlemcisi yerleştirilebilir.
DWDM Entegrasyonunun Bant Genişliğine Etkisi
Yoğun Dalga Boyu Bölümlemeli Çoğullama yöntemi, telekomünikasyon altyapılarında uzun yıllardır okyanus aşırı fiber hatlarda kullanılıyordu. NVIDIA mühendisleri bu endüstriyel standardı çip seviyesine indirgeyerek silikon fotonik tabanlı modülatörlerle entegre etti. 256 Gb/s seviyesindeki hızlar, tek bir optik kanalın taşıyabileceği veri miktarını üst sınırların ötesine taşıyor.
Bu ölçekteki bir bant genişliği, farklı sunucu raflarındaki grafik işlemcilerin sanki aynı tekil çipin içindeymiş gibi düşük gecikmeyle haberleşmesini sağlar. LLM denilen büyük dil modellerinin eğitimi sırasında yaşanan en büyük zaman kaybı, binlerce GPU’nun hesaplama sonuçlarını senkronize etmek için beklediği anlardır. Optik interconnect mimarisi bu senkronizasyon gecikmesini minimuma indirerek toplam eğitim süresini kısalttığı gibi donanım maliyet amortismanını da olumlu yönde etkiler.
Gelecekte Bizi Ne Bekliyor?
Yapay zeka modellerinin büyüme hızı mevcut silikon üretim ve bağlantı teknolojilerini zorlamaya devam ederken, bu tarz optik entegrasyon hamleleri artık bir lüks değil. Geleneksel bakır tabanlı sistemlerin fiziksel sınırlarına dayandığı bu dönemde, ışık hızını doğrudan çip mimarisine dahil eden üreticiler sektörün liderliğini elinde tutacak. NVIDIA’nın bu hamlesi pazarın tamamını saniyeler içinde değiştirmeyecek belki, ama ileride cebimize kadar gelecek akıllı asistanların arkasındaki dev veri merkezlerinin nasıl çalışacağını bugünden belirliyor.
Kaynak: Wccftech
