Federe öğrenmede veri yerinde kalır: her cihaz modeli kendi verisiyle eğitir, merkeze yalnızca model güncellemesini gönderir. Merkez gelen güncellemeleri birleştirir (en yaygın yöntemi FedAvg) ve yeni modeli geri dağıtır. Bu döngünün her turu, en yavaş istemcinin güncellemesi ulaşana kadar sürer.
Literatürdeki çalışmaların büyük kısmı bu güncellemeleri taşıyan katmanı ayrıntı olarak görür; genellikle gRPC kullanılır ve konu kapanır. Oysa sahadaki ağ, laboratuvardaki kablolu ağa benzemez: hareket hâlindeki robotlar arasında paketler kaybolur, uç cihazların bant genişliği dardır, bağlantı zaman zaman tamamen kopar.
Aynı öğrenme, dört taşıyıcı
The Journal of Supercomputing'de yayımlanan çalışmada tek bir değişkeni değiştirdim: taşıyıcıyı. Aynı FedAvg motoru dört farklı iletişim katmanı üzerinde, gerçek cihazlardan kurulu bir test ortamında çalıştı:
- gRPC: HTTP/2 ve TCP üzerinde uzak yordam çağrısı; federe öğrenme çerçevelerinin varsayılanı.
- MQTT: TCP üzerinde yayınla-abone ol; nesnelerin interneti dünyasında yaygın.
- DDS: veri merkezli yayınla-abone ol ara katmanı; robotikte (ROS 2) ve savunma sistemlerinde yaygın, UDP üzerinde kendi güvenilirlik mekanizmasıyla çalışır.
- QUIC: UDP üzerinde, TCP'nin kafa-satır tıkanması sorununu çözmek için tasarlanmış yeni nesil taşıma protokolü.
Ağa kontrollü olarak rastgele paket kaybı, bant genişliği darboğazı ve belirli sürelerle bağlantı kesintisi enjekte edip tur sürelerini ve paralel verimliliği ölçtüm.
Ne çıktı?
Rastgele paket kaybı altında TCP tabanlı katmanlarda tur süreleri sert biçimde uzadı. DDS ise aynı koşullarda tur sürelerini ve paralel verimliliği büyük ölçüde korudu. QUIC TCP'ye göre daha iyi davransa da DDS ile arasındaki farkı kapatamadı.
İkinci bulgu yöntemle ilgili ve belki daha önemli: simülasyon çalışmalarında ağın etkisi çoğu zaman "güncellemenin belirli bir olasılıkla düşmesi" olarak modellenir. Bu model, katmanları gerçek ölçümlerdeki sıraya koyamadı. Başka bir deyişle iletişim katmanının federe öğrenmeye etkisini simülasyonla tahmin etmek yanıltıcı olabiliyor.
Uygulayıcı için anlamı
Federe öğrenmeyi kablolu bir veri merkezinde değil, robotlarda, araçlarda ya da sahadaki sensörlerde çalıştıracaksanız taşıyıcı seçimi bir altyapı ayrıntısı değil, tasarım kararıdır. Ölçüm düzeneğini ve verileri FL-Transport adıyla açık paylaştım; kendi ağ koşullarınızda aynı karşılaştırmayı tekrarlayabilirsiniz.