Edge AI & Federated Learning – KI-Modelle dezentral trainieren und effizient einsetzen

Startseite Kurse Python Machine Learning & KI Edge AI & Federated Learning – KI-Modelle dezentral trainieren und effizient einsetzen

Trainer: Gunnar Bless

Dauer: 3 Tage

Zielgruppe:

Das Seminar richtet sich an Softwareentwicklerinnen und Softwareentwickler, Data Scientists, Machine-Learning-Engineers, KI-Fachkräfte sowie IT-Spezialisten, die KI-Modelle auf dezentralen Geräten und verteilten Systemen entwickeln, optimieren und einsetzen möchten.

Besonders angesprochen sind Personen, die sich mit Edge Computing, ressourceneffizienter KI und datenschutzorientiertem maschinellem Lernen beschäftigen. Das Seminar eignet sich für Fachkräfte aus Unternehmen, Behörden und Forschungseinrichtungen, die KI-Anwendungen beispielsweise in IoT-Umgebungen, industriellen Systemen, mobilen Endgeräten oder bei der Verarbeitung sensibler Daten einsetzen möchten.

Darüber hinaus richtet es sich an technische Projektverantwortliche, die Potenziale und Herausforderungen dezentraler KI-Architekturen bewerten und entsprechende Lösungen in bestehende IT- und Machine-Learning-Infrastrukturen integrieren möchten.

Edge AI & Federated Learning

Inhalte:

Tag 1 – Grundlagen, Edge Computing und Modelloptimierung

Einführung und Grundlagen

Einführung in verteilte Machine-Learning-Architekturen
Edge Computing, Cloud Computing und Federated Learning im Vergleich
Anwendungsbereiche: Internet of Things (IoT), mobile Endgeräte und datenschutzsensible Anwendungen
Herausforderungen: begrenzte Rechenressourcen, Kommunikationskosten und heterogene Datenbestände
Praxisübung: Vergleich der Leistungsfähigkeit von Standardmodellen und komprimierten Modellen. Messung der Inferenzzeiten auf simulierten Edge-Geräten

Modelloptimierung für Edge Computing

Verfahren zur Komprimierung von Machine-Learning-Modellen
Quantisierung, Pruning (Reduzierung von Modellparametern) und Knowledge Distillation (Wissensübertragung zwischen Modellen)
Konvertierung von Modellen mit TensorFlow Lite
Hardwarespezifische Optimierungsmöglichkeiten
Praxisübung: Quantisierung eines Convolutional Neural Network (CNN) zur Bildklassifikation. Untersuchung des Verhältnisses zwischen Modellgenauigkeit und Ausführungsgeschwindigkeit

Implementierung von Edge-Inferenz

Strategien zur Bereitstellung von KI-Modellen auf Edge-Geräten
Stapelverarbeitung (Batch Processing) und Echtzeit-Inferenz im Vergleich
Überwachung und Verwaltung begrenzter Systemressourcen
Praxisübung: Bereitstellung eines quantisierten Modells mit TensorFlow Lite (TFLite) und Implementierung grundlegender Caching-Strategien

Tag 2 – Verteiltes Edge Computing und Federated Learning

Verteiltes Edge Computing

Koordination und Zusammenarbeit mehrerer Edge-Geräte
Architekturen und Orchestrierungsmuster für verteilte Edge-Systeme
Lastverteilung und Aufgabenverteilung zwischen Edge-Geräten
Fehlertoleranz und Ausfallsicherheit in Edge-Netzwerken

Grundlagen des Federated Learning

Architektur und Funktionsweise von Federated Learning
Der Federated-Averaging-Algorithmus (FedAvg)
Client-Server-Architekturen für dezentrales Modelltraining
Verfahren zum Schutz sensibler Trainingsdaten
Strategien zur Reduzierung des Kommunikationsaufwands
Praxisübung: Implementierung des Federated-Averaging-Algorithmus (FedAvg) von Grund auf

Fortgeschrittene Federated-Learning-Verfahren

Umgang mit heterogenen und ungleich verteilten Datenbeständen
Personalisierung von Machine-Learning-Modellen für einzelne Clients
Differential Privacy zum Schutz sensibler Informationen
Sichere Aggregationsverfahren (Secure Aggregation)
Praxisübung: Verteilung des CIFAR-10-Datensatzes auf mehrere Clients mit unterschiedlichen Datenverteilungen (Non-IID). Anwendung des FedProx-Algorithmus

Tag 3 – Produktive Federated-Learning-Systeme und Praxisanwendungen

Federated Learning im produktiven Einsatz

Aufbau einer produktionsfähigen Federated-Learning-Pipeline
Architektur und Komponenten produktiver Federated-Learning-Systeme
Strategien zur Auswahl und Koordination beteiligter Clients
Monitoring, Fehleranalyse und Debugging verteilter Lernprozesse
Integration von Federated Learning in bestehende MLOps-Pipelines
Audit-Protokollierung, Nachvollziehbarkeit und Einhaltung von Compliance-Anforderungen

Praxisbeispiel aus der realen Anwendung

Analyse eines praxisnahen Anwendungsfalls für Edge AI und Federated Learning
Bewertung der technischen Anforderungen und geeigneter Systemarchitekturen
Untersuchung von Modellqualität, Kommunikationsaufwand und Ressourcenverbrauch
Berücksichtigung von Datenschutz, Skalierbarkeit und Betriebssicherheit
Diskussion der Übertragbarkeit auf eigene Projekte und betriebliche Einsatzszenarien