Applied Large Language Models – Fine-Tuning, Optimization & Local Deployment

Trainer: Gunnar Bless
Dauer: 3 Tage
Zielgruppe:

Das Seminar richtet sich an Softwareentwicklerinnen und Softwareentwickler, IT-Fachkräfte sowie Mitarbeitende aus Unternehmen, Behörden und Organisationen, die Large Language Models für betriebliche Anwendungen anpassen, optimieren und lokal bereitstellen möchten.

Voraussetzungen: Gute Python-Kenntnisse und grundlegendes Verständnis von Machine Learning. Erste Erfahrungen mit PyTorch oder Hugging Face sind von Vorteil.

In diesem praxisorientierten, dreitägigen Online-Seminar lernen die Teilnehmenden, Large Language Models (LLMs) lokal einzusetzen, durch Fine-Tuning an spezifische Anforderungen anzupassen und für den produktiven Einsatz zu optimieren. Im Mittelpunkt stehen leistungsfähige Open-Weight-Modelle, ressourcenschonende Trainingsverfahren und effiziente Deployment-Strategien.

Kurs anfragen
Kurs weiterempfehlen

Applied Large Language Models – Fine-Tuning, Optimization & Local Deployment

Tag 1 – Lokale LLMs

  • Überblick über Open-Source-/Open-Weight-Modelle (z. B. Llama, Mistral/Mixtral, Qwen, Gemma, Phi): Modellgrößen, Base vs. Instruct, Lizenzen
  • Hardwareanforderungen: VRAM-Abschätzung, GPU/CPU/Apple Silicon, Kontextlänge vs. Speicherbedarf
  • Lokale Installation & Inferenz mit Ollama, LM Studio und llama.cpp/GGUF
  • Erste Bewertung: Qualität, Geschwindigkeit (Tokens/s), Ressourcenbedarf

Tag 2 – Fine-Tuning

  • Entscheidungsrahmen: Fine-Tuning vs. RAG vs. Prompting
  • Parameter-efficient Fine-Tuning (LoRA/QLoRA), Adapter; Bibliotheken transformers, peft, trl, Unsloth
  • Datensätze vorbereiten: Instruktionsformate, Chat-Templates, Datenqualität, Train/Val-Split
  • Training & Evaluation

Tag 3 – Deployment, Optimierung & Abschlussprojekt

  • Modellvergleich: strukturierte Bewertung nach Qualität, Latenz, Durchsatz und Kosten
  • Optimierung & Quantisierung: GGUF, GPTQ/AWQ, bitsandbytes und ihre Trade-offs
  • Serving: vLLM (PagedAttention, Batching, OpenAI-kompatible Endpoints), Ollama als Dienst, APIs
Ihre Vorteile bei Machine Learning & KI Schulungen durch edv-coaching.de:
  • projekt- und lehrerfahrene Trainer
  • maßgeschneiderte Inhalte und umfangreiche Unterlagen
  • Betreuung auch nach dem Training
  • bundesweite Trainings in Ihrem Hause oder als Online-Schulung
  • Training in Österreich und in der Schweiz
  • Durchführung in deutscher oder englischer Sprache.

Weitere Schulungen

Large Language Models verstehen und anwenden: Grundlagen, RAG und Agentensysteme
2 Tage
Workshop: KI verstehen, nutzen, reflektieren – Grundlagen und Praxis für Wissenschaftler*innen
2 Tage
Edge AI & Federated Learning – KI-Modelle dezentral trainieren und effizient einsetzen
3 Tage
Claude Code – Programmieren mit KI
3 Tage
Reinforcement Learning mit Python
2 Tage
Deep Reinforcement Learning mit Python
3 Tage
Schulung zum Thema Deep Learning mit Python und Keras: Online- oder in Präsenz
3 Tage
Für Experten: Computer Vision für Python Anwender: Online- oder Präsenz-Schulung
3 Tage
Kurs Anfrage

Danke für Ihr Interesse an diesem Kurs. Sie erhalten in Kürze ein Angebot.

Gewählter Kurs: Applied Large Language Models – Fine-Tuning, Optimization & Local Deployment
Dauer: 3 Tage

Die mit * gekennzeichneten Felder sind Pflichtfelder.

Empfehlen Sie diesen Kurs
Kurs: Applied Large Language Models – Fine-Tuning, Optimization & Local Deployment

Die mit * gekennzeichneten Felder sind Pflichtfelder.