LLMs: Einführung und Use Cases - Sprachmodelle verstehen und praktisch anwenden

Seminarziel

Nach dem Seminar verstehen Sie die Funktionsweise und Einsatzmöglichkeiten von LLMs und sind in der Lage, marktverfügbare Modelle auszuwählen, gezielt einzusetzen und erste Anpassungen vorzunehmen. Sie wissen, wie Sie Prompts optimieren, Modelle evaluieren und typische Risiken wie Datenschutz oder Bias berücksichtigen.

Inhalt

• LLMs: Einführung und Use Cases
  • Grundlagen moderner Sprachmodelle - vom Chatbot bis zu spezialisierten Anwendungen
  • Typische Nutzungsszenarien: Wissensmanagement, Automatisierung, Text- & Codegenerierung
  • Praxisbeispiele aus verschiedenen Branchen
• Architektur
  • Tokenisierung, Transformer-Prinzip, Trainingsdaten und Modellgröße verständlich erklärt
  • Einflussgrößen auf Qualität, Effizienz und Kosten
• Der LLM-Markt im Überblick
  • Kommerzielle und Open-Source-Modelle im Vergleich
  • Open Weights, Lizenzmodelle und Auswahlkriterien
  • Interaktiver Modellvergleich: Präzision, Kosten und Bias
• Prompt-Engineering
  • Einfluss der Spracheingabe auf Antwortqualität
  • Übungen von Basic-Prompts bis zu fortgeschrittenen Techniken
• LLMs im Unternehmenseinsatz: Integration & Infrastruktur
  • Technische Plattformen - On-Premises, Cloud und hybride Ansätze
  • Datensicherheit, Infrastruktur-Anforderungen und Kostenbewertung
  • Optionen für modulare Einführung
• Individuelle Modellanpassung: Von Prompt-Tuning bis Custom Knowledge
  • Methoden zur Anpassung: Zusatzwissen, Dokumenteneinbindung, RAG
  • Vorbereitung eigener Daten und erste Schritte zur Feinabstimmung
  • Praxisübung: Modell für eine neue Aufgabe anpassen
• Praktische Vorführung: GPT-2 Implementierung mit PyTorch
  • Live-Demo: Installation und Nutzung mit HuggingFace & PyTorch
  • Training an einem kompakten Datensatz, Tipps zur Anpassung
  • Diskussion zu Hardware-Anforderungen und Erweiterungsoptionen