LLMs in der Praxis: Anbindung an Jakarta EE mit LangChain4j

Seminarziel

Sie verstehen die Grundlagen und Funktionsweise von Language Models (LLMs) und deren Integration in Jakarta EE mittels LangChain4j. Sie erlernen den Aufbau von Systemen, die LLMs effektiv nutzen können, und setzen erste Projekte um.

Inhalt

• Überblick
  • Kurze Einführung in das Thema neuronale Netze
    • Multilayer Perzeptron
      • Motivation: Analogie zu Neuronenstruktur/Nervensystem in Lebewesen
      • Intuitionen zu Deep Layers, Gewichten, Aktivierungsfunktionen
  • Einführung LLMs
    • Generative AI vs. Discriminative AI
    • Überblick über die Struktur
      • GPT = Generative Pre-trained Transformer
      • Embeddings, Attention, Temperature
    • Anwendungsfälle
• Anbindung von LLMs mit LangChain4j zur Inferenz
  • Grundlagen
    • AiServices
    • Input (System Message, User Message, Prompt Templates)
    • (Structured) Output
    • Response Streaming
    • Memory
  • Retrieval Augmented Generation (RAG)
  • Tools/Function calling
  • Quarkus Integration
• Gefahren und Probleme
  • LLMs als stochastische Maschine ohne formale Logik
  • Halluzinationen
  • Prompt Injection
  • Excessive Agency