Detaillierter Kursinhalt
Modul 1 - Einführung in die generative KI in der Produktion
Themen:
- AI-System-Demo: Kaffee auf Rädern
- Traditionelle MLOps vs. GenAIOps
- Generative KI-Operationen
- Bestandteile eines LLM-Systems
Zielsetzungen:
- Verstehen generativer KI-Operationen
- Vergleich zwischen traditionellen MLOps und GenAIOps
- Analysieren Sie die Komponenten eines LLM-Systems
Modul 2 - Verwaltung von Experimenten
Themen:
- Datensätze und Prompt Engineering
- RAG- und ReACT-Architektur
- LLM-Modellevaluation (Metriken und Rahmen)
- Experimente zur Verfolgung
Zielsetzungen:
- Experimentieren Sie mit Datensätzen und Prompt-Engineering.
- Nutzung der RAG- und ReACT-Architektur.
- Bewertung von LLM-Modellen.
- Experimente verfolgen.
Aktivitäten:
- Labor: Unit Testing generativer KI-Anwendungen
- Optionales Labor: Generative AI mit Vertex AI: Prompt Design
Modul 3 - Generative KI in der Produktion
Themen:
- Bereitstellung, Paketierung und Versionierung (GenAIOps)
- Testen von LLM-Systemen (Einheit und Integration)
- Wartung und Aktualisierung (Betrieb)
- Prompte Sicherheit und Migration
Zielsetzungen:
- Modelle bereitstellen, verpacken und versionieren
- LLM-Systeme testen
- Pflege und Aktualisierung von LLM-Modellen
- Prompte Sicherheit und Migration bewältigen
Aktivitäten:
- Lab: Vertex AI Pipelines: Qwik Start
- Labor: Absicherung mit Vertex AI Gemini API
Modul 4 - Protokollierung und Überwachung für produktive LLM-Systeme
Themen:
- Cloud-Protokollierung
- Zeitnahe Versionierung, Bewertung und Verallgemeinerung
- Überwachung auf Bewertungsverzerrung
- Kontinuierliche Validierung
Zielsetzungen:
- Cloud Logging nutzen
- Version, Bewertung und Verallgemeinerung von Aufforderungen
- Überwachen Sie die Schieflage bei der Bewertung
- Kontinuierliche Validierung nutzen
Aktivitäten:
- Labor: Vertex AI: Playbook für Gemini-Evaluierungen
- Optionales Labor: Überwachtes Fine Tuning mit Gemini für Fragen und Antworten