Generative KI mit Python

Bert Gollnick ist Senior Data Scientist mit Schwerpunkt auf künstlicher Intelligenz. Er unterrichtet Kurse zu Data Science und Machine Learning inklusive generativer KI und natürlicher Sprachverarbeitung. Bert hat an der Technischen Universität Berlin Luft- und Raumfahrttechnik und an der Universität Hagen Volkswirtschaftslehre studiert. Nach 17 Jahren in der Industrie fokussiert er sich nun auf seine Schulungsfirma, um Teilnehmern künstliche Intelligenz näherzubringen.Er lebt und arbeitet in Hamburg und bietet Präsenzkurse im deutschsprachigen Raum sowie Online-Kurse auch für ein internationales Publikum an.

Materialien zum Buch ... 15
1. Vorwort ... 17
1.1 ... Zielsetzung des Buches ... 18
1.2 ... Zielgruppe ... 19
1.3 ... Was Sie schon wissen sollten ... 20
1.4 ... Struktur des Buches ... 20
1.5 ... Wie man dieses Buch effektiv nutzt ... 24
1.6 ... Systemeinrichtung ... 25
1.7 ... Danksagung ... 32
1.8 ... Konventionen in diesem Buch ... 33
2. Einführung in die generative KI ... 35
2.1 ... Einführung in die künstliche Intelligenz ... 38
2.2 ... Die Säulen des Fortschritts in der generativen KI ... 42
2.3 ... Deep Learning ... 46
2.4 ... Schwache und allgemeine KI ... 48
2.5 ... Natural Language Processing (NLP) ... 51
2.6 ... Large Language Models (LLMs) ... 56
2.7 ... Use-Cases ... 59
2.8 ... Die Grenzen von LLMs ... 61
2.9 ... Large Multimodal Models (LMMs) ... 62
2.10 ... Generative KI-Anwendungen ... 64
2.11 ... Zusammenfassung ... 66
3. Vortrainierte Modelle ... 69
3.1 ... Was sind vortrainierte Modelle? ... 71
3.2 ... Hugging Face ... 71
3.3 ... Modellauswahl ... 72
3.4 ... Coding: Textzusammenfassung ... 73
3.5 ... Übung: Übersetzung ... 75
3.6 ... Coding: Zero-Shot-Klassifikation ... 77
3.7 ... Coding: Füllmaske ... 80
3.8 ... Coding: Frage-Antwort-Modelle ... 81
3.9 ... Coding: Erkennung benannter Entitäten (Named Entity Recognition) ... 83
3.10 ... Coding: Text-zu-Bild ... 85
3.11 ... Übung: Text-zu-Audio ... 87
3.12 ... Abschlussprojekt: Kunden-Feedback analysieren ... 88
3.13 ... Zusammenfassung ... 91
4. Large Language Models ... 93
4.1 ... Eine kurze Geschichte der Sprachmodelle ... 94
4.2 ... LLMs mithilfe von Python nutzen ... 95
4.3 ... Modellparameter ... 109
4.4 ... Modellauswahl ... 113
4.5 ... Messages ... 116
4.6 ... Prompt Templates ... 117
4.7 ... Chains ... 122
4.8 ... LLM-Schutz und -Sicherheit ... 135
4.9 ... Modellverbesserungen ... 143
4.10 ... Neue Trends ... 144
4.11 ... Zusammenfassung ... 151
5. Prompt Engineering ... 153
5.1 ... Prompting -- die Grundlagen ... 154
5.2 ... Meta-Prompting ... 164
5.3 ... Strukturierte Inputs ... 165
5.4 ... Coding: Few-Shot-Prompting ... 166
5.5 ... Chain-of-Thought ... 168
5.6 ... Zero-Shot Chain-of-Thought ... 169
5.7 ... Coding: Self-Consistency Chain-of-Thought ... 169
5.8 ... Coding: Prompt-Chaining ... 173
5.9 ... Coding: Self-Feedback ... 175
5.10 ... Zusammenfassung ... 180
6. Vektordatenbanken ... 183
6.1 ... Einleitung ... 183
6.2 ... Der Data-Ingestion-Prozess ... 186
6.3 ... Dokumente importieren ... 187
6.4 ... Dokumente aufteilen ... 194
6.5 ... Einbettungen erstellen ... 211
6.6 ... Daten speichern ... 226
6.7 ... Daten abrufen ... 232
6.8 ... Abschlussprojekt ... 239
6.9 ... Zusammenfassung ... 251
7. Retrieval-Augmented Generation ... 253
7.1 ... Einleitung ... 254
7.2 ... Ein einfaches System zur Retrieval-Augmented Generation ... 258
7.3 ... Fortgeschrittene Techniken ... 265
7.4 ... Coding: Prompt-Caching ... 286
7.5 ... Evaluierung ... 292
7.6 ... Zusammenfassung ... 296
8. Agentensysteme ... 297
8.1 ... Einführung in KI-Agenten ... 298
8.2 ... Verfügbare Frameworks ... 300
8.3 ... Einfache Agentensysteme ... 301
8.4 ... Agenten-Framework: LangGraph ... 310
8.5 ... Agenten-Framework: Microsoft Agent Framework ... 324
8.6 ... Agenten-Framework: CrewAI ... 336
8.7 ... Agenten-Framework: OpenAI Agents ... 350
8.8 ... Agenten-Framework: Pydantic AI ... 356
8.9 ... Überwachung von Agentensystemen ... 359
8.10 ... Zusammenfassung ... 366
9. Model Context Protocol ... 369
9.1 ... Was ist das Model Context Protocol? ... 370
9.2 ... Das M×N-Integrationsproblem ... 371
9.3 ... Architektur: Host, Client und Server ... 372
9.4 ... Finden von geeigneten MCP-Servern ... 374
9.5 ... Coding: Einen bestehenden MCP-Server einbinden ... 374
9.6 ... Coding: Einen eigenen MCP-Server entwickeln ... 377
9.7 ... MCP in Agenten-Frameworks nutzen ... 383
9.8 ... Sicherheit und Grenzen ... 383
9.9 ... Zusammenfassung ... 387
10. Agentic Coding ... 389
10.1 ... Was ist Agentic Coding? ... 390
10.2 ... Die Werkzeuglandschaft ... 392
10.3 ... Kontextmanagement ... 405
10.4 ... Skills ... 412
10.5 ... Hooks ... 419
10.6 ... MCP-Anbindung ... 420
10.7 ... Arbeitsweisen und Workflows ... 422
10.8 ... Coding: Ein Projekt mit OpenCode umsetzen ... 424
10.9 ... Mit lokalen Modellen arbeiten ... 425
10.10 ... Best Practices, Kosten und Grenzen ... 426
10.11 ... Zusammenfassung ... 427
11. Deployment ... 429
11.1 ... Die Anwendungsarchitektur ... 430
11.2 ... Die Deploymentstrategie ... 432
11.3 ... Entwicklung einer eigenständigen Anwendung ... 442
11.4 ... Deployment auf Heroku ... 449
11.5 ... Deployment auf Streamlit.io ... 456
11.6 ... Deployment auf Render ... 459
11.7 ... Zusammenfassung ... 461
12. Ausblick ... 463
12.1 ... Fortschritte in der Modellarchitektur ... 463
12.2 ... Grenzen und Probleme von LLMs ... 464
12.3 ... Regulatorische Entwicklungen ... 470
12.4 ... Künstliche allgemeine Intelligenz und künstliche Superintelligenz ... 470
12.5 ... KI-Fähigkeiten in der nahen Zukunft ... 471
12.6 ... Hilfreiche Ressourcen und Empfehlungen ... 473
12.7 ... Zusammenfassung ... 474
Über den Autor ... 477
Index ... 479