Hinweis: Annex 22 liegt als Entwurf vor (Stand: 5. Oktober 2026). Dieser Inhalt ist keine Rechts-, Regulatory- oder Compliance-Beratung.
Kurzantwort
Der Entwurf von EU-GMP Annex 22 sieht vor, dass generative KI und LLMs nicht in kritischen GMP-Anwendungen eingesetzt werden. Die Konsultation 2025 hat aber Unterstützung dafür gezeigt, sie unter Bedingungen doch zu ermöglichen. Die EMA hat dazu am 30. Juni und 1. Juli 2026 einen Expertenworkshop abgehalten. Der Entwurf wird überarbeitet, das Ergebnis ist offen.
Was der Entwurf heute sagt
Annex 22 zielt im Entwurf auf statische Modelle mit deterministischen Ergebnissen: Modelle, die nach dem Training eingefroren sind und bei gleicher Eingabe das gleiche Ergebnis liefern. Dynamische Modelle, die im Betrieb weiterlernen, und probabilistische Modelle wie generative KI und große Sprachmodelle (LLMs) sollen in kritischen GMP-Anwendungen nicht eingesetzt werden.
Das ist keine Ablehnung von KI insgesamt. Es ist eine Grenze für einen bestimmten Bereich: Anwendungen, die direkt auf Produktqualität, Patientensicherheit oder Datenintegrität wirken. Für nicht kritische Unterstützung mit menschlicher Prüfung trifft der Entwurf diese Aussage nicht in gleicher Weise.
Warum gerade LLMs ausgeklammert sind
Drei Eigenschaften machen generative KI im GMP-Umfeld schwierig:
- Fehlende Reproduzierbarkeit: Ein LLM kann auf dieselbe Eingabe unterschiedliche Antworten geben. Validierung setzt aber voraus, dass ein Ergebnis wiederholbar ist.
- Plausible Fehler: Ein Sprachmodell formuliert auch dann flüssig und überzeugend, wenn der Inhalt falsch ist. Eine falsche Zahl in einem gut geschriebenen Satz fällt schwerer auf als eine Fehlermeldung.
- Schwer abgrenzbarer Anwendungsbereich: Ein Modell, das auf fast jede Frage antwortet, hat keinen natürlichen Rand. Für einen festgelegten Verwendungszweck ist das ein Problem.
Was die EMA seit 2026 neu bewertet
Laut der EMA hat die Konsultation 2025 Unterstützung dafür gezeigt, generative KI und LLMs potenziell zu ermöglichen. Die EMA hat deshalb am 30. Juni und 1. Juli 2026 einen Multistakeholder-Workshop mit Expertenbeiträgen abgehalten. Ziel war ein risikobasierter Ansatz für den Einsatz generativer KI, mit Kontroll- und Schutzmaßnahmen (Guardrails) als zentralem Thema.
Eine Präsentation der irischen Behörde HPRA beim QP Forum 2026 beschreibt den Stand so: Der Entwurf wird überarbeitet, weitere gezielte Konsultationen sind für 2026 angesetzt. Wo KI eingesetzt wird, ist das Prüfen und Bestätigen der Ergebnisse zentral, etwa über Human in the Loop oder andere Guardrails.
Was offen ist
Offen ist, ob und unter welchen Bedingungen der finale Text generative KI in kritischeren Anwendungen zulässt, welche Kontrollen dann verlangt werden und wann der finale Text kommt. Wir machen dazu keine Prognose. Wer heute plant, sollte mit beiden Ausgängen umgehen können.
Für die Planung heißt das: Ein Vorhaben, das nur funktioniert, wenn LLMs im finalen Text für kritische Anwendungen zugelassen werden, ist ein Risiko. Ein Vorhaben, bei dem das Sprachmodell unterstützt und die kritischen Zahlen aus prüfbaren Quellen kommen, trägt in beiden Fällen.
Wie Labore sich auf beide Ausgänge vorbereiten
Unabhängig davon, wie die EMA entscheidet, gibt es Vorbereitung, die in jedem Fall trägt:
- Trennung von Sprache und Rechnung: Wenn ein LLM nur plant und formuliert, die Zahlen aber aus reproduzierbaren Werkzeugen kommen, bleibt der kritische Teil prüfbar. Diesem Prinzip folgt CovaSyn: Das Sprachmodell plant, die Tools rechnen, jeder Schritt ist nachvollziehbar.
- Menschliche Prüfung festlegen: Für jede Anwendung steht fest, wer das Ergebnis prüft, bevor es in eine Entscheidung einfließt.
- Nachvollziehbarkeit von Anfang an: Modellversion, Eingaben und Ergebnis werden so festgehalten, dass sich später zeigen lässt, wie ein Ergebnis entstanden ist.
- KI-Kompetenz: Die EU-KI-Verordnung verpflichtet Betreiber von KI-Systemen seit dem 2. Februar 2025, für ausreichende KI-Kompetenz ihres Personals zu sorgen (Art. 4). Das gilt unabhängig von Annex 22.
Wie das im QC-Alltag konkret aussehen kann, zeigt der Beitrag KI im QC-Labor: Anwendungsfälle mit Human in the Loop. Die Abgrenzung zu Annex 11 erklärt Annex 11 vs. Annex 22: Was gilt wofür?. Den Überblick gibt die Ankerseite KI im GxP-Labor und EU-GMP Annex 22.
Häufige Fragen
Dürfen LLMs wie ChatGPT oder Claude in GMP-Prozessen eingesetzt werden?
Der Entwurf schließt generative KI und LLMs von kritischen GMP-Anwendungen aus. Für nicht kritische Unterstützung, etwa Entwürfe, Recherche oder Auswertungsvorschläge mit menschlicher Prüfung, gilt das nicht in gleicher Weise. Die EMA prüft seit 2026, unter welchen Kontrollen generative KI auch weitergehend zulässig sein könnte.
Wann kommt der finale Annex 22?
Einen festen Termin gibt es nicht. Nach dem Stand von 2026 wird der Entwurf überarbeitet, und weitere gezielte Konsultationen sind angesetzt.
Was sind Guardrails?
Kontroll- und Schutzmaßnahmen, die den Einsatz eines KI-Systems begrenzen und absichern, zum Beispiel feste Grenzen für den Anwendungsbereich, Prüfungen der Ergebnisse oder eine menschliche Freigabe.
Nächster Schritt
Wo generative KI in Ihrem Labor heute schon im Einsatz ist, auch inoffiziell, finden Sie mit dem Annex 22 Readiness Check heraus.
Quellen
- EMA, Multistakeholder-Workshop zu Annex 22 (30. Juni und 1. Juli 2026): ema.europa.eu
- HPRA, Präsentation QP Forum 2026: tcd.ie (PDF)
- IntuitionLabs, EU GMP Annex 22 und KI-Compliance: intuitionlabs.ai
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4 und Art. 113: eur-lex.europa.eu
Annex 22 liegt als Entwurf vor (Stand: 5. Oktober 2026). Dieser Inhalt ist keine Rechts-, Regulatory- oder Compliance-Beratung.