Hinweis: Annex 22 liegt als Entwurf vor (Stand: 5. Oktober 2026). Dieser Inhalt ist keine Rechts-, Regulatory- oder Compliance-Beratung.
Kurzantwort
EU-GMP Annex 22 ("Artificial Intelligence") ist der erste GMP-Text, der KI direkt regelt. Er wurde im Juli 2025 als Entwurf zur Konsultation veröffentlicht, wird derzeit überarbeitet und ist nicht in Kraft. Der Entwurf zielt auf statische Modelle mit deterministischen Ergebnissen und schließt generative KI und LLMs von kritischen GMP-Anwendungen aus. Für Labore heißt das: KI-Anwendungen jetzt erfassen, nach Kritikalität einordnen und festlegen, wo ein Mensch prüft.
Was Annex 22 regelt und was nicht
Am 7. Juli 2025 haben die Europäische Kommission und PIC/S drei Entwürfe zur Konsultation gestellt: ein revidiertes Kapitel 4 (Dokumentation), einen revidierten Annex 11 (Computerised Systems) und den neuen Annex 22 (Artificial Intelligence). Erarbeitet hat sie die GMP/GDP Inspectors Working Group der EMA gemeinsam mit PIC/S. Die Konsultation lief bis zum 7. Oktober 2025.
Die drei Texte gehören zusammen. Annex 11 regelt computergestützte Systeme allgemein, also Validierung, Zugriffsrechte, Datenintegrität und Audit Trail für jede Software im GMP-Umfeld. Kapitel 4 regelt die Dokumentation. Annex 22 ergänzt beide um Anforderungen, die nur bei KI-Modellen auftreten. Er ersetzt weder Annex 11 noch Kapitel 4. Wer ein KI-Modell im GMP-Umfeld betreibt, muss also weiterhin alles erfüllen, was für computergestützte Systeme gilt, und zusätzlich das, was Annex 22 für das Modell selbst verlangt.
Wie stark sich der Rahmen insgesamt bewegt, zeigt Annex 11: Der revidierte Entwurf wächst von 5 auf 19 Seiten. Den Unterschied zwischen den beiden Anhängen erklärt der Beitrag Annex 11 vs. Annex 22: Was gilt wofür? im Detail.
Wichtig für die Einordnung: Annex 22 ist ein Entwurf. Er ist nicht Teil des verbindlichen EU-GMP-Leitfadens (EudraLex Band 4), solange er nicht angenommen ist.
Worum es im Entwurf inhaltlich geht
Der Entwurf beschreibt, was ein KI-Modell im GMP-Umfeld braucht, bevor es eingesetzt werden darf. Zu den Kernpunkten gehören:
- ein schriftlich festgelegter Verwendungszweck (Intended Use), aus dem hervorgeht, wofür das Modell da ist und wofür nicht
- Testdaten, die von den Trainingsdaten getrennt sind
- eine Überwachung der Leistung im Betrieb, damit Verschlechterungen auffallen
- menschliche Aufsicht, also eine klare Regel, wer Ergebnisse prüft und wer verantwortet
Keiner dieser Punkte ist für ein QC-Labor völlig neu. Sie übertragen das, was Methodenvalidierung und Computersystemvalidierung seit Jahren verlangen, auf eine neue Art von Software.
Statische Modelle und generative KI
Der Entwurf zieht eine klare Linie. Im Anwendungsbereich sind statische Modelle, die nach dem Training eingefroren sind und bei gleicher Eingabe das gleiche Ergebnis liefern. Dynamische Modelle, die im Betrieb weiterlernen, sowie probabilistische Modelle wie generative KI und LLMs sollen in kritischen GMP-Anwendungen nicht eingesetzt werden.
Der Grund liegt in der Logik der Validierung. Ein Ergebnis lässt sich nur dann validieren, wenn es reproduzierbar ist. Ein LLM kann auf dieselbe Frage unterschiedliche Antworten geben. Es kann außerdem eine plausibel klingende Zahl liefern, die falsch ist. Für eine Freigabeentscheidung, eine OOS-Bewertung oder eine Spezifikation ist das nicht akzeptabel.
Was die EMA gerade neu bewertet
Die Konsultation 2025 hat allerdings gezeigt, dass es Unterstützung dafür gibt, generative KI und LLMs unter Bedingungen doch zu ermöglichen. Die EMA hat deshalb am 30. Juni und 1. Juli 2026 einen Expertenworkshop abgehalten, um einen risikobasierten Ansatz für generative KI zu erarbeiten. Im Mittelpunkt standen Kontroll- und Schutzmaßnahmen, sogenannte Guardrails.
Laut einer Präsentation der irischen Behörde HPRA beim QP Forum 2026 wird der Entwurf überarbeitet, weitere gezielte Konsultationen sind für 2026 angesetzt. Wo KI eingesetzt wird, ist das Prüfen und Bestätigen der Ergebnisse zentral, etwa über Human in the Loop.
Wie der finale Text aussieht, ist offen. Eine Prognose wäre an dieser Stelle unseriös. Den aktuellen Stand der Diskussion fasst der Beitrag Generative KI im GMP-Umfeld: Wo die EMA gerade steht zusammen.
Was im Labor heute schon geht
Aus dem Entwurf folgt nicht, dass KI im Labor tabu ist. Er betrifft kritische GMP-Anwendungen, also solche, die direkt auf Produktqualität, Patientensicherheit oder Datenintegrität wirken. Daneben gibt es viel Arbeit, bei der KI unterstützen kann, solange ein Mensch das Ergebnis prüft und die Entscheidung trifft:
- Auswertung vorbereiten: Ein Assistent strukturiert Rohdaten, schlägt Auswertungsschritte vor oder rechnet eine Plausibilitätsprüfung, die eine qualifizierte Person anschließend bewertet.
- Dokumentation entwerfen: Entwürfe für Berichte, Abweichungsbeschreibungen oder SOP-Abschnitte, die wie jeder andere Entwurf geprüft und freigegeben werden.
- Methodenarbeit unterstützen: Recherche, Vergleich von Methodenvarianten, Vorschläge für Versuchspläne in Forschung und Entwicklung.
Die Grenze verläuft dort, wo die KI selbst entscheidet. Eine Chargenfreigabe, eine OOS-Entscheidung oder eine Spezifikation bleibt bei Menschen. Konkrete Beispiele mit klarer Rollenverteilung zeigt der Beitrag KI im QC-Labor: Anwendungsfälle mit Human in the Loop.
Das Architekturprinzip: LLM plant, Tools rechnen
Das Kernproblem generativer KI im Labor ist nicht die Sprache, sondern die Zahl. Ein Sprachmodell formuliert gut, plant gut und versteht eine Fragestellung. Es rechnet aber nicht verlässlich. Eine Molmasse, eine Haltbarkeitsextrapolation oder ein Grenzwert aus einem Modell, das auf Wahrscheinlichkeiten beruht, ist im regulierten Umfeld wertlos, solange niemand weiß, wie die Zahl entstanden ist.
Daraus folgt ein Architekturprinzip, das sich mit der Logik von Annex 22 gut verträgt: Das Sprachmodell übernimmt die Planung, die Berechnung übernehmen reproduzierbare Werkzeuge. Jeder Rechenschritt läuft in einem Tool, das bei gleicher Eingabe das gleiche Ergebnis liefert und dessen Ergebnis sich nachprüfen lässt. Das LLM ruft diese Tools auf, setzt ihre Ergebnisse zusammen und erklärt sie. Am Ende prüft ein Mensch.
CovaSyn verbindet LLMs mit reproduzierbaren Chemie-Tools. Das Sprachmodell plant, die Tools rechnen, jeder Schritt ist nachvollziehbar. So lässt sich KI im Labor heute schon nutzen und so aufbauen, dass sie zu den Anforderungen passt, die mit Annex 22 kommen.
Wichtig ist, was das nicht bedeutet: CovaSyn ist ein Werkzeug für Forschung und Labor, keine validierte GMP-Software und keine Compliance-Beratung. Ob und wie ein Werkzeug in einem GMP-Prozess eingesetzt wird, entscheidet und validiert das Unternehmen, das es betreibt. Welche Eigenschaften einzelner Werkzeuge für eine solche Bewertung belegt sind, dokumentieren wir erst, wenn sie fachlich geprüft sind.
Datenintegrität und Audit Trail: Fragen, die ein Labor stellen sollte
Für jede KI-Anwendung im Labor, ob kritisch oder nicht, lohnt sich ein kurzer Satz an Fragen. Sie stammen aus dem, was Annex 11 und der Entwurf von Annex 22 gemeinsam verlangen:
- Ist für jedes Ergebnis nachvollziehbar, mit welcher Modellversion und welchen Eingaben es entstanden ist?
- Liefert das System bei gleicher Eingabe das gleiche Ergebnis?
- Gibt es einen Audit Trail, der zeigt, wer wann was ausgelöst und geändert hat?
- Erkennt das System, wenn eine Eingabe außerhalb seines Anwendungsbereichs liegt (Applicability Domain)?
- Ist geregelt, wie mit unsicheren oder widersprüchlichen Ergebnissen umgegangen wird?
- Wo werden die Daten verarbeitet und gespeichert, und wer hat Zugriff?
Diese und acht weitere Fragen haben wir in einer Checkliste gebündelt, die Sie mit Ihrem Team in 20 Minuten durchgehen können: den Annex 22 Readiness Check für Labore.
Betrieb im eigenen Haus als Option für Datenhoheit
Viele QA- und IT-Abteilungen stellen eine Frage zuerst: Wo landen unsere Daten? Für Labore mit sensiblen Methoden- oder Produktdaten kann es sinnvoll sein, Werkzeuge im eigenen Netz zu betreiben statt in einer fremden Cloud. CovaSyn bietet den Betrieb im eigenen Haus als Option an. Ob das für einen Anwendungsfall nötig ist, hängt von Daten, Risiko und vorhandener Infrastruktur ab und lässt sich in einem Gespräch klären.
Was Sie jetzt tun können, unabhängig vom finalen Text
Ob der finale Annex 22 generative KI unter Bedingungen zulässt oder nicht: Vier Schritte lohnen sich in jedem Fall, und keiner davon ist verschwendet.
- Anwendungsfälle inventarisieren. Erfassen Sie alle KI-Anwendungen im Labor, auch die inoffiziellen. Ein Chat-Assistent, mit dem jemand eine Abweichung umformuliert, ist eine KI-Anwendung.
- Kritikalität bewerten. Ordnen Sie jede Anwendung ein: Wirkt sie auf eine GMP-relevante Entscheidung oder nicht? Daraus folgt, welche Kontrollen nötig sind.
- Human in the Loop festlegen. Bestimmen Sie für jede Anwendung, wer das Ergebnis prüft, bevor es weiterverwendet wird, und wie diese Prüfung dokumentiert wird.
- KI-Kompetenz aufbauen. Seit dem 2. Februar 2025 verpflichtet die EU-KI-Verordnung (Art. 4) Betreiber von KI-Systemen, für ausreichende KI-Kompetenz ihres Personals zu sorgen. Diese Pflicht gilt unabhängig von Annex 22, also schon heute.
Wer zusätzlich Orientierung zur Validierung sucht: GAMP 5 in der zweiten Auflage enthält mit Appendix D11 einen eigenen Anhang zu KI und Machine Learning.
Häufige Fragen
Ist Annex 22 schon verbindlich?
Nein. Annex 22 liegt als Entwurf vor. Er wurde im Juli 2025 zur Konsultation veröffentlicht und wird derzeit überarbeitet. Bis zur Annahme ist er nicht Teil des verbindlichen EU-GMP-Leitfadens. Viele Unternehmen bereiten sich trotzdem jetzt vor, weil die Grundrichtung seit dem Entwurf stabil ist.
Dürfen LLMs wie ChatGPT oder Claude in GMP-Prozessen eingesetzt werden?
Der Entwurf schließt generative KI und LLMs von kritischen GMP-Anwendungen aus. Für nicht kritische Unterstützung, etwa Entwürfe, Recherche oder Auswertungsvorschläge mit menschlicher Prüfung, gilt das nicht in gleicher Weise. Die EMA prüft seit 2026, unter welchen Kontrollen generative KI auch weitergehend zulässig sein könnte.
Was ist der Unterschied zwischen Annex 11 und Annex 22?
Annex 11 regelt computergestützte Systeme allgemein. Annex 22 ergänzt ihn um Anforderungen speziell für KI-Modelle, zum Beispiel definierter Verwendungszweck, Testdaten, Leistungsüberwachung und menschliche Aufsicht. Annex 22 ersetzt Annex 11 nicht.
Was bedeutet "Human in the Loop" in der Praxis?
Eine qualifizierte Person prüft das Ergebnis der KI, bevor daraus eine GMP-relevante Entscheidung wird. Die Verantwortung bleibt beim Unternehmen und bei den zuständigen Personen.
Wie passt CovaSyn dazu?
Bei CovaSyn plant das Sprachmodell den Arbeitsweg, gerechnet wird in reproduzierbaren Chemie-Tools. Jeder Schritt ist nachvollziehbar und die Ergebnisse prüft ein Mensch. CovaSyn ist ein Werkzeug für Forschung und Labor, keine validierte GMP-Software und keine Compliance-Beratung.
Was können wir jetzt schon tun, bevor Annex 22 final ist?
KI-Anwendungsfälle erfassen, nach Kritikalität einordnen, festlegen, wo ein Mensch prüft, und das Personal schulen. Die KI-Kompetenzpflicht aus der EU-KI-Verordnung gilt bereits seit Februar 2025.
Betrifft Annex 22 auch Forschung und Entwicklung?
Annex 22 gehört zum GMP-Leitfaden und zielt auf Herstellung und Qualitätskontrolle von Arzneimitteln und Wirkstoffen. Forschung außerhalb der GMP ist nicht direkt erfasst. Wer Methoden später in GMP überführt, profitiert aber davon, Nachvollziehbarkeit früh einzubauen.
Nächste Schritte
- Readiness Check: 14 Fragen, mit denen Sie den Stand Ihres Labors in 20 Minuten einschätzen. Zum Annex 22 Readiness Check
- Workshop: Im Workshop-Modul "KI im GxP-Labor" arbeiten Sie mit Ihrem Team an den eigenen Anwendungsfällen. Zum Workshop-Modul
- Sparring: Sie möchten ein konkretes Vorhaben einordnen? Zum Sparring
Quellen
- PIC/S und Europäische Kommission, Konsultation zu Kapitel 4, Annex 11 und Annex 22 (Juli bis Oktober 2025): health.ec.europa.eu
- IntuitionLabs, EU GMP Annex 22 und KI-Compliance: intuitionlabs.ai
- EMA, Multistakeholder-Workshop zu Annex 22 (30. Juni und 1. Juli 2026): ema.europa.eu
- HPRA, Präsentation QP Forum 2026: tcd.ie (PDF)
- PharmaNow, Annex 22 ist noch kein Recht: pharmanow.live
- PharmOut, EMA GMP-Arbeitsplan 2026 bis 2028: pharmout.net
- ECA Academy, Entwürfe von Annex 11, Annex 22 und Kapitel 4 (Umfang Annex 11): gmp-compliance.org
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4 und Art. 113: eur-lex.europa.eu
- ISPE, GAMP 5 Second Edition: ispe.org
Annex 22 liegt als Entwurf vor (Stand: 5. Oktober 2026). Dieser Inhalt ist keine Rechts-, Regulatory- oder Compliance-Beratung.