KI spart Zeit, ersetzt aber keine Verantwortung
KI ist für uns ein Werkzeug, das Anwender:innen bei ihrer Arbeit im Qualitätsmanagementsystem (QMS) spürbar entlastet, ohne dass regulatorische Verantwortung oder fachliche Kontrolle verloren gehen. Jede KI-Funktion in engamp® macht eine konkrete Aufgabe für Anwender:innen schneller, einfacher oder sicherer. Funktionen, die das nicht leisten, haben in einem regulierten System nichts zu suchen.
Diese Haltung folgt unserem Prinzip „Evolution statt Revolution“. Ein QMS ist kein Experimentierfeld. Es ist das System, in dem Freigaben dokumentiert, Änderungen nachvollzogen und Verantwortlichkeiten festgeschrieben werden. Genau diese Struktur macht ein eQMS auditfähig, und genau diese Struktur darf durch KI nicht aufgeweicht werden.
„AI supported – always compliant“: was hinter dem Leitmotiv steht
Unser Leitmotiv für den KI-Einsatz in engamp® lautet „AI supported – always compliant“. Es beschreibt zwei Anforderungen, die wir an unser eigenes Produkt stellen.
AI supported: Jede Funktion in engamp® ist für sich genommen sinnvoll und vollständig nutzbar. KI macht sie schneller und einfacher zu bedienen, ist aber nie Voraussetzung. Kein regulierter Prozessschritt in engamp® setzt eine KI-Funktion zwingend voraus.
Always compliant: Jede KI-Funktion ist so gestaltet, dass der konforme Zustand des QMS zu keinem Zeitpunkt verlassen wird. Freigaben, Audit Trail und Verantwortlichkeiten bleiben unangetastet.
Wichtig ist uns dabei eine klare Abgrenzung: „Compliant“ ist ein Designanspruch an unser Produkt, keine Zusicherung an Sie als Kunden. Die Compliance Ihrer Prozesse bleibt in Ihrer Verantwortung. engamp® ist so gestaltet, dass es ihr nie im Weg steht.
Unsere Prinzipien für KI-Funktionen in engamp®
Aus diesem Leitmotiv haben wir sieben Prinzipien abgeleitet, an denen wir jede geplante KI-Funktion messen:
- Human-in-the-loop: Die KI schlägt vor, der Mensch entscheidet. Kein KI-Ergebnis wird ungeprüft wirksam.
- Vollständige Nachvollziehbarkeit: Was die KI getan hat und worauf eine Ausgabe beruht, ist jederzeit erkennbar.
- Kontrollierter Einsatz: KI-Funktionen kommen gezielt dort zum Einsatz, wo sie nachweislich Mehrwert schaffen, nicht flächendeckend um ihrer selbst willen.
- Transparenz: Anwender:innen wissen jederzeit, wann sie mit KI-gestützten Funktionen interagieren.
- Nutzerhoheit: Anwender:innen entscheiden, ob und wann sie eine KI-Funktion nutzen.
- Integration in bestehende Prozesse: KI fügt sich in gewohnte Arbeitsabläufe ein, ohne einen Bruch zu erzeugen.
- KI ist Unterstützung, nicht Voraussetzung: Jede Funktion in engamp® ist auch ohne KI vollständig und sinnvoll nutzbar.
An diesen Prinzipien messen wir heute jede geplante KI-Funktion.
KI-gestützt heißt nicht KI-gesteuert
Wie sich KI-Unterstützung und fachliche Verantwortung dabei ergänzen, veranschaulicht die folgende Abbildung: Die KI erzeugt einen Vorschlag, die fachliche Bewertung und die Freigabe liegen als Entscheidung beim Menschen, und erst danach wird das Ergebnis im QMS wirksam und im Audit Trail dokumentiert.
Der regulatorische Rahmen: Annex 22, EU AI Act und ein erster Warning Letter
Der regulatorische Rahmen für KI in GxP-Umgebungen ist in Bewegung. Die Behörden haben den Wandel erkannt, belastbare Antworten sind aber noch in Entstehung.
Internationale regulatorische Anforderungen und Leitlinien
Drei Regelwerke bestimmen derzeit, was beim KI-Einsatz im regulierten Umfeld gefordert ist:
- EU-GMP-Leitfaden, Annex 22 „Artificial Intelligence“ (Entwurf): Am 7. Juli 2025 hat die Europäische Kommission gemeinsam mit der GMDP Inspectors Working Group der EMA erstmals einen eigenen Annex zu KI zur Kommentierung veröffentlicht, zusammen mit der überarbeiteten Fassung von Annex 11 „Computerised Systems“ und Kapitel 4 „Documentation“. Annex 22 beschreibt, wie KI-Modelle validiert, überwacht, dokumentiert und risikobasiert gesteuert werden müssen, wenn sie Produktqualität, Patientensicherheit oder Datenintegrität berühren. Die Konsultationsfrist endete am 7. Oktober 2025 und brachte rund 1.300 Kommentare ein. Eine finale Fassung wird zum Ende des Jahres 2026 erwartet.
- ISPE GAMP® Guide: Artificial Intelligence (Juli 2025): Der Guide überträgt Qualitätsrisikomanagement und die ALCOA+-Grundsätze konsequent auf KI-gestützte computergestützte Systeme. Das betrifft nicht nur die Ausgabe, sondern die gesamte Datenkette: Rohdaten, Trainingsdaten, Modellparameter, Prompts und Ergebnisse. Praktisch bedeutet das, nachvollziehbar festzuhalten, wer oder was eine KI-Ausgabe erzeugt hat und auf welcher Datenbasis, und diese Nachweise auch dann aufzubewahren, wenn sich das Modell weiterentwickelt.
- EU AI Act (Verordnung (EU) 2024/1689): In Kraft seit dem 1. August 2024. Die Verbote bestimmter Praktiken gelten seit dem 2. Februar 2025, die Transparenzpflichten für Modelle mit allgemeinem Verwendungszweck (GPAI) seit dem 2. August 2025. Für Hochrisiko-Systeme nach Annex III wurde die Anwendbarkeit im Rahmen der Digital-Omnibus-Verständigung vom 7. Mai 2026 auf den 2. Dezember 2027 verschoben, für in regulierte Produkte eingebettete Systeme nach Annex I auf den 2. August 2028.
Für die Praxis heißt das: Die Detailanforderungen sind noch nicht endgültig formuliert, die Richtung ist aber eindeutig. Gefordert werden Validierung, Risikobewertung, Datenintegrität und eine belegbare menschliche Kontrolle.
Woran Unternehmen bereits heute scheitern
Dass sich die Regelwerke noch in Bewegung befinden, bedeutet nicht, dass es keine Konsequenzen gibt. Im April 2026 hat die FDA erstmals einen Warning Letter ausgesprochen, in dem der unangemessene Einsatz von KI in cGMP-Prozessen im Zentrum steht. Adressat war die Purolea Cosmetics Lab in Livonia, Michigan (Warning Letter Nr. 722591 vom 2. April 2026).
Die beanstandeten Punkte lesen sich wie eine Checkliste dessen, was in einem regulierten Umfeld nicht passieren darf:
- Ungeprüfte KI-generierte Inhalte: Das Unternehmen ließ Produktspezifikationen, Verfahrensanweisungen und Master Production Records von KI-Agenten erzeugen.
- Fehlende menschliche Freigabe: Die Quality Unit hatte diese Dokumente nicht auf Richtigkeit und cGMP-Konformität geprüft. Die FDA zitierte dazu 21 CFR 211.22(c) und 21 CFR 211.100.
- Übermäßige Abhängigkeit von KI-Ergebnissen: Auf den Hinweis, dass eine erforderliche Prozessvalidierung fehlte, verwies das Unternehmen darauf, der KI-Agent habe diese Anforderung nicht genannt.
Die FDA hält in diesem Zusammenhang fest, dass Ausgaben und Empfehlungen eines KI-Agenten von einer autorisierten Vertretung der Quality Unit geprüft und freigegeben werden müssen und dass die Verantwortung für die cGMP-Konformität nicht an ein KI-Werkzeug delegiert werden kann. Der „Human-in-the-loop“ wird dort ausdrücklich als erwartete Norm für GxP-Funktionen benannt, die Produktqualität oder Patientensicherheit betreffen.
Unsere Prinzipien, insbesondere Human-in-the-loop und vollständige Nachvollziehbarkeit, sind die direkte Antwort auf genau diese Risiken. Darauf zielt „always compliant“: Weil KI-Ergebnisse in engamp® nie ungeprüft wirksam werden und jeder regulierte Prozessschritt auch ohne KI vollständig durchführbar ist, bleiben Sie handlungsfähig, selbst wenn sich die regulatorischen Anforderungen verschärfen.
Datenverarbeitung: welche Inhalte die KI erreichen und welche nicht
Vertraulichkeit ist in regulierten Branchen eine Voraussetzung für den Einsatz von Technologie. Für die Datenverarbeitung gelten daher drei Festlegungen:
- Kein Training mit Kundendaten: Kundendaten werden nicht zum Training von Modellen verwendet. Das ist vertraglich zugesichert.
- Keine Hintergrunddaten: An die KI werden ausschließlich Inhalte übergeben, die Anwender:innen bewusst auswählen. Hintergrunddaten aus dem System senden wir nicht mit.
- Ihr Zugang, Ihr Vertrag: Der Zugang zum Sprachmodell läuft über einen Schlüssel, den Sie selbst bereitstellen. Damit liegt das Vertragsverhältnis zum Modellanbieter bei Ihnen. Unterstützt wird derzeit OpenAI.
engamp® | intelligence als Querschnitts-Erweiterung
Anders als die übrigen Module ist engamp® | intelligence eine querschnittliche Erweiterung. Wird sie erworben, schaltet sie die KI-Funktionen in allen von Ihnen eingesetzten engamp®-Produkten frei.
Kunden, die engamp® | intelligence nicht einsetzen, arbeiten mit dem vollen Funktionsumfang von engamp® und verzichten lediglich auf die Beschleunigung einzelner Arbeitsschritte.
Anwendungsfälle: Wo KI im Arbeitsalltag unterstützt
Wir priorisieren Anwendungsfälle, die Anwender:innen im Arbeitsalltag einen deutlichen Mehrwert bringen. Nachfolgend einige Beispiele:
- Dokumentenzusammenfassung: Umfangreiche Dokumente werden auf ihre Kernaussagen verdichtet, bevor Anwender:innen in die Detailprüfung gehen.
- Dokumenten-Chat: Fragen an ein oder mehrere Dokumente werden direkt im Kontext der Dokumente beantwortet, statt manuell nach der relevanten Passage zu suchen.
- Intelligente Fragebögen: Unterstützung beim Erstellen von Fragebögen, etwa im Schulungsmanagement.
- Automatische Änderungshistorie: Automatisiert erzeugte, verständliche Beschreibung dessen, was sich zwischen zwei Dokumentversionen inhaltlich geändert hat.
In allen vier Fällen gilt dasselbe Muster: Die KI liefert einen Vorschlag, die fachliche Bewertung und die Freigabe bleiben bei der verantwortlichen Person.
Fazit: KI verändert die Arbeit im QMS, nicht die Verantwortung
KI wird die Arbeit im QMS verändern, aber sie wird die Verantwortung nicht verschieben. Der erste FDA-Warning-Letter zum KI-Einsatz vom April 2026 und die parallel laufenden Arbeiten an Annex 11 und Annex 22 zeigen dieselbe Erwartung aus zwei Richtungen: Nachvollziehbarkeit und menschliche Freigabe sind nicht verhandelbar.
Genau deshalb bauen wir KI-Funktionen in engamp® so, dass sie sicher, effizient und nachvollziehbar bleiben. Sie gewinnen Zeit bei Routineaufgaben, während Freigaben, Audit Trail und Zuständigkeiten unverändert dort liegen, wo sie hingehören. Wenn sich die regulatorischen Anforderungen weiter konkretisieren, und davon ist bis Ende 2026 auszugehen, sind Sie mit dieser Architektur nicht gezwungen, Prozesse neu aufzusetzen.
So verstehen wir „AI supported – always compliant“: KI beschleunigt und vereinfacht auf Wunsch Arbeitsschritte in engamp®, ohne dass die Nutzung verpflichtend ist.
Möchten Sie erfahren, welche KI-Funktionen in Ihren Qualitätsprozessen tatsächlich einen Unterschied machen und wie sich engamp® | intelligence in Ihre bestehende Systemlandschaft einfügt? Dann melden Sie sich gerne über unser Kontaktformular.
Häufig gestellte Fragen (FAQ´s)
- Was bedeutet „AI supported – always compliant“?
„AI supported“ bedeutet, dass jede Funktion in engamp® auch ohne KI vollständig nutzbar ist und KI die Bedienung lediglich beschleunigt und vereinfacht. „Always compliant“ bedeutet, dass der konforme Zustand des QMS zu keinem Zeitpunkt verlassen wird: Freigaben, Audit Trail und Verantwortlichkeiten bleiben unangetastet.
- Übernimmt die KI in engamp® Freigaben oder Bewertungen?
Nein. Es gilt durchgängig das Prinzip Human-in-the-loop: Die KI schlägt vor, der Mensch entscheidet. Kein KI-Ergebnis wird ungeprüft wirksam. Auch die FDA benennt in ihrem Warning Letter vom 2. April 2026 die Prüfung und Freigabe durch eine autorisierte Vertretung der Quality Unit als Erwartung.
- Wer trägt die Verantwortung für die Compliance unserer Prozesse?
Die Compliance Ihrer Prozesse bleibt in Ihrer Verantwortung. „Compliant“ ist ein Designanspruch an unser Produkt: engamp® ist so gestaltet, dass es Ihrer Compliance nie im Weg steht. Die Verantwortung für cGMP-Konformität lässt sich nach Auffassung der FDA nicht an ein KI-Werkzeug delegieren.
- Woran erkennen Anwender:innen, dass sie mit einer KI-Funktion arbeiten?
Transparenz ist eines unserer Prinzipien: Anwender:innen wissen jederzeit, wann sie mit einer KI-gestützten Funktion interagieren. Ergänzt wird das durch die Nutzerhoheit. Ob und wann eine KI-Funktion genutzt wird, entscheiden Anwender:innen selbst, nicht das System.
- Werden unsere Dokumente zum Training von KI-Modellen verwendet?
Nein. Kundendaten werden nicht zum Training von Modellen verwendet, und das ist vertraglich zugesichert. An die KI werden ausschließlich Inhalte übergeben, die Anwender:innen bewusst auswählen. Hintergrunddaten aus dem System senden wir nicht mit. Der Zugang zum Sprachmodell läuft über einen Schlüssel, den Sie selbst bereitstellen, das Vertragsverhältnis zum Modellanbieter liegt damit bei Ihnen.
- Was regelt der geplante Annex 22 des EU-GMP-Leitfadens?
Annex 22 „Artificial Intelligence“ beschreibt erstmals, wie KI-Modelle validiert, überwacht, dokumentiert und risikobasiert gesteuert werden müssen, wenn sie Produktqualität, Patientensicherheit oder Datenintegrität berühren. Der Entwurf wurde am 7. Juli 2025 zur Kommentierung veröffentlicht, die finale Fassung wird Ende 2026 erwartet.
- Wie wirkt sich der EU AI Act auf den Einsatz von KI im QMS aus?
Der EU AI Act ist seit dem 1. August 2024 in Kraft. Für den Einsatz im QMS zählen vor allem zwei Anforderungen: Anwender:innen müssen erkennen können, wann sie mit einer KI-Funktion arbeiten, und über den Ergebnissen muss eine menschliche Aufsicht stehen. Beides ist in engamp® angelegt. Ob Ihr konkreter Einsatz als Hochrisiko-Anwendung gilt, hängt von Ihrem Prozess ab und gehört zu Ihrer eigenen Bewertung. Zeitlich gelten die Verbote seit Februar 2025 und die GPAI-Transparenzpflichten seit August 2025, die Pflichten für Hochrisiko-Systeme nach Annex III greifen ab dem 2. Dezember 2027, für eingebettete Systeme nach Annex I ab dem 2. August 2028.
- Brauchen wir engamp® | intelligence, um engamp® sinnvoll einsetzen zu können?
Nein. engamp® | intelligence ist eine optionale Querschnitts-Erweiterung. Kunden, die intelligence nicht einsetzen, arbeiten mit dem vollen Funktionsumfang von engamp® und verzichten lediglich auf die Beschleunigung einzelner Arbeitsschritte. Wird die Erweiterung erworben, schaltet sie KI-Funktionen in allen eingesetzten engamp®-Produkten frei.
- Welche KI-Funktionen stehen heute bereits zur Verfügung?
Prototypisch umgesetzt sind die Dokumentenzusammenfassung und der Dokumenten-Chat. In Konzeption befinden sich die intelligente Erstellung von Fragebögen sowie eine automatisch erzeugte Änderungshistorie zwischen Dokumentversionen.
- Können wir engamp® auch dann einsetzen, wenn KI in unserem Unternehmen nicht freigegeben ist?
Ja. Weil kein regulierter Prozessschritt in engamp® eine KI-Funktion voraussetzt, bleibt der volle Funktionsumfang auch ohne engamp® | intelligence nutzbar. Unternehmen, deren interne Vorgaben den KI-Einsatz derzeit einschränken, arbeiten mit engamp® ohne Einschränkung und können die Erweiterung später ergänzen.
