Generative künstliche Intelligenz bezeichnet KI-Verfahren, die aus erlernten statistischen Mustern neue Inhalte erzeugen können. Dazu zählen Texte, Bilder, Programmcode, Audio oder strukturierte Entwürfe. Die Ausgabe ist keine eigenständige Bestätigung ihrer sachlichen Richtigkeit.
Funktionsweise und Einsatz
In Unternehmen wird generative KI beispielsweise zur Zusammenfassung von Dokumenten, Unterstützung bei Wissenssuche oder Formulierung von Entwürfen eingesetzt. Leistungsfähigkeit und Verlässlichkeit hängen von Modell, Aufgabenstellung, Eingabedaten und Kontrollverfahren ab.
Abgrenzung und Grenzen
Generative KI unterscheidet sich von klassischer regelbasierter Automatisierung. Sie kann plausible, aber falsche Aussagen erzeugen und vertrauliche Informationen verarbeiten. Deshalb sind geeignete Qualitätsprüfungen, Berechtigungen und gegebenenfalls menschliche Freigaben erforderlich.
Beispiel aus der Unternehmenspraxis
Ein interner Assistent kann aus freigegebenen Richtlinien erste Antworten zu Abläufen entwerfen. Eine fachlich verantwortliche Stelle muss sicherstellen, dass die verwendeten Quellen aktuell sind.
Hinweise zur Anwendung
Bei rechtlich relevanten oder folgenreichen Anwendungen sind Datenschutz, Informationssicherheit und die jeweils tatsächlich einschlägigen regulatorischen Anforderungen zu prüfen. Nicht jede KI-Anwendung unterliegt denselben Pflichten.
Wie generative Systeme Inhalte erzeugen
Generative KI nutzt trainierte Modelle, um aus Eingaben neue Ausgaben zu erzeugen. Bei Textmodellen werden mögliche Fortsetzungen auf Grundlage statistischer Muster berechnet; Bild- oder Audiomodelle verwenden andere technische Verfahren. Die Ergebnisse können sprachlich überzeugend, formal korrekt oder visuell plausibel wirken, ohne dass der zugrunde liegende Sachverhalt geprüft wurde. Für Unternehmen ist deshalb zwischen der Erzeugung eines Entwurfs und der Bestätigung fachlicher Richtigkeit zu unterscheiden. Besonders bei technischen Anleitungen, rechtlichen Aussagen oder Managementkennzahlen dürfen fehlerhafte Ausgaben nicht ungeprüft in betriebliche Prozesse übernommen werden.
Typische Einsatzfelder und notwendige Abgrenzungen
Generative KI kann bei Zusammenfassungen, Entwürfen, Klassifikationen, Wissenssuche und der Unterstützung von Softwareentwicklung eingesetzt werden. Viele Aufgaben lassen sich aber auch durch klassische Regeln oder gezielte Datenabfragen lösen. Welche Methode zweckmäßig ist, hängt von Fehlerfolgen, Wiederholbarkeit und verfügbarem Fachwissen ab. Ein LLM, das einen Bericht formuliert, ist nicht automatisch die Quelle der darin enthaltenen Kennzahlen. Diese sollten aus freigegebenen Unternehmenssystemen stammen. Ebenso ist die automatische Erstellung einer Antwort von ihrer möglichen späteren Freigabe oder Veröffentlichung zu trennen.
Qualitätssicherung und Grenzen von Modellantworten
Eine zuverlässige Anwendung benötigt Prüfverfahren, die zum Geschäftsrisiko passen. Denkbar sind Testfragen, stichprobenartige Fachkontrollen, Quellenangaben und technische Plausibilitätsregeln. Auch mit Retrieval-Augmented Generation kann ein Modell relevante Informationen übersehen oder falsch interpretieren. Ein weiteres Risiko sind manipulierte Eingaben, insbesondere wenn externe Dokumente oder Webseiten in den Kontext übernommen werden. Sicherheit lässt sich deshalb nicht durch einen allgemeinen Hinweis an das Modell erreichen. Eingaben, Berechtigungen, Werkzeugzugriffe und Ausgaben müssen durch die gesamte Anwendung hinweg kontrolliert werden.
Rechtliche und organisatorische Voraussetzungen
Die Verarbeitung personenbezogener oder vertraulicher Informationen muss an Datenschutz und vertragliche Schutzanforderungen angepasst werden. Auch urheberrechtliche Fragen, Informationssicherheit und die tatsächlich einschlägigen Vorgaben des europäischen KI-Rechts können relevant sein. Pflichten hängen jedoch vom konkreten Anwendungsfall und der Rolle des Unternehmens ab. Eine pauschale Aussage, jede generative KI sei gleich reguliert, wäre unzutreffend. Organisationen sollten Verantwortliche, zulässige Zwecke, Freigabeschritte und den Umgang mit Fehlern definieren. Erst damit wird eine technisch überzeugende Demonstration zu einer kontrollierbaren betrieblichen Anwendung.
Häufige Fragen
Erzeugt generative KI verlässlich richtige Fakten?
Nein. Ausgaben können plausibel formuliert und dennoch falsch sein. Für wichtige Entscheidungen sind überprüfbare Quellen und fachliche Kontrollen erforderlich.
Ist generative KI immer ein KI-Agent?
Nein. Ein Modell kann lediglich Texte erzeugen. Ein Agent verbindet Modelle gegebenenfalls mit Planung, Werkzeugen und kontrollierten Handlungen.
Praktische Prüffragen
- Bestimmen Sie die zulässigen Aufgaben generativer KI und unterscheiden Sie ausdrücklich zwischen Entwurf, Informationshilfe und freigegebener Entscheidung.
- Testen Sie Antworten auf fehlerhafte, unvollständige und widersprüchliche Eingaben; sprachliche Überzeugungskraft darf nicht als Qualitätsnachweis dienen.
- Schützen Sie Unternehmensdaten durch geeignete Zugriffsregeln und prüfen Sie vertragliche, datenschutzrechtliche sowie tatsächlich anwendbare regulatorische Anforderungen.
- Berücksichtigen Sie manipulierte Dokumente und Prompt Injection bei der Einbindung externer Inhalte; Schutzmaßnahmen müssen über reine Modellanweisungen hinausgehen.
- Legen Sie Freigabeschritte und Verantwortliche für rechtlich oder technisch folgenreiche Ausgaben fest und dokumentieren Sie wesentliche Modelländerungen.
Fachliche Qualität unabhängig vom Sprachstil prüfen
Generative KI kann überzeugende Texte, Programmcode und Entwürfe erzeugen. Daraus folgt nicht, dass jede Aussage stimmt oder dass ein vorgeschlagener Prozess fachlich zulässig ist. Ein Unternehmen sollte deshalb Aufgaben nach Fehlerfolgen unterscheiden. Bei einer internen Zusammenfassung kann eine Stichprobenprüfung genügen, während sicherheitsrelevante Anweisungen oder vertragliche Aussagen strengere Freigaben erfordern. Auch eine Antwort mit Quellenangaben kann Informationen falsch zusammenführen. Die Qualitätskontrolle muss folglich sowohl die gefundenen Grundlagen als auch ihre Interpretation berücksichtigen. Besonders bei wechselnden Modellen sollte regelmäßig getestet werden, ob typische Fachfragen weiterhin korrekt bearbeitet werden.
Sichere Einbindung in Unternehmensprozesse
Die Nutzung generativer KI erfordert Regeln zum Umgang mit vertraulichen Informationen, personenbezogenen Daten und externen Inhalten. Ein Modell kann in bereitgestellten Dokumenten manipulative Anweisungen finden und diese fälschlich als Auftrag interpretieren. Zugriffs- und Handlungsbefugnisse müssen deshalb technisch durchgesetzt werden und dürfen nicht nur als Formulierung im Prompt stehen. Unternehmen sollten auch dokumentieren, für welche Zwecke die Anwendung vorgesehen ist und wer Ausgaben freigibt. Je nach Einsatzgebiet sind Datenschutz und weitere Rechtsvorgaben gesondert zu prüfen. Die technische Möglichkeit, Inhalte automatisch zu erzeugen, rechtfertigt keine Behauptung, dass organisatorische Entscheidungen zuverlässig oder ohne menschliche Verantwortung getroffen werden können.
Verwandte Wiki-Begriffe
Weiterführende Erklärungen: Large Language Model, RAG, KI-Agent.
Fachliche Quellen
NIST – Risikomanagementprofil für generative KI. Die Beispiele beschreiben mögliche, nicht nachgewiesene Unternehmensanwendungen.