Generative KI kann E-Mails schreiben, Dokumente zusammenfassen, Bilder erstellen, Code erzeugen und beim Sammeln von Ideen helfen. Doch wie funktioniert generative KI eigentlich unter der Haube?
Die einfache Antwort lautet: Generative KI lernt Muster aus Beispielen, speichert diese Muster in einem Modell und nutzt sie, um neue Inhalte zu erstellen, wenn Sie ihr einen Prompt geben. Sie denkt, fühlt oder versteht nicht wie ein Mensch. Stattdessen verwendet sie mathematische Zusammenhänge, die sie im Training gelernt hat, um Ausgaben vorherzusagen und zu erzeugen, die zu Ihrer Anfrage passen.
Im Folgenden erklären wir die wichtigsten Konzepte verständlich: Training, Tokens, neuronale Netze, Prompts, Texterzeugung, Bilderzeugung und warum KI-Tools manchmal falschliegen.
Was ist generative KI?
Generative KI ist eine Form künstlicher Intelligenz, die neue Inhalte erstellen kann. Das können Texte, Bilder, Audio, Videos, Programmcode, Zusammenfassungen, Gliederungen oder andere Ergebnisse sein.
IBM zufolge bezeichnet generative KI KI-Systeme, die auf Grundlage von Mustern, die sie aus Daten gelernt haben, neue Inhalte erstellen: Was ist generative KI?.
Damit unterscheidet sie sich von KI-Systemen, die Dinge nur klassifizieren, bewerten oder erkennen. Zum Beispiel:
- Ein Spamfilter sagt voraus, ob eine E-Mail Spam ist.
- Ein Empfehlungssystem ordnet Filme oder Produkte danach, was Ihnen gefallen könnte.
- Ein generatives KI-Schreibtool erstellt einen neuen Absatz, eine E-Mail oder eine Geschichte.
- Ein generatives Bildtool erzeugt aus einer Textbeschreibung ein neues Bild.
In der Praxis kombinieren viele KI-Systeme Vorhersage, Klassifizierung, Abruf und Generierung. Das entscheidende Merkmal generativer KI ist jedoch, dass sie neue Inhalte hervorbringt, statt vorhandene Inhalte nur zu beschriften oder zu sortieren.
Die einfache Version: Muster lernen und Inhalte erzeugen
Am einfachsten lässt sich generative KI so verstehen:
1. Sie analysiert viele Beispiele.
2. Sie lernt Muster in diesen Beispielen.
3. Sie nutzt diese Muster, um etwas Neues zu erzeugen.
Bei einem Textmodell bestehen die Beispiele aus großen Mengen geschriebener Sprache. Bei einem Bildmodell sind es Bilder, oft zusammen mit Textbeschreibungen. Bei einem Codemodell gehören Programmiermuster zu den Beispielen. Bei Audio- oder Videosystemen können die Beispiele Schallwellen, Einzelbilder, Untertitel oder andere Darstellungen umfassen.
Das Modell kopiert in der Regel nicht Wort für Wort aus einer riesigen Datenbank. Das wäre eine zu starke Vereinfachung. Stattdessen passt es während des Trainings viele interne Zahlenwerte an, damit es Zusammenhänge erkennen und wahrscheinliche Ausgaben erzeugen kann. Diese gelernten Einstellungen werden häufig Parameter genannt.
Ein hilfreiches Bild ist Autovervollständigung in einem viel größeren und flexibleren Maßstab. Ihr Smartphone schlägt vielleicht das nächste Wort in einem Satz vor. Ein modernes generatives KI-Modell kann auf Grundlage wesentlich reichhaltigerer gelernter Muster viele Wörter, Codezeilen, Bilddetails oder andere Elemente vorhersagen und erzeugen. Der Vergleich ist nützlich, aber unvollständig: Moderne Systeme sind weitaus komplexer als gewöhnliche Autovervollständigung.
Schritt 1: Training mit Beispielen
Training ist der Prozess, durch den ein generatives KI-Modell Muster lernt.
Während des Trainings werden dem System viele Beispiele gezeigt. Je nach Art des Modells können dazu gehören:
- Sätze, Artikel, Bücher, Dokumentationen und Webseiten
- Bilder und Textbeschreibungen
- Audioclips und Transkripte
- Codedateien und Kommentare
- Videobilder und Untertitel
Das Ziel ist nicht, dass das Modell jedes Beispiel perfekt auswendig lernt. Ziel ist es, nützliche Zusammenhänge zu lernen. Bei einem Sprachmodell können das Grammatik, häufige Formulierungen, thematische Beziehungen, Schreibstile und die Art sein, wie Wörter typischerweise gemeinsam auftreten. Bei einem Bildmodell können es visuelle Beziehungen wie Formen, Texturen, Farben, Beleuchtung und Objektmerkmale sein.
Während des Trainings trifft ein neuronales Netz Vorhersagen, vergleicht diese Vorhersagen mit den Trainingsbeispielen und passt seine internen Parameter an, um Fehler zu verringern. Wird dieser Prozess sehr oft wiederholt, kann das Modell immer besser Ausgaben erzeugen, die den Mustern in seinen Trainingsdaten ähneln.
Training kann teuer und zeitaufwendig sein, besonders bei großen Modellen. Ist das Training abgeschlossen, interagieren Nutzerinnen und Nutzer meist über eine App, einen Chatbot, einen Bildgenerator, einen Programmierassistenten oder eine API mit dem trainierten Modell.
Schritt 2: Daten in Zahlen umwandeln
Computer verstehen Wörter, Bilder oder Töne nicht direkt so wie Menschen. Damit KI-Systeme mit Daten arbeiten können, wandeln sie Eingaben in numerische Darstellungen um.
Bei der Texterzeugung zerlegt ein Modell Text häufig in Einheiten, die Tokens genannt werden. Ein Token kann ein Wort, ein Wortteil, ein Satzzeichen oder eine andere Texteinheit sein. Ein Satz wird zum Beispiel in eine Folge von Tokens umgewandelt, und jedes Token wird numerisch dargestellt.
Große Sprachmodelle, oder LLMs, werden mit sehr großen Textmengen trainiert und erzeugen Sprache, indem sie Wort- oder Tokenfolgen vorhersagen, wie IBM in seiner Übersicht über große Sprachmodelleerklärt.
Das Modell verwendet außerdem numerische Darstellungen, die Beziehungen zwischen Tokens abbilden. Diese Darstellungen helfen ihm, Kontext zu verarbeiten. So kann das Wort Bank in einem Satz mit Geld zu tun haben und in einem anderen mit einem Flussufer. Die umgebenden Tokens helfen dem Modell einzuschätzen, welche Bedeutung wahrscheinlicher ist.
Bei Bildern, Audio und Video sehen die numerischen Darstellungen anders aus. Ein Bildmodell verarbeitet möglicherweise Pixel oder komprimierte Bildmerkmale. Ein Audiomodell verarbeitet Klangmuster. Der Grundgedanke ist derselbe: Die Rohdaten werden in Zahlen umgewandelt, damit das Modell Muster analysieren und erzeugen kann.
Schritt 3: Lernen mit einem neuronalen Netz
Die meisten modernen generativen KI-Systeme nutzen neuronale Netze. Ein neuronales Netz ist ein System miteinander verbundener mathematischer Operationen, das Eingaben in Ausgaben umwandelt.
Ein anschauliches Bild für Einsteiger ist ein riesiges Bedienpult mit vielen verstellbaren Reglern. Während des Trainings dreht das Modell diese Regler immer wieder ein kleines Stück, um Vorhersagefehler zu verringern. Diese Regler sind die Parameter des Modells.
Wenn das Modell schlecht vorhersagt, passt das Training die Parameter an. Wenn es besser vorhersagt, verstärkt das System die Parametereinstellungen, die dazu beigetragen haben. Über viele Beispiele und viele Trainingsschritte hinweg entwickelt das Modell eine statistische Landkarte der Muster in den Daten.
Für Sprachaufgaben basieren viele moderne Systeme auf einem Design, das Transformer genannt wird. Die Transformer-Architektur wurde nach dem Paper von 2017 Attention Is All You Needzu einer wichtigen Grundlage moderner Sprachmodelle.
Eine zentrale Idee bei Transformern ist Attention. Attention hilft dem Modell, Beziehungen zwischen verschiedenen Teilen einer Eingabesequenz zu gewichten. Einfach gesagt hilft sie dem Modell zu entscheiden, welche Wörter oder Tokens im Kontext besonders relevant dafür sind, was es als Nächstes erzeugen soll.
Bei einem langen Prompt, der um eine formelle E-Mail zu einer verspäteten Lieferung bittet, muss das Modell zum Beispiel auf den gewünschten Ton, das Thema, den Empfänger und das gewünschte Format achten. Attention-Mechanismen helfen dem Modell, diese Kontextinformationen wirksamer zu nutzen.
Schritt 4: Aus einem Prompt eine Antwort erzeugen
Nach dem Training kann das Modell genutzt werden. Diese Nutzungsphase wird häufig Inferenz genannt.
Während der Inferenz geben Sie dem Modell einen Prompt. Der Prompt kann eine Frage, eine Anweisung, eine Beschreibung, eine Bildanfrage, ein Codeproblem oder eine Reihe von Vorgaben sein. Das Modell nutzt dann den Prompt und seine gelernten Parameter, um eine neue Ausgabe zu erzeugen.
Ein Prompt kann viele Aspekte des Ergebnisses beeinflussen, darunter:
- Thema
- Stil
- Ton
- Format
- Länge
- Zielgruppe
- Vorgaben
- Beispiele, an denen es sich orientieren soll
Diese Prompts würden zum Beispiel wahrscheinlich unterschiedliche Ergebnisse liefern:
- Erkläre generative KI in einem Absatz.
- Erkläre generative KI für ein Kind in der fünften Klasse.
- Schreibe eine professionelle E-Mail, die einem Kunden generative KI erklärt.
- Erstelle eine stichpunktartige Zusammenfassung dazu, wie generative KI funktioniert.
Das Modell weiß nicht, was Sie möchten, wenn der Prompt ihm nicht genug Kontext liefert. Klare Prompts führen oft zu nützlicheren Ergebnissen, können aber keine perfekte Genauigkeit garantieren.
Wie ein Textgenerator die Fortsetzung auswählt
Ein üblicher autoregressiver Textgenerator schätzt eine Verteilung möglicher nächster Tokens, wählt anhand seiner Decodierregeln und setzt den Vorgang mit erweitertem Kontext fort. Echte Vokabulare sind viel größer; ein Token muss kein ganzes Wort sein.
Ein erfundenes Beispiel mit drei Kandidaten
Für den Anfang „The cafe serves“ nehmen wir coffee=0.60, tea=0.30 und books=0.10 an. Diese Lehrwerte stammen weder aus einem Modell noch von einem echten Café. Eine Fortsetzungswahrscheinlichkeit von 0.60 bedeutet nicht, dass das Café mit 60 Prozent Wahrscheinlichkeit Kaffee verkauft.
Das Skript berechnet p^(1/T) und normalisiert die Gewichte. Es demonstriert Temperaturskalierung aus strikt positiven Wahrscheinlichkeiten, trainiert aber kein Netz, berechnet keine Attention und erzeugt keinen Satz. Greedy wählt den größten Eintrag; Sampling würde aus der Verteilung ziehen. Für reproduzierbare Ergebnisse werden hier Wahrscheinlichkeiten statt Zufallsziehungen ausgegeben.
Die Rechnung ausführen
Speichern Sie als decoding_demo.py und starten Sie python3 decoding_demo.py mit Python 3. Zusatzpakete, Netzwerk, Konto und API-Schlüssel sind nicht nötig. Alle Sprachfassungen nutzen dieselben englischen Bezeichnungen und Zahlen.
"""An invented next-choice distribution; no neural model or API call."""
BASE = {'coffee': 0.60, 'tea': 0.30, 'books': 0.10}
def temperature_distribution(probabilities, temperature):
if temperature <= 0:
raise ValueError('temperature must be positive; greedy is separate')
if not probabilities or any(p <= 0 for p in probabilities.values()):
raise ValueError('this exercise requires strictly positive probabilities')
weights = {word: p ** (1.0 / temperature)
for word, p in probabilities.items()}
total = sum(weights.values())
return {word: weight / total for word, weight in weights.items()}
def main():
print('greedy=' + max(BASE, key=BASE.get))
for temperature in (0.5, 1.0, 2.0):
distribution = temperature_distribution(BASE, temperature)
values = ' '.join(f'{word}={p:.4f}' for word, p in distribution.items())
print(f'T={temperature:.1f} {values}')
if __name__ == '__main__':
main()
Tatsächliche Skriptausgabe
greedy=coffee
T=0.5 coffee=0.7826 tea=0.1957 books=0.0217
T=1.0 coffee=0.6000 tea=0.3000 books=0.1000
T=2.0 coffee=0.4727 tea=0.3343 books=0.1930
Bedeutung des Ergebnisses
Bei T=0.5 konzentriert sich die Verteilung stärker auf den Spitzenkandidaten; bei T=2.0 wird sie flacher. Keine dieser Rechnungen prüft die Speisekarte oder eine Tatsache. Greedy bleibt bei coffee, weil die Rangfolge gleich bleibt. In realen Systemen wirken weitere Decodierregeln und die jeweils nächste Modellverteilung mit.
Nach einem hinzugefügten Token berechnet ein echtes autoregressives Modell die nächste Verteilung aus dem aktualisierten Kontext. Dieses Skript zeigt nur eine Auswahl, kein vollständiges Sprachmodell, keinen realistischen Tokenizer und keine konkrete Anbieterimplementierung.
Ein Gegenbeispiel ausprobieren
Ändern Sie BASE auf coffee=0.10, tea=0.30, books=0.60. Greedy wählt books, selbst wenn Ihr beabsichtigtes Café nur Getränke verkauft. Eine ungeeignete Verteilung stärker zu konzentrieren macht sie nicht wahr. Geben Sie verlässliche Menüdaten vor und prüfen Sie Aussagen; Temperatur ist kein Wahrheitsschalter.
Eine wichtige Unterscheidung
Training ändert gelernte Parameter. Hier ändert sich nur eine Auswahlverteilung bei der Inferenz; es findet kein Lernen statt. Prompt, Retrieval und Toolergebnisse können einem echten Modell andere Informationen bereitstellen, ersetzen aber keine Antwortprüfung. Verfügbare Einstellungen variieren; diese Lehrwerte sind keine universellen Empfehlungen.
Referenz: Generierungsparameter
Verwandter Leitfaden: Warum Chatbots halluzinieren
Wie Bildgeneratoren funktionieren
Nicht jede generative KI funktioniert auf dieselbe Weise. Text-, Bild-, Audio-, Video- und Codesysteme können unterschiedliche Modellarchitekturen und Trainingsmethoden verwenden.
Viele Bildgeneratoren nutzen einen Modelltyp, der Diffusionsmodell genannt wird. Vereinfacht gesagt lernen Diffusionsmodelle, einen Prozess umzukehren, bei dem Daten mit Rauschen versehen werden.
Eine grobe, einsteigerfreundliche Version sieht so aus:
1. Während des Trainings lernt das System, wie Bilder aussehen, wenn ihnen schrittweise Rauschen hinzugefügt wird.
2. Es lernt außerdem, dieses Rauschen zu entfernen oder umzukehren.
3. Bei der Generierung kann das Modell mit verrauschten Daten beginnen und sie Schritt für Schritt verfeinern.
4. Der Prompt lenkt die Verfeinerung in Richtung eines Bildes, das zur gewünschten Beschreibung passt.
Wenn der Prompt zum Beispiel ein Aquarell eines roten Fahrrads in Strandnähe verlangt, nutzt das Modell gelernte visuelle Muster und die Führung durch den Prompt, um nach und nach ein Bild mit diesen Merkmalen zu formen.
Das ist nur eine vereinfachte Erklärung. Bildsysteme unterscheiden sich, und Diffusion ist nicht die einzige mögliche Methode. Weitere Typen generativer Modelle sind GANs und Variational Autoencoders, auch wenn viele populäre moderne Bildtools diffusionsähnliche Ansätze verwenden.
Warum generative KI manchmal falschliegt
Generative KI kann nützlich sein, aber sie kann auch ungenaue oder erfundene Informationen ausgeben. Solche selbstbewusst klingenden Fehler werden häufig Halluzinationen genannt. IBM beschreibt KI-Halluzinationen als Ausgaben, die ungenau oder unbelegt sein können, auch wenn sie plausibel wirken: Was sind KI-Halluzinationen?.
Das hat mehrere Gründe:
Sie sagt plausible Ausgaben voraus, keine garantierten Fakten
Ein Sprachmodell wird darauf trainiert, auf Grundlage von Mustern wahrscheinlichen Text zu erzeugen. Es kann etwas produzieren, das wie eine korrekte Antwort klingt, auch wenn die Details falsch sind.
Ihr fehlen möglicherweise aktuelle oder spezifische Informationen
Manche Modelle haben keinen Zugriff auf aktuelle Informationen, sofern sie nicht mit Abrufwerkzeugen, Browsing, Datenbanken oder anderen aktuellen Quellen verbunden sind. Die Möglichkeiten unterscheiden sich je nach Produkt.
Der Prompt kann unklar sein
Ist ein Prompt vage, füllt das Modell möglicherweise Lücken. Manchmal sind diese Vermutungen hilfreich, manchmal falsch.
Trainingsdaten können Fehler oder Verzerrungen enthalten
Ausgaben generativer KI können Vorurteile, Lücken oder Ungenauigkeiten widerspiegeln, die in den Trainingsdaten vorhanden sind. Bias- und Sicherheitsleistung unterscheiden sich je nach Modell und Anbieter.
Das Modell kann verwandte Muster verwechseln
Weil Modelle statistische Zusammenhänge lernen, können sie manchmal ähnliche Konzepte, Namen, Daten oder Ereignisse zu einer Antwort vermischen, die stimmig wirkt, aber falsch ist.
Bei wichtigen Aufgaben, etwa in Medizin, Recht, Finanzen, Wissenschaft oder geschäftskritischen Bereichen, sollten KI-Ausgaben anhand verlässlicher Quellen geprüft und von qualifizierten Personen beurteilt werden.
Versteht generative KI wirklich?
Generative KI versteht nicht so wie ein Mensch.
Ein Mensch kann Sprache mit gelebter Erfahrung, Zielen, Gefühlen, Ethik, Erinnerung und Urteilsvermögen in der realen Welt verbinden. Ein generatives KI-Modell verarbeitet numerische Muster und erzeugt Ausgaben auf Grundlage gelernter Zusammenhänge.
Dieser Unterschied ist wichtig. Ein KI-Chatbot kann ein Thema klar erklären, höflich antworten oder in einem warmen Ton schreiben. Das bedeutet aber nicht, dass er Gefühle, Überzeugungen, Absichten oder Bewusstsein hat. Er erzeugt Sprache, die zum Prompt und zum Kontext passt.
Das macht generative KI nicht nutzlos. Musterbasierte Generierung kann äußerst hilfreich sein. Es bedeutet aber, dass Nutzerinnen und Nutzer das System nicht wie eine allwissende Autorität behandeln sollten.
Häufige Einsatzbereiche generativer KI
Generative KI wird in vielen alltäglichen und beruflichen Situationen eingesetzt. Häufige Anwendungen sind:
- Entwürfe für E-Mails, Berichte und Artikel
- Ideen sammeln
- Lange Dokumente zusammenfassen
- Texte im Ton oder in der Klarheit überarbeiten
- Lernhilfen oder Erklärungen erstellen
- Bei Programmieraufgaben helfen
- Bildkonzepte erzeugen
- Erste Entwürfe für Marketingtexte erstellen
- Kundenservice-Prozesse unterstützen
- Gliederungen, Checklisten und Vorlagen erstellen
In den meisten Fällen funktioniert generative KI am besten als Assistentin, nicht als Ersatz für menschliches Urteilsvermögen. Sie kann helfen, schneller voranzukommen, Optionen auszuloten und Entwürfe zu erstellen, doch das Ergebnis muss weiterhin geprüft werden.
Wie man generative KI verantwortungsvoll nutzt
Verantwortungsvolle Nutzung beginnt damit, die Grenzen zu verstehen. Hier sind praktische Gewohnheiten für Einsteiger:
Wichtige Fakten prüfen
Gehen Sie nicht davon aus, dass eine Antwort stimmt, nur weil sie selbstbewusst klingt. Überprüfen Sie Namen, Daten, Zitate, Zahlen, Richtlinien und technische Aussagen.
Private Informationen schützen
Datenschutzpraktiken unterscheiden sich je nach Tool, Anbieter, Einstellungen und Organisation. Geben Sie keine sensiblen persönlichen, finanziellen, rechtlichen, medizinischen oder vertraulichen geschäftlichen Informationen ein, wenn Sie nicht wissen, wie das jeweilige Tool mit Daten umgeht.
Klare Prompts geben
Nennen Sie Ziel, Zielgruppe, Format, Vorgaben und Kontext. Klarere Anweisungen führen in der Regel zu nützlicheren Ergebnissen.
Auf Bias und Fairness prüfen
KI-Ausgaben können verzerrte Muster aus Daten widerspiegeln. Prüfen Sie Ergebnisse sorgfältig, besonders wenn es um Menschen, Einstellungen, Bildung, Wohnen, Gesundheitsversorgung, Finanzen oder andere Bereiche mit großer Tragweite geht.
Wo passend, transparent sein
Halten Sie sich in Schule, Beruf, Verlagswesen oder professionellen Kontexten an die jeweiligen Regeln dazu, wann und wie KI-Unterstützung offengelegt werden muss.
Bei Urheberrecht und Eigentumsfragen vorsichtig sein
Urheberrechtsregeln und rechtliche Auslegungen zu KI-generierten Inhalten und Trainingsdaten entwickeln sich noch. Für kommerzielle oder folgenreiche Nutzung sollten Sie geeigneten rechtlichen oder fachlichen Rat einholen.
Einsteigerfreundliche Analogie: Ein Koch, der viele Rezepte studiert hat
Stellen Sie sich einen Koch vor, der Tausende Rezepte studiert hat. Er lernt, welche Zutaten oft zusammenpassen, wie Kochmethoden funktionieren und wie verschiedene Küchen typischerweise aussehen und schmecken.
Wenn Sie sich eine scharfe vegetarische Pasta wünschen, muss der Koch nicht genau ein bestimmtes Rezept kopieren. Stattdessen nutzt er gelernte Muster, um ein neues Gericht zu kreieren, das zu Ihrer Anfrage passt.
Generative KI ist in gewisser Weise ähnlich. Sie analysiert viele Beispiele, lernt Muster und erstellt aus Ihrem Prompt eine neue Ausgabe.
Doch die Analogie hat Grenzen. Ein menschlicher Koch kann Essen probieren, Hunger verstehen, persönliche Urteile fällen und sich um das Ergebnis kümmern. Ein generatives KI-Modell hat keine menschliche Erfahrung und keine Absichten. Es wendet gelernte Muster mathematisch an.
Die wichtigsten Punkte
Wie funktioniert generative KI also?
- Generative KI erstellt neue Inhalte, indem sie Muster aus Beispielen lernt.
- Ein trainiertes Modell speichert gelernte Muster in numerischen Parametern, nicht als einfachen Kopieren-und-Einfügen-Speicher.
- Textmodelle zerlegen Sprache häufig in Tokens und erzeugen Antworten, indem sie wahrscheinliche nächste Tokens vorhersagen.
- Viele moderne Sprachmodelle nutzen die Transformer-Architektur und Attention-Mechanismen, um Kontext zu verarbeiten.
- Bildgeneratoren können Diffusionsmodelle verwenden, die lernen, Rauschen mithilfe eines Prompts in Bilder zu verwandeln.
- Das Training bringt dem Modell Muster bei; die Inferenz nutzt das trainierte Modell, um eine Ausgabe zu erzeugen.
- Prompts lenken die Ausgabe, garantieren aber keine sachliche Richtigkeit.
- Generative KI kann Halluzinationen, verzerrte Ausgaben oder veraltete Informationen produzieren.
- KI denkt, fühlt oder versteht nicht wie ein Mensch.
- Die besten Ergebnisse entstehen, wenn generative KI als Werkzeug genutzt wird und anschließend menschliche Prüfung und Urteilsvermögen hinzukommen.
Generative KI ist leistungsstark, weil sie gelernte Muster in nützliche Entwürfe, Bilder, Erklärungen und Ideen verwandeln kann. Sie ist zugleich unvollkommen, weil musterbasierte Generierung nicht dasselbe ist wie überprüftes Wissen. Beides zu verstehen, ist der Schlüssel zu einem guten Umgang damit.
