KI-Lexikon

Was versteht man genau unter LLM? Wie sieht ein RAG-Modell aus? Und was ist Data Mining?

Wenn es um KI in der Lehre geht, fallen wie selbstverständlich die oben genannten Begriffe – und viele mehr. Doch was bedeuten sie genau? Das erklärt Prof. Benjamin Paaßen im KI-Lexikon von ORCA.nrw. Er ist Juniorprofessor für Wissensrepräsentation und Maschinelles Lernen an der Universität Bielefeld und Experte für den Einsatz von Künstlicher Intelligenz in der Hochschullehre. Zusammen mit ORCA.nrw erstellt er regelmäßig das beliebte Videoformat KI-News mit Prof. Paaßen.

Porträt von Benjamin Paaßen

Tatsächlich ist damit heutzutage meist bloß gemeint, dass ein großes Sprachmodell mit einem Harness/Harnisch verschaltet wird, um zusätzliche Funktionen ausführen zu können (siehe auch Folge 2 und Folge 6 der KI-News mit Prof. Paaßen). Per Definition ist ein „Agent“ ein System, das wahrnehmen, verarbeiten und dann Handlungen vornehmen kann. Mehr Details gibt es auch in einer Stellungnahme des Fachbereichs KI der Gesellschaft für Informatik.

Ein KI-System, das im Grunde alle intelligenten Fertigkeiten von Menschen nachbildet, also generell (daher „general“) einsetzbar ist. US-Firmen wie OpenAI und Anthropic behaupten häufig, große Sprachmodelle zu bauen, die AGI sind – tatsächlich ist das zweifelhaft (siehe auch Folge 8 der KI-News).

Eine statistische Verzerrung. Meist ist damit gemeint, dass KI-Systeme unterschiedliche Gruppen unterschiedlich behandeln; dass etwa Frauen häufiger mit stereotyp weiblichen Berufen assoziiert werden. Es kann auch gemeint sein, dass Sprachmodelle häufiger politisch liberale bis linke Positionen äußern als konservative oder rechte. Biases beziehen sich auf statistische Beobachtungen und gehen nicht notwendigerweise mit einer festen unterliegenden Einstellung einher (solche Einstellungen haben KI-Systeme eigentlich nicht; siehe auch Folge 7 der KI-News).

Ein System, das Bilder generieren kann, häufig auf Basis einer Texteingabe (Prompt).

Ein automatisches System, das in der virtuellen oder tatsächlichen Welt handelt. Meistens sind heute Chatbots gemeint, die mit großen Sprachmodellen arbeiten.

Ein automatisches System, das mit Nutzenden über Text kommunizieren (also chatten) kann. Heute werden solche Systeme meist mit großen Sprachmodellen gebaut.

Ein Chatbot des US- Unternehmens OpenAI, der auf die großen Sprachmodelle der GPT-Reihe aufbaut.

Eine Serie von großen Sprachmodellen des US-Unternehmens Anthropic.

Der Vorschlag, in der Digitalisierungs-Bildung nicht nur die Technik sondern auch den Anwendungskontext und die gesellschaftlichen Konsequenzen von Technik-Einsatz zu berücksichtigen, siehe auch: https://dagstuhl.gi.de/dagstuhl-erklaerung

Methoden, um aus großen Datenmengen hilfreiche Informationen oder Erkenntnisse zu ziehen; auch verwandt zum maschinellen Lernen.

Ein Forschungsfeld, das sich mit der Verarbeitung und (statistischen) Analyse von großen Datenmengen befasst; auch verwandt mit Data Mining und maschinellem Lernen.

Methoden des maschinellen Lernens mit mehreren Verarbeitungsschichten. Große Sprachmodelle sind z.B. eine Art von Deep Learning-Methoden.

Tondateien, Bilder oder Videos, die mit Hilfe von Deep Learning-Methoden (also Ton-, Bild– oder Videogeneratoren) generiert wurden und schwer von echten Daten zu unterscheiden sind.

Ein chinesisches KI-Unternehmen oder eine gleichnamige Serie von großen Sprachmodellen.

Eine Serie von großen Sprachmodellen der Firma Google.

KI-Modelle oder KI-Systeme, die etwas generieren können, also z.B. Sprachmodelle, Bildgeneratoren oder Videogeneratoren.

Ein KI-System der Firma Google, das Suchmaschinenergebnisse in einem Überblick zusammenfasst. Dieser Überblick wird von einem Gemini–Sprachmodell generiert.

Ein Computerprogramm, das um ein großes Sprachmodell herum gebaut wird, um im Ausgabetext des großen Sprachmodells Programmcode oder Aufrufe von Hilfsprogrammen zu erkennen und auszuführen und auf andere Weise so genannte „agentische KI“-Ausführung von Sprachmodellen zu unterstützen.

Ein System (häufig selbst ein Deep Learning-System oder ein Sprachmodell), das dafür vorgesehen ist, Ausgaben generativer KI-Systeme (Text, Ton, Bilder, Videos, …) von echten Daten zu unterscheiden; also KI-generierte Inhalte zu detektieren. Tatsächlich funktionieren solche Detektoren insbesondere für Text nicht unbedingt zuverlässig und beurteilen zuweilen auch menschlich generierte Inhalte als KI-generiert und umgekehrt (siehe Folge 4 der KI-News)

Ein meist durch maschinelles Lernen entstandenes Computerprogramm, das Eingaben in Ausgaben übersetzt, zum Beispiel ein Sprachmodell.

Ein System, in dem mindestens eine wichtige Teilfunktion mit KI-Methoden durchgeführt wird, also z.B. ein Chatbot, der ein großes Sprachmodell benutzt, um Antworten zu generieren. Ein Beispiel ist ChatGPT, also ein KI-System, das um ein Sprachmodell, nämlich GPT, herum gebaut ist.

Ein europäisches Gesetz zur Regulierung von KI-Systemen.

Ein Sprachmodell, das besonders groß ist in dem Sinne, dass das Modell besonders viele Parameter (mehrere Milliarden) hat und auf besonders vielen Trainingdaten (Terrabytes) trainiert ist. Große Sprachmodelle sind heutzutage immer mit Deep Learning-Methoden erzeugt. Sprachmodelle mit bis zu 8 Milliarden Parameter werden manchmal auch als kleine Sprachmodelle (also „Small Language Models“ oder SLMs) bezeichnet.

Ein Teilfeld der KI-Forschung, das sich mit Methoden beschäftigt, die aus Beispieldaten (so genanten Trainingsdaten) Modelle ableiten, die dann auch für neue Daten (so genannte Testdaten) Vorhersagen machen können. Insgesamt kann man sich künstliche Intelligenz wie einen Werkzeugkasten von Methoden vorstellen. Einige dieser Werkzeuge sind auch Methoden des maschinellen Lernens (weil sie aus Daten “lernen”). Einige Methoden des maschinellen Lernens sind Deep Learning-Methoden. Und einige Deep-Learning-Methoden sind große Sprachmodelle.

Ein generatives KI-Modell, das Eingaben aus mehreren Modalitäten verarbeiten und/oder Ausgaben mehrerer Modalitäten generieren kann; also zum Beispiel ein Modell, das sowohl Bild- als auch Texteingaben verarbeiten kann und/oder sowohl Text als auch Bild generieren kann.

Ein US-amerikanisches KI-Unternehmen.

Ein KI-Modell, dessen Quellcode, mindestens aber dessen Parameter offen verfügbar sind (also kostenfrei aus dem Internetz heruntergeladen und weiter verwendet werden dürfen).

Ein KI-System für Internetsuchen des gleichnamigen US-KI-Unternehmens Perplexity Inc.

Eine Texteingabe für ein (generatives) KI-System (zum Beispiel „Bitte rechne mir aus, was 7 + 12 ist.“). Häufig lesen sich solche Prompts wie Anweisungen oder Fragen. Große Sprachmodelle oder Bildgeneratoren verarbeiten den Text aber nicht seiner Bedeutung nach sondern assoziieren lediglich eine Antwort.

Ein Nachdenkprozess in einem großen Sprachmodell. Tatsächlich geht es bloß darum, dass Text generiert wird, der vor der eigentlichen Antwort generiert wird (siehe auch Folge 8 der KI-News). Manchmal werden große Sprachmodelle, die solchen Hilfstext generieren, auch „Large Reasoning Models“ genannt.

Eine Methode, bei der Anfragen an ein großes Sprachmodell nicht direkt beantwortet werden, sondern zunächst in eine Suchanfrage übersetzt werden. Diese Suchanfrage wird dann ausgeführt, um aus einer Datenbank oder dem gesamten Internet passende Quellen für die Antwort zu suchen („Retrieval“). Die passendsten Ergebnisse werden dann zusammen mit der ursprünglichen Anfrage in das große Sprachmodelle eingegeben, um damit die Generierung der Antwort zu verbessern („augmented generation“).

Ein Videogenerator des US-KI-Unternehmens OpenAI.

Ein KI-System, das Text erzeugen kann, der sich natürlichsprachlich liest (also so aussieht wie Text, den Menschen schreiben würde).

Ein Textschnipsel für die technische Verarbeitung in einem Sprachmodell, etwa ein Wort.

Ein System, das Videos generieren kann, etwa Sora2 (siehe Folge 4 der KI-News).