Page 44 - ORCA Magazin I 2026

44 KI-Institutionen in NRW

OpenSource-KI.nrw

KI-Modelle für die Hochschulen hochschulindividuelle Bedarfe und wir zeigen, dass
wir sie souverän betreiben können“, sagt Bovermann.
Die Bereitstellung von KI-Modellen aus dem Open Im zweiten Schwerpunkt des Projektes wird mit der
Source Bereich erprobt das Projekt OpenSource-KI.nrw, Retrieval-Augmented-Generation-Technik (RAG) ein
das von der Ruhr-Universität Bochum und der Univer- Chatbot entwickelt, der auf eigene Wissensbestände
sität zu Köln durchgeführt wird. Gemeinsam hat das (z. B. Dokumentsammlungen) zurückgreifen kann und
Team um Projektleiter Martin Bovermann ein Konzept dadurch die Faktentreue der bereitgestellten Infor-
zur landesweiten Bereitstellung von Open Source- mationen erhöhen bzw. gewährleisten soll. Der Chat-
Sprachmodellen pilotiert und dazu im High-Perfor- bot soll Fragen von Studierenden zu Materialien be-
mance-Computing (HPC) Cluster der Universität zu antworten, die Lehrende in einem LMS-Kurs (Moodle
Köln eine angepasste lokale KI-Infrastruktur aufge- und ILIAS) bereitstellen. Für Hochschulen eröffnet
baut. Die bisherigen Ergebnisse und Probeläufe des OSKI.nrw Wahlfreiheit, Souveränität und Präzision.
Projekts zeigen, dass das Hosting von Sprachmodel- Wer auf offene Modelle setzen möchte, deren Aus-
len mit zielgerichteten Anpassungen in landeseigener wahl und Betrieb in eigener Hand liegt und die exakte
HPC-Infrastruktur möglich ist. „Offene Sprachmodel- Antworten erzeugen, findet hier den passenden Weg.
le bieten vielfältige Möglichkeiten der Anpassung an

Die drei eng verzahnten Projekte sind wesentliche Bausteine der NRW-Landesstrategie für generative KI
an Hochschulen, die derzeit fortgeschrieben wird. Diese sieht vor, sowohl kommerzielle Dienste (und hier
insbesondere deren Performanz) zu nutzen als auch Open Source-Sprachmodelle bereitzustellen, die vor
allem mit Blick auf digitale Souveränität erhebliche Vorteile bieten. Um die so entstehende Infrastruktur fle-
xibel nutzbar zu machen, werden für alle bereitgestellten LLMs offene und einheitliche Schnittstellen sowie
eine endnutzertaugliche Weboberfläche vorgesehen. Ziel ist, dass die NRW-Hochschulen möglichst selbst-
bestimmt über KI verfügen können, also KI-kompetent und dabei unabhängig von einzelnen kommerziellen
Anbietern sind.

Perspektivisch ist die Zusammenlegung der drei Projekte zu einem konsolidierten Landesdienst vorgesehen
– mit dem Ziel, offene und kommerzielle Modelle unter gemeinsamen Sicherheits-, Identitäts- und Governan-
ce-Standards zu bündeln und zugänglich zu machen und dabei lokale Spielräume zu erhalten. Mit der Strategie
soll NRW deutschlandweit zum Knotenpunkt für die sinnvolle Bereitstellung und Nutzung der ganzen Vielfalt
von KI-Anwendungen (Open Source und kommerziell) im Hochschulsektor werden.

Über die einzelnen Projekte hinausgedacht ist die technische Bereitstellung von KI eine Verbundaufgabe,
die im Schulterschluss mit den anderen Bundesländern möglicherweise noch besser gelingen kann. Für For-
schung, Lehre und Verwaltung benötigen alle Hochschulen einen verlässlichen Zugang zu souveräner KI-Infra-
struktur. Da Aufbau und Betrieb entsprechender Systeme mit erheblichen Ressourcen verbunden sind, bieten
hochschulübergreifende Lösungen besondere Vorteile. Wie solche Lösungen ausgestaltet sein können und
welche Leistungen und Funktionen sie umfassen sollten, wird in einem kürzlich veröffentlichten Positions-
papier zur „KI-Grundversorgung als Verbundaufgabe“ beschrieben, an dessen Erarbeitung die drei Landes-
projekte maßgeblich beteiligt waren.