Vernünftig und sicher: Die Zukunft der Künstlichen Intelligenz
Projekt „Reasonable Artificial Intelligence“ erhält Förderung als Exzellenzcluster
22.05.2025
Eine neue Generation von Künstlicher Intelligenz (KI), die auf „vernünftigere“ Art lernen kann – daran forschen Wissenschaftler:innen des neuen Exzellenzclusters „Reasonable Artificial Intelligence“ (RAI) unter Leitung der TU Darmstadt. Das Projekt wurde in einem mehrstufigen Wettbewerb im Rahmen der renommierten Exzellenzstrategie des Bundes und der Länder ausgewählt. Die begehrte Förderung bestätigt damit erneut die ausgezeichnete Forschung und langjährige Expertise im Bereich der Künstlichen Intelligenz, für die die TU Darmstadt seit langem steht.
In den vergangenen zehn Jahren hat Deep Learning (DL) bedeutende Fortschritte in der Künstlichen Intelligenz ermöglicht. Dennoch weisen aktuelle KI-Systeme Schwächen auf, darunter mangelndes logisches Denkvermögen, Schwierigkeiten im Umgang mit neuen Situationen und die Notwendigkeit kontinuierlicher Anpassungen. Nicht zuletzt erfordern aktuelle KI-Systeme umfangreiche Ressourcen. Der neue Exzellenzcluster RAI strebt daher die Entwicklung der nächsten Generation von KI an, der „Reasonable Artificial Intelligence“.
Diese nächste Generation der KI-Systeme lernt mit einer „vernünftigen” Menge an Ressourcen auf Basis „vernünftiger Datenqualität” und „vernünftigen” Datenschutzes. Sie ist in der Lage, nach Regeln des gesunden Menschenverstands zu handeln, und ausgestattet mit der Fähigkeit, mit neuen Situationen und Kontexten umzugehen. Sie basiert auf vernünftigen Trainingsparadigmen, die eine kontinuierliche Verbesserung, Interaktion und Anpassung ermöglichen.
„Die gegenwärtigen KI-Systeme zeigen trotz beeindruckender Fortschritte erhebliche Schwächen“, erläutert TU-Informatikprofessorin Mira Mezini, Sprecherin von RAI und Co-Direktorin des Hessischen Zentrums für Künstliche Intelligenz (hessian.AI). „Anwendungen wie ChatGPT können zwar umfangreiche Texte zu komplexen Themen schreiben, lassen aber den gesunden Menschenverstand vermissen. Sie sind oft nicht in der Lage, vielschichtige Zusammenhänge zu verstehen und erfordern enorme Ressourcen. Eine wirklich vernünftige KI, die Risiken minimiert und effizient arbeitet, bleibt eine Herausforderung, der wir uns mit ‚Reasonable AI‘ und bei hessian.AI stellen.“
„Wir sind davon überzeugt, dass RAI die Zukunft der KI in Deutschland und weltweit gestalten wird“, schließt sich TU-Informatikprofessor Marcus Rohrbach, ein weiterer Sprecher des Exzellenzclusters, an. „Neue, effiziente Sprachmodelle, zuletzt DeepSeek, haben gezeigt, wie schnell und effizient in der KI-Entwicklung Fortschritte erzielt werden können. Diese Modelle eröffnen allerdings nicht nur technologische und ressourcenschonende Möglichkeiten, sondern verdeutlichen auch die Notwendigkeit, KI vertrauenswürdig und vernünftig zu gestalten. Europa hat hier die einzigartige Chance, eine Vorreiterrolle einzunehmen, indem es Innovation mit ethischen Standards, Effizienz und Transparenz verbindet.“
RAI setzt auf vier Forschungsbereiche:
1. Systemic AI: Hier werden Software- und Systemmethoden entwickelt, die ein effizientes Training von RAI-Systemen ermöglichen und ihre Integration in bestehende Systeme unterstützen.
2. Observational AI: Dieser Bereich konzentriert sich auf kontextbezogenes Lernen und verbindet verschiedene KI-Konzepte, um RAI mit gesundem Menschenverstand auszustatten.
3. Active AI: Hier wird lebenslanges, adaptives Lernen mit aktiver Exploration erforscht, um RAI-Systeme anpassungsfähiger zu machen.
4. Challenging AI: Dieser Bereich entwickelt Mess- und Bewertungsverfahren (Benchmarks), um die Leistung von RAI-Systemen zu evaluieren und zu verbessern.
„Ich spreche nicht nur in meinem Namen, sondern auch im Namen meiner Kolleg:innen, wenn ich unseren aufrichtigen Dank für die Auswahl ausspreche. Wir sind äußerst erfreut darüber, dass unser Projekt RAI als zukunftsweisend angesehen und in die Exzellenzstrategie des Bundes und der Länder aufgenommen wurde“, so Kristian Kersting, ebenfalls Sprecher des Clusterprojekts RAI und Informatikprofessor an der TU Darmstadt sowie Co-Direktor von hessian.AI. „In einer Welt, in der technologische Abhängigkeiten zunehmend geopolitische Spannungen verstärken, ist die Entwicklung einer europäisch-souveränen Künstlichen Intelligenz von entscheidender Bedeutung. Europa muss in der Lage sein, eigene Standards zu setzen und unabhängige, vertrauenswürdige Technologien zu entwickeln, um sowohl wirtschaftliche als auch gesellschaftliche Resilienz zu gewährleisten. Hier setzt Reasonable AI an. Eine vernünftige KI der nächsten Generation.“
Neben der TU Darmstadt als Koordinatorin ist an RAI auch hessian.AI beteiligt – eine Einrichtung, in der sich 13 Hochschulen zusammengeschlossen haben und das ebenfalls von der TU Darmstadt koordiniert wird. hessian.AI betreibt exzellente KI-Grundlagenforschung, stellt leistungsstarke KI-Recheninfrastrukturen und zugehörige Services bereit und fördert Gründungen und Innovationen.
Darüber hinaus sind Wissenschaftler:innen der Julius-Maximilians-Universität Würzburg, der Goethe-Universität Frankfurt am Main, der Universität Tübingen, der Universität des Saarlandes und der Universität Bremen beteiligt.
Über die Exzellenzstrategie des Bundes und der Länder
Um die internationale Wettbewerbsfähigkeit der Forschung an deutschen Universitäten weiter zu stärken, haben Bund und Länder die Exzellenzstrategie als Förderprogramm etabliert. Zentrales Ziel ist es, die Forschungsexzellenz in international wettbewerbsfähigen Bereichen zu fördern, die deutschen Universitäten institutionell zu stärken und das deutsche Hochschulsystem weiterzuentwickeln.
Zu diesem Zweck umfasst die Exzellenzstrategie zwei Förderlinien, die aufeinander aufbauen. In der Förderlinie „Exzellenzcluster“ werden, koordiniert von der DFG, international wettbewerbsfähige Forschungsbereiche an deutschen Universitäten projektbezogen gefördert. In der Förderlinie „Exzellenzuniversitäten“, koordiniert vom Wissenschaftsrat (WR), werden institutionelle Gesamtstrategien gefördert, die die wissenschaftliche Leistungsfähigkeit der geförderten Institutionen verbessern und hervorragende Rahmenbedingungen für exzellente Forschung schaffen.
cst
