14. August 2024

Im Beitrag „Wenn Künstliche Intelligenz krank wird“ der Frankfurter Allgemeinen Zeitung thematisieren Professor Peter Buxmann und Doktor Timo Sturm vom Fachgebiet Wirtschaftsinformatik | Software & Digital Business der TU Darmstadt die Herausforderungen und Gefahren der generativen Künstlichen Intelligenz (GenAI), insbesondere das Phänomen der „Model Autophagy Disorder“ (MAD). Diese KI-Erkrankung entsteht, wenn ein Modell zunehmend von seinen eigenen, generierten Daten lernt, was zu einer schleichenden Verringerung der Vielfalt und Komplexität und damit letztlich zur Unbrauchbarkeit und Funktionsunfähigkeit der KI führt. MAD lässt KI also schleichend unkreativer werden.

Buxmann und Sturm rufen auf, die Problematik im Blick zu behalten. Sie betonen, dass sowohl die Anbietenden von KI-Modellen als auch die Nutzenden Verantwortung tragen, um die negativen Auswirkungen von MAD zu vermeiden. Dabei spielt insbesondere die Diversität der Trainingsdaten eine wesentliche Rolle. Sie warnen davor, dass die zunehmende Nutzung von KI-generierten Inhalten zu einer Homogenisierung und damit zur Einschränkung der Meinungsvielfalt in der Gesellschaft führen könnte. „Schon heute zeigen Studien, dass ChatGPT dazu neigt, ‚grün-linke' Einstellungen zu vertreten. Ebenso wäre es möglich, dass in Zukunft vermehrt politisch rechte Inhalte von Sprachmodellen aufgenommen werden – insbesondere, wenn rechte Parteien weiterhin stark in sozialen Netzwerken vertreten sein sollten.“

Die beiden Wissenschaftler plädieren für eine ausgewogene und durchdachte Regulierung von KI, um sicherzustellen, dass die Technologie weiterhin produktiv genutzt werden kann, ohne dass dabei unerwünschte Nebeneffekte entstehen. Der Aufruf richtet sich nicht nur an die Entwickelnden und Unternehmen, sondern auch an die Politik und die Gesellschaft insgesamt, die sich der potenziellen Risiken bewusst sein müssen, um verantwortungsvoll mit KI-Technologien umzugehen. eml