Dieser Tage ist (wieder einmal) viel von Zukunft und Fortschritt die Rede. Und wieder einmal sind Zukunft und Fortschritt vor allem technisch gedacht. Es ist ein altes Gebrechen der Art Gesellschaft, die bei den Erfordernissen gesellschaftlichen Fortschritts für das Gemeinwesen nur dann hinsieht, wenn sie dazu gezwungen wird. Wer an den Hebeln dieses Fortschritts sitzt und forsch die Zukunft für uns alle gestalten will, fragt damals wie heute nicht, für wen diese Zukunft sein soll, auf wessen Kosten und zu wessen Nutzen. Diejenigen, die hoffen zu profitieren, schauen lieber nicht so genau hin, wenn sich damals wie heute die Schere zwischen Arm und Reich immer weiter spreizt, wenn lebensdienliche Kulturtechniken, oft genug gegen den erbitterten Widerstand der alten „Zukunfts“-Profiteure in die Breite der Bevölkerung gebracht, ohne Not preisgegeben werden. Wir wollen dabei sein, sagen sie, koste es, was es wolle, und sei es unser Verstand.
Seit die Entwicklung im KI-Sektor mit der Lancierung der „Large Language Models“ bedrohliche Auswirkungen zeigt und die Debatten darüber den Boden unter den Füßen verloren haben, engagiert sich Dagmar Monett vehement gegen den unkritischen Einsatz dieser Systeme in Forschung und Lehre.
Ich sprach mit ihr über Erfahrungen und Erlebnisse im Wissenschaftbetrieb.
Belehrte Unwissenheit
Über begrenzte Sichtweiten und Sprachlosigkeit der Wissenschaft im KI-Taumel.
Erlebnisse einer Informatikerin
Die Art Verstand, die vor lauter künstlicher Aufregung noch fähig ist, den Überblick zu behalten, ist offenbar in Gefahr. Zukunftserwartungen erinnern an Cargokulte, gepaart mit eschatologisch gefassten Erlösungsfantasien, die die wohlfeilen Ausreden dafür liefern, nicht hinschauen zu wollen. Nichtwissen und Halbwissen über Funktionsweisen und Folgen des Einsatzes dessen, was heute eng geführt als Künstliche Intelligenz bezeichnet wird, bestimmen die Szene. Nichtwissen und Halbwissen über die Macht und die Funktionsweise der Sprache führen dazu, dass man der Propaganda der „Zukunfts“-Profiteure hilflos ausgeliefert ist und sich sehenden Auges hinter die Fichte führen lässt.
Umso beseelter tragen die Anhänger des neuen Digitus Major dessen Botschaft in die Welt, nicht immer wissend, dass sie allzu oft blanken Unsinn erzählen.
Stolz und wortreich und voller Überzeugung ergingen sich zwei Kollegen von Dagmar Monett im gelehrten Gespräch über den „Weizenbaum-Effekt“. Als die Informatikerin sie darauf hinwies, dass es solches nicht gäbe und sie sicher den ELIZA-Effekt meinten, hielten sie kurz inne, ohne jedoch zu reagieren, und setzten schnellen Schrittes ihr gelehrtes Gespräch über ihren erfolgreichen Einsatz dessen ein, was sie für Künstliche Intelligenz hielten und wie sie auch ihren Studierenden mit der neuen Technologie die Erleuchtung brachten. Joseph Weizenbaum hätte ihnen was erzählt.
*
SW
Ist dieser „Weizenbaum-Effekt“ eine Ausnahme, ein kleines Versehen vielleicht oder womöglich ein Symptom für die aktuelle Debatte?
Dagmar Monett
Leider ist der „Weizenbaum-Effekt“ keine Ausnahme. Diese kleine Anekdote wirft ein Licht auf eine Debatte, die weithin in dichtem Nebel geführt wird. Man hantiert mit Begriffen, die man nicht versteht und parliert mit Kennermiene über die pfiffigste Art, der „KI“ den eigenen Willen aufzuzwingen. Währenddessen haben deren Profiteure längst ihr gut getarntes manipulatives Netz ausgeworfen, um die „klugen Köpfe“ zu überzeugen, ihnen blindlings zu folgen und bitteschön schleunigst Unmengen an „Quality“-Trainingsdaten zu liefern.
Schon der Begriff „Künstliche Intelligenz“ wird nicht verstanden. Es kursieren zahllose Definitionen, weil sich jeder einen eigenen Reim darauf macht. Die großen Sprachmodelle, die wir der degenerativen KI zuordnen, sind nur ein winziger Ausschnitt eines großen Fachgebiets. Allerdings werden inzwischen alle diejenigen ignoriert, die den weiten Begriff der KI ins Feld führen. Die Wortführer der LLM-Szene, stets auf Tuchfühlung mit den „großen Jungs“, engen den Begriff immer weiter ein und haben einen exklusiven Club geschaffen, zu dem nur Zutritt hat, wer den Tunnelblick akzeptiert. Fachjournale, Konferenzen und Förderer parieren, und wenn man diese totale Reduktion des Begriffs nicht akzeptiert, wird einem bedeutet, dass man kein richtiger Informatiker ist.
Prof. Dr. Dagmar Monett ist Informatikerin und Spezialistin für Künstliche Intelligenz in deren weitestem Sinne. Sie leitet den Studiengang Informatik des Fachbereichs Duales Studium Wirtschaft • Technik der Hochschule für Wirtschaft und Recht in Berlin.
„Degenerative“ KI?
Das Wort „generativ“ ist ein Etikettenschwindel im Zusammenhang mit KI, Maschinellem Lernen, künstlichen neuronalen Netzen, Deep Learning und schließlich „generativer“ KI. Es wird nämlich überhaupt nichts Neues generiert. Vielmehr haben wir es mit Sequenzen von Buchstaben, Wörtern oder Pixeln, bits und bytes mithin, zu tun, die nach statistischen Formeln, Wahrscheinlichkeiten und mittels mathematischer Kombinationen auf der Basis bestehender Texte oder Bilder etc. zusammengesetzt und anders geordnet werden. Insofern ist nichts an diesen Modellen generativ, sondern durchaus im Wortsinne, wie auch im übertragenen und mathematischen Sinne degenerativ.
So betrachtet, muss es verwundern, dass diese Modelle inzwischen alles durchdringen, Arbeits- und Lebenswelten, die Wirtschaft, die Politik und, wie sich herausstellt, vor allem die academia. Ihre Befürworter betrachten ebenjene völlige Durchdringung als „Fortschritt“ und „Zukunft“. Doch inzwischen werden die Warnungen lauter. So schön scheint die neue Welt dann doch nicht zu sein. Wird die Kritik gehört? Zumindest in der Hochschule?
Kaum noch. Inzwischen ist es schon so weit, dass Kritik fast nur noch hinter vorgehaltener Hand geäußert wird. Schon eine Frage zu stellen, kann heikel sein. Der Druck, der ausgeübt wird, ist enorm. Deshalb will man sich nicht exponieren. Offiziell weist man das natürlich empört zurück, aber de facto gibt es unausgesprochene Sprechverbote, die auch durch die Steuerung von Fördergeldern nicht einmal mehr sehr subtil auferlegt werden. Normale Gespräche zu kritischen Themen bezüglich KI sind kaum noch möglich, und ich vermisse mehr und mehr die edelsten Prinzipien der Wissenschaft: zuhören, diskutieren, streiten, aushandeln, in Erwägung ziehen, Respekt zeigen, die Basics eben. Vieles davon wird schlichtweg verweigert oder ist nicht gewollt.
Wer übt auf wen Druck aus?
Die Techkonzerne haben durch gezielte Lobbyarbeit und eine enorm mächtige PR, die von den meisten Medien kritiklos aufgenommen und verbreitet wird, einen enormen Einfluss auf die academia inklusive der Wissenschaftspolitik auf allen Ebenen. Die Hochschulen wollen unbedingt dabei sein, und man lässt ihnen auch kaum eine Wahl. Wollen sie etwa die Zukunft der Forschung aufs Spiel setzen, die Zukunft der Studierenden gar, die hoffnungslos zurückblieben, gäbe man ihnen nicht die Möglichkeit, das ganz große Spiel mitzuspielen? Also implementiert man die Modelle, bis sie das Nervensystem der Hochschule unrevidierbar durchdrungen haben. Dann wird kassiert. Bei alledem verbrennt man Unsummen Geldes für Systeme, die morgen schon veraltet und inkompatibel sind. Wir finanzieren mit Steuergeld die Techkonzerne, ihre grotesken Exzesse und ihre immer unverblümteren Versuche, auf diese Art Einfluss auf bestehende Wissensordnungen und Wege des Wissens zu nehmen. Große Teile des Forschungsbetriebs tun ein Übriges, den Paradigmenwechsel zu forcieren, und der Lehrkörper lässt das Ganze ungerührt auf die Studierenden los, obwohl die zum Teil gruseligen Folgen längst deutlich sichtbar sind. In Bayern ging man sogar schon so weit, den Einsatz von „KI“, und hier muss man wieder an die Verwechslung von LLMs mit KI erinnern, nicht nur zu fördern, sondern auch zu fordern und ein Verbot von KI an Hochschulen zu verbieten.
Ein Verbot zu verbieten kommt einem vor wie ein absurder Schildbürgerstreich. Und doch: Braut sich da was zusammen?
Es gibt in der Tat eine allgemeine Tendenz zum Autoritären hin. Wie in der Politik ist das auch im Wissenschaftsbetrieb überall zu erkennen. Der Einsatz der Modelle wird auf die eine oder andere Art forciert, ob nun mit staatlichen Verordnungen wie in Bayern, ob durch fortgeschrittene FOMO-Demenz, die zum finanziellen Lock-In und technologischer Abhängigkeit führt oder mit immer weiter aufgedrehter PR, die den Modellen Wunderdinge zuschreibt und lautstark die Lösung aller Probleme und die Erlösung von allen Sorgen predigt. Ich frage mich langsam, was heute noch mit der Freiheit von Forschung und Lehre gemeint ist. Versuche ich das anzusprechen, wird es reflexhaft als Angriff gewertet oder mit Tropen konterkariert.
Das klingt wie die alten kolonialen Missionierungskampagnen, die die „Vielgötterei“ ein für allemal beenden wollten.
… und die außerdem mission civilisatrice verkauft werden. Ich bin nicht die Einzige, die diese Entwicklung als eine Art kultisches Geschehen sieht. Wie schon erwähnt: Normale Gespräche sind nicht mehr möglich, eine Frage wird reflexhaft als Angriff gesehen. Man ist so enthoben, dass nichts den Rausch stören soll. Die akademische Integrität ist durch den Gebrauch der Modelle massiv gefährdet. Man ignoriert, dass die erhoffte Beseitigung der Schwachstellen der Modelle, die Fälschungen aller Art und sogenannte Halluzinationen nicht einfach eine Frage der Zeit ist. Es liegt in der Natur der Algorithmen, die diese Modelle implementieren, dass diese Schwachstellen nicht beseitigt werden. Mit anderen Worten: Es ist mathematisch unmöglich.
Man weigert sich auch, Dinge zur Kenntnis zu nehmen, die man als Mensch und als Wissenschaftler wissen sollte, wenn man noch einen Funken von Verantwortungsgefühl in sich trägt. Wer dem Kult verfallen ist, ist so berauscht von einer fantasierten Erlösung in der Zukunft, dass man nicht mehr fragt: Zukunft für wen? Für alle die Leute, die ihre Jobs verlieren? Für diejenigen, die ihren Verstand verlieren? Für alle die, denen das Wasser abgegraben wird? Für die Millionen Ghostworker, die unter unmenschlichen Bedingungen den Schrott der verwöhnten Welt aus den Trainingsdaten säubern müssen? Ist Zukunft noch etwas, was wir alle miteinander aushandeln müssen, oder ist sie die „Vision“ einiger weniger gieriger Typen und mad scientists, denen es ausschließlich um Geld, Macht und Kontrolle geht und ganz sicher nicht um das Wohl „der“ Menschheit.
Man redet sich ein, es könne einen ethischen Gebrauch von KI geben. Natürlich ist das vollkommen unmöglich, solange die Anwendungen auf der Grundlage ganz und gar unethischer Geschäftspraktiken geschaffen werden. Manche Nutzer, auch institutionelle, glauben sogar, sie seien ethisch auf der sicheren Seite, wenn sie gelegentlich mit Betroffenheitsmiene raunend die „leider“ negativen Seite der Sache kurz ansprechen.
Es führt aber kein Weg daran vorbei: Wenn ich diese Anwendungen nutze, mache ich mich zum Komplizen unethischen Verhaltens in astronomischer Größenordnung. Da schaut man doch lieber nicht hin und akzeptiert stillschweigend die Industrielogik der Techkonzerne.
Wir haben es mit einer Gemengelage aus freiwilliger Unterwerfung und forcierter Hyperinklusion zu tun, unter anderem, um den Zugang zu Ressourcen sicherzustellen. Natürlich spielen auch Naivität und Unkenntnis politischer und ökonomischer Hintergründe und Machenschaften eine Rolle.
Wie sind die Reaktionen, wenn Du den Blick auf die Welt extra muros lenkst?
Oh, man rät mir allen Ernstes, nicht so „emotional“ zu sein. Der Blick über den akademischen Tellerrand hinaus ist erstens Weiberkram und zweitens nicht gut für die Reputation. Man darf nicht vergessen, dass mein Fach, die Informatik, nach wie vor eine Männerdomäne ist, in der Diskussionen allzu oft Arenen für den Kampf um Macht und Status sind. Darin hat die Welt da draußen keinen Platz. Von mir als Informatikerin wird erwartet, dass ich, damit man mir glaubt, über Informatik rede und sonst über nichts. Gelegentlich wird Engagement auch als Eigenreklame denunziert, oder man unterstellt mal eben fachliche Defizite. Nein, man ist zu geblendet von den Dingern, die mit Zauberhand Werke wie aus dem Nichts schaffen, als dass man sich mit ihren Schattenseiten beschäftigen wollte. Schon Weizenbaum hatte mit derlei Dingen zu tun und wurde als KI-Häretiker diffamiert.
Werke wie aus dem Nichts? Das ist magisches Denken.
Nun, magisches Denken ist inzwischen weit verbreitet. Das Werk ohne Autor ist der neue Bestseller. Solche Dinge werden mittlerweile wie am Fließband produziert. Die neuen Trainingsdaten müssen ja irgendwo herkommen. Ursprünglich gut ausgebildete Leute staunen wie kleine Kinder, wenn der Chatbot Text oder Code ausspuckt, herabgekommen aus dem Äther. Dabei halten sie diese Erzeugnisse für verständige Abbilder der Wirklichkeit. Natürlich ist das Unsinn, weil ein solches Werk ohne Autor keine Ahnung davon hat, was es bedeutet oder ob es Sinn oder Schrott produziert. Es weiß nichts davon, woher sein Diebesgut stammt und ob darin vielleicht subtile Andeutungen standen, versteckt zwischen den Zeilen. Gab es Metaphern mit unscharfen Rändern oder Spuren von Humor? Es weiß auch nichts davon, dass ihm ein Großteil des Wissens der Welt verschlossen ist und immer bleiben wird. Doch seine Schöpfer und seine Nutzer begnügen sich gern mit der einen epistemischen Welt, die sie seit jeher gewohnt sind und die seit für sich in Anspruch nimmt, das Sagen zu haben.
Neue Ideen und unorthodoxes Denken, die den Horizont erweitern, können so nicht gedeihen. Es scheint mir fast, als würden genau sie als Bedrohung empfunden.
Was bleibt, ist das Werk ohne Autor, für das am Ende niemand mehr gerade steht und das auf so wundersame Weise die Verantwortung suspendiert, sich mit eigenen Fehlern und mit Menschen auseinandersetzen zu müssen.
Wer übernimmt bei alledem Verantwortung für die Studierenden, wenn wie in Bayern die KI-Anwendungen mit Macht in die Hochschulen gedrückt werden? Schon heute beklagen Unternehmen weltweit, dass Hochschulabsolventen nicht mehr beschäftigungsfähig sind, weil sie zunehmend illiterat und wenig teamfähig sind. Sie scheitern an einfachen Aufgaben, die mit KI nicht zu bearbeiten sind. Wie schlimm ist es?
Schlimm ist, dass die Techkonzerne gezielt in die Hochschulen gehen und dort ihre schwarze PR verbreiten. Rektorate und Präsidien lassen sie gewähren und helfen mit, die Studierenden zu Versuchskaninchen zu machen, an denen die Auswirkungen der KI-Nutzung getestet werden. Nebenbei produzieren sie wie große Teile des Forschungsbetriebs auf Staatskosten kostenlose Trainingsdaten. Was würde wohl geschehen, wenn ich den jungen Leuten Kokain gäbe und sagte: Schauen wir mal, was passiert?
Wer übernimmt Verantwortung für die Zukunft der Studierenden? Es sind sicher nicht diejenigen, die sich zu Erfüllungsgehilfen und Komplizen der Konzerne machen. Sonst müsste man hochgradig alarmiert sein darüber, dass die Leistungen der Studierenden rasant in den Keller gehen, und man würde die inzwischen mehr als gut bekannten Gefahren angemessen adressieren. Wir wissen längst, dass die negativen Konsequenzen, gegenwärtige und zukünftige, alle „potentiellen“ Vorteile dieser Technologie beim Weitem übersteigen. Eine Gesellschaft, die jetzt nicht gegensteuert, verspielt die Chance, eine Generation auszubilden, der man unser aller Zukunft überantworten kann. So richtet sie sehenden Auges doppelten Schaden an.
Schon heute breitet sich De-Skilling bei Denken und Metadenken, Konzipieren, Schreiben oder Rechnen rasant aus, Betrug und Betrugsversuche grassieren. Dazu kommen mentale Probleme, wie sie bei der übermäßigen Nutzung der digitalen Sykophanten typisch sind. Sie äußern sich vor allem in Kritik- und Diskussionsunfähigkeit. Nicht einmal mehr ein einfacher Vorschlag wird als etwas anderes als ein Angriff gesehen. Also wendet man sich erzürnt von den Menschen ab und sucht wohlfeilen Trost bei denen, die ihnen immer Recht geben. Mit anderen Worten: Die Basis des Lernens, nämlich Fehler zu machen, Unebenheiten zu navigieren, Frustrationen auszuhalten und dann aber das Glück des Erfolgs zu spüren, wird systematisch unterminiert. Gefühle von Selbstwirksamkeit können so gar nicht erst entstehen. Die Studierenden wissen nicht mehr, was es bedeutet, etwas selbst zu erarbeiten und zu durchdenken. Das Wissen darüber, wie in der realen Welt ein Text oder ein Code oder irgendein Werk entstehen, verschwindet. Auch echte Autonomie wird nicht erfahren, und ein Leben ohne digitale Hilfsmittel ist überhaupt nicht mehr vorstellbar. Von der realen Außenwelt haben sie nur noch eine verschwommene Vorstellung. Das heißt: Diese jungen Leute können die Welt nicht mehr lesen. Mit auf diese Art entkernten Menschen kann man am Ende machen, was man will.
Was könnte es sein, was man mit ihnen macht?
In gewisser Weise geht es unter anderem um die Algorithmisierung von Menschen. Es hat längst begonnen, dass Menschen sich schon selbst den Algorithmen anpassen und sei es, um zu signalisieren: Ich gehöre dazu. Natürlich geht dabei die eigene Stimme verloren wie auch die Erkenntnis, dass ich mich selbst zu einer Form ohne Inhalt mache, zu einer Oberfläche ohne Substanz. Aber das muss ich erst einmal begreifen. Unterdessen schreitet die gesellschaftliche Erosion mit weiterer Vereinzelung der Individuen voran, die bald nicht mehr in der Lage sein werden, aufeinander bezogen zu handeln und immer besser beeinflussbar und kontrollierbar werden. Dann werden sie den immer offener erklärten totalitären Absichten der üblichen Verdächtigen und ihrer Gier nach Geld, Macht und Kontrolle nichts mehr entgegenzusetzen haben.
Wer diese Scheinwelt verlassen will, hat ein Problem. Der Gruppendruck ist inzwischen so groß, der Kult so übermächtig, dass Dissidenz so gut wie unmöglich geworden ist. Nach allem, was wir inzwischen wissen, halte ich es für ganz und gar unmoralisch, den Einsatz dieser Technologien direkt oder indirekt zu erzwingen. Die Freiheit der Wahl, sie zu benutzen oder eben nicht, muss unantastbar sein.
*
Wenn Dagmar Monett ein Buch liest, geht sie in ein gedankliches Zwiegespräch mit dem Autor. Was ist seine Intention? Warum schreibt er das so und nicht anders? Wo sind sie Andockstellen zum Eigenen? Sind sie gefunden, wird das Buch zum Spiegel. Das aber kann es nur werden, wenn da ein Mensch ist, der ihr aus dem Buch entgegentritt. Etwas, was aus Diebstahl und Statistik zusammengestückelt ist, das keinen Tanz um die Gedanken, kein Ringen um Erkenntnis in sich trägt, kann so etwas niemals leisten. „So etwas zu lesen, ist sinnlos“, sagt Dagmar Monett. „Warum soll ich mir auch die Mühe machen zu lesen, wenn jemand, der sich als Autor geriert, weil er das Stück ja „gepromptet“ habe, sich nicht die Mühe macht, zu schreiben. Ich weiß, was es bedeutet, einen guten Text zu schreiben, aber selbstverständlich schulde ich den Lesern den Respekt, sie mit meiner eigenen Stimme anzusprechen.“
Der Verlust von Authentizität ist in full swing. Menschen aber brauchen genau das. Sonst verkümmern sie, genau so, wie sie verkümmern, wenn es ihnen egal wird, ob sie es mit etwas Totem oder mit etwas Lebendigem zu tun haben und alles Kostbare im Menschenmöglichen aufgeben, weil ein paar gierige Typen mit unredlichen Absichten und ihre mad scientists es so wollen. Typen, die die bösartigsten aller grotesken Fakes in die Welt setzen, indem sie uns weismachen wollen, wir seien ohnehin niemals so gut wie die Maschinen.
Es kann doch nicht sein, dass Menschen in so kurzer Zeit glauben, Fähigkeiten verlernt zu haben, die wir im Laufe von Jahrhunderttausenden erlernt haben? Dass wir plötzlich glauben, ohne KI keine Gute-Nacht-Geschichte mehr erzählen zu können, keine Geschichte schreiben zu können, nicht mehr über ein Gedicht nachdenken zu können, eine Liebeserklärung zu dichten, einen Brief zu schreiben, eine Melone zu kaufen, ein Spiegelei zu braten, einen eleganten mathematischen Beweis zu finden, einen lebensdienlichen Code zu schreiben – oder ein Buch.
Für alle, die sich dem Sog dieses politischen, ökonomischen und intellektuellen Raubzugs entziehen wollen oder in einer hysterischen (akademischen) Umgebung Argumente brauchen, die helfen, das Kreuz breit zu machen, hat Dagmar Monett eine Bibliothek zusammengestellt. Sie wird ständig aktualisiert.
Illustration: raxpixel
Da steh ich nun, ich armer Tor …
