Gruppendiskussion Zürich

Gruppendiskussion Zürich:  Künstliche Intelligenz in den Geistes- und Kulturwissenschaften

Diskussion mit Josephine Diecke, Thomas Klinkert, Roland Meyer, Jens Schröter, Andreas Sudmann und Elias Zimmermann.

13. Oktober, 2026

Diese Diskussion wurde im Juli 2025 geführt.

Vorstellungsrunde

Roland Meyer: Ich bin Roland Meyer und seit einem Jahr hier in Zürich als Brückenprofessor für digitale Kultur und Künste. Das ist eine neu eingerichtete Assistenzprofessur, die als Brücke zwischen der Universität Zürich, wo ich am Seminar für Filmwissenschaft bin, und der ZHdK konzipiert ist, wo ich am Departement Kulturanalysen und Vermittlung angesiedelt bin. Vom Hintergrund her bin ich Bild- und Medienwissenschaftler.

Jens Schröter: Ich bin Jens Schröter, Professor für Medienkulturwissenschaft an der Universität Bonn. Ich habe seit längerer Zeit einen Schwerpunkt in Theorie, Geschichte und Ästhetik digitaler Medien und bin gemeinsam mit Andreas und zwei weiteren Kollegen PI dieses Projekts darüber, wie KI die Wissenschaften verändert. Gerade habe ich ein neues Projekt bei der VolkswagenStiftung bewilligt bekommen, über die Rolle von KI in der Weinwirtschaft. Deshalb interessiert mich die Datafizierung ganz unterschiedlicher Phänomene, auch wenn ich kein Spezialist für Datafizierung bin. Die Transformation der Wissenschaften durch digitale Technologien interessiert mich jedenfalls sehr.

Josephine Diecke: Ich bin Josephine Diecke, seit November 2023 Assistenzprofessorin am Seminar für Filmwissenschaft mit Schwerpunkt Digitalisierung, digitale Kulturen und vor allem Methoden der Digital Humanities. Das heißt, ich beschäftige mich seit einigen Jahren mit der Anwendung digitaler Methoden auf filmwissenschaftliche Fragestellungen, mit Text- und Filmanalyse, und bin darüber als Projekt- und Kooperationspartnerin in das Projekt von Jens und Andreas gekommen, über die Weiterentwicklung unseres Videoanalyse-Tools VIAN, das derzeit neu entwickelt wird und bald wieder nutzbar sein soll. Ich komme aus der Filmwissenschaft, habe aber auch Französisch studiert und bewege mich ebenfalls im Forschungsbereich von Digital Humanities, Technikgeschichtsschreibung und Medienarchäologie.

Thomas Klinkert: Ich bin Thomas Klinkert und bin der Außenseiter in dieser Runde, weil ich eigentlich gar keine Anwendungsexpertise mit KI habe. Ich bin Romanist, arbeite also zu französischer Literatur, auch zu italienischer und spanischer. Konfrontiert bin ich unter anderem damit, dass Studierende KI für Hausarbeiten verwenden. Oder damit, dass jemand sich, wie jüngst bei uns, mögliche Klausurfragen vorhersagen lässt, indem er sämtliche Materialien eines Kurses eingibt. Das Modell nennt dann mögliche Fragen und liefert die Antworten gleich mit; die wurden auswendig gelernt und in der Klausur erfolgreich angewendet. Das ist gewissermaßen meine Perspektive: KI als Täuschungsinstrument oder als Prüfungsvorbereitungshilfe. Ich bin deshalb in einer Arbeitsgruppe an der Fakultät, in der wir versuchen, Kriterien für den Umgang damit zu definieren.

Ich selbst nutze es nicht, weil ich sehr skeptisch bin. Natürlich habe ich es probeweise verwendet, und die Ergebnisse waren sehr durchwachsen: erfundene Schriften, behauptete Rezensionen von Büchern, die es gar nicht gibt, solche Dinge. Aber ich weiß natürlich, dass es genutzt wird. Anekdotisch kann ich sagen: Meine Tochter hatte vor zwei Wochen ihre Abiturfeier, und zwei Schülerinnen hielten eine Abiturrede, in der sie sagten, sie dankten ihrem wichtigsten Helfer, ChatGPT, für die Unterstützung während der Abiturzeit. Das ist meine Perspektive.

Elias Zimmermann: Mein Name ist Elias Zimmermann. Ich bin als promovierter wissenschaftlicher Mitarbeiter im Editionsprojekt Annemarie Schwarzenbach angestellt, kleine Formen und Briefe. Ich habe entsprechend einen literaturwissenschaftlichen, früher stärker kulturwissenschaftlich geprägten Hintergrund. Vielleicht bin ich so etwas wie das Missing Link zwischen denen, die sehr skeptisch sind und es gar nicht anwenden, und den Expertinnen und Experten, die sich täglich damit auseinandersetzen. In der Editionsphilologie nämlich, wo ich dieses Projekt zusammen mit einem technischen Leiter überwiegend koordiniere, verwenden wir Transformer-Modelle zur Handschriftenerkennung, also HTR-Modelle, die auf derselben Technologie basieren wie ChatGPT. Das ist eigentlich mein täglich Brot. Ich verwende es damit aber in einer sehr speziellen Form, die eben nicht diese Chat-Modelle sind, mit denen man sich Dinge zusammenfassen lässt, sondern es geht um sehr exakte Arbeiten. Ich habe das selbst nie als besonders interessant für eure Fragestellung wahrgenommen, im gestrigen Gespräch aber gemerkt, dass es doch ganz interessante Implikationen hat, dass wir hier eben nicht irgendein Tool verwenden, sondern eine KI, ein Transformer-Modell.

Eingangsstatements

Elias Zimmermann: Ich komme, wie gesagt, aus der Literatur- und Kulturwissenschaft, habe aber seit zwei, drei Jahren zunehmend eine Digital-Humanities-Ausrichtung und bin sehr eng mit technischen Fragen befasst. Eine Frage, die wir uns in den DH — sofern ich mich schon dazuzählen will — immer stellen müssen und die sich bei diesen KI-Tools noch verstärkt, ist: Wie stark werden unsere Forschungssettings, von der Forschungsfrage bis hin zu ganz konkreten Anwendungsmethoden, von unseren Tools gesteuert, und wie stark steuern wir die Tools?

Mir ist gestern im Gespräch noch einmal sehr aufgefallen, wie stark ganz konkrete editorische Entscheidungen in der Transkriptionsphase, wo ja viele Weichen gestellt werden — diplomatische Transkription, halbdiplomatische und so weiter —, von diesen Tools beeinflusst werden, insbesondere von einem Transformer-Modell. Dazu müssen wir, glaube ich, sowohl aus der Literaturwissenschaft als auch aus den DH heraus eine Haltung entwickeln, oder das zumindest stärker schon in die Vorbereitungsphase unserer Projekte einbinden. Das ist gewissermaßen eine Teilfrage der viel größeren Frage nach dem Verhältnis von Tool und Methodik, und die interessiert mich.

Thomas Klinkert: Da ich es ja selbst nicht verwende — mit einer Ausnahme: Ein LLM verwende auch ich, nämlich zur Übersetzung, DeepL, das funktioniert ja analog. Da verwende ich es tatsächlich, aber natürlich so, dass ich jeden Satz kontrolliere. Ich übersetze nur aus Sprachen, die ich selbst beherrsche, in Sprachen, die ich beherrsche. Ich verlasse mich also nicht darauf, auch wenn die Leistung sehr gut ist. Vieles ist wirklich gut übersetzt, auch stilistisch wird es immer besser, aber es macht eben auch Fehler, teilweise haarsträubende Verständnisfehler, Fehlinterpretationen von Wörtern und so weiter. Und gerade da braucht man sehr viel eigenes Wissen, um beurteilen zu können, was gut ist und was nicht.

Wenn ich das übertragen möchte auf das, was ich nicht nutze, von dem ich aber weiß, dass es das gibt: Ich habe mir gestern zur Vorbereitung noch dieses Gespräch zwischen Daniel Kehlmann und Markus Gabriel bei der phil.cologne angehört, das steht im Netz, geführt wurde es vor etwa zehn Tagen. Da sagte Markus Gabriel, man könne den ganzen Hegel eingeben und zusammenfassen lassen. Und das Ergebnis sei nicht schlecht; das Modell könne Hegel gut zusammenfassen. Das ist wirklich eine Arbeitsersparnis. Auch da würde ich sagen: Entscheidend ist die Kompetenz des Users. Nicht ein Schüler kann das machen und sich dann blind darauf verlassen, sondern ein Experte, der Hegel kennt, kann sagen: Ja, das ist gut zusammengefasst, das hilft mir für meine Vorlesung. Ich muss nicht alles noch einmal selbst lesen, sondern erinnere mich, dass es ungefähr stimmt. Und wenn ich unsicher bin, schaue ich bei Hegel nach.

Als didaktisches Tool können wir das sicherlich einsetzen; daran sind wir auch dran. Ich weiß, dass es Kolleginnen und Kollegen bei uns in der Linguistik gibt, die so etwas machen; in der Editionsphilologie wird es offenbar auch gemacht. Und in der Literaturwissenschaft könnte ich es mir ebenfalls vorstellen, dass man Textkorpora eingibt und untersuchen lässt, zum Beispiel: In welchen Kontexten kommt das Wort „Schmerz“ vor? Was man daraus interpretatorisch ableitet, muss man dann natürlich selbst entscheiden. Aber dass man sich auf diese Weise erst einmal Stellen finden lässt, ist sicherlich nützlich; als heuristisches Instrument kann man es also gut einsetzen — allerdings immer nur unter der Voraussetzung, dass man den Lernenden bewusst macht, welche Gefahren sich damit verbinden: falsche Behauptungen, falsche Lesarten. Alles muss kontrolliert werden, man braucht immer das Expertenwissen. Das wäre meine aktuelle Perspektive auf diese Problematik. Und dass es genutzt wird, ist ja klar. Wenn schon die Abiturientinnen öffentlich erklären, damit hätten sie gelernt, dann können wir das nicht mehr aufhalten. Diesen Geist bekommen wir nicht mehr in die Flasche zurück. Es wird gemacht, und wir müssen sicherlich damit umgehen.

Josephine Diecke: Mein Themenbereich knüpft eigentlich an beide Punkte an: an die Frage, ob wir uns an Tools anpassen beziehungsweise inwiefern ein Tool die Methodik bestimmt und umgekehrt, und ebenso an die Frage, wie wir uns dazu verhalten, dass Tools verwendet werden. Zum Kontext: Ich benutze sogenannte KI in sehr vielfältigen Zusammenhängen, von algorithmischer Erkennung bis zur Textgenerierung. Ich würde behaupten, dass ich mich einigermaßen gut auskenne und einschätzen kann, was sie kann und was nicht, vor allem in der Bilderkennung. Das betrifft auch die Lehre: inwiefern Studierende das einsetzen, und zwar unwissend einsetzen, obwohl sie es eigentlich besser einsetzen könnten — sollten sie das oder nicht, und inwiefern sollte man dabei helfen? Es ist eigentlich auch eine Frage der Intransparenz und der Widersprüchlichkeit in der Benutzung: wie wir selbst LLMs verwenden, ohne wirklich zu thematisieren, wie wir sie verwenden. Ich denke, wir sollten uns dazu verhalten.

Ein großes Anliegen ist mir in diesem Zusammenhang die Aufwertung menschlicher Arbeit, also dessen, was Menschen tatsächlich tun. „Human in the loop“ ist eben nicht nur ein „Problem in the loop“, sondern da steckt sehr viel menschliche Arbeit drin: angefangen bei den sogenannten Clickworkern und ihren Annotationen, mit denen wiederum weitere Modelle trainiert werden, über uns selbst, die wir das Feedback liefern, wenn wir Sprachmodelle wie ChatGPT verwenden und bewerten, wie gut oder schlecht der Output ist, bis hin zu dem Fall, dass ich automatische Bilderkennung verwende und die Ergebnisse als Grundlage für eine Fragestellung nutzen möchte, dann aber noch sehr viel bereinigen, korrigieren und gegenlesen muss.

Diese Formen der Arbeit, des Überprüfens, aufzuwerten und an bestimmten Stellen — gerade in der Forschung und in der Lehre — auch zu sagen: Hier bräuchte es eigentlich keine maschinelle Unterstützung, hier könnten wir wieder mehr manuell annotieren und beisteuern und damit die Expertise stärken. Aber dafür muss man eben auch wissen, was der Computer beitragen kann und was nicht.

Jens Schröter: Ich will vor allem am letzten Punkt anknüpfen, an den Studierenden, die solche Dinge verwenden. Wir hatten einen Fall in Bonn, in dem jemand eine Bachelorarbeit komplett hat generieren lassen oder aus generierten Stücken zusammengesetzt hat — man weiß es nicht genau, aufgefallen ist es über halluzinierte Quellen. Da hat das Prüfungsamt hart durchgegriffen und die Person exmatrikuliert.

Nur: Wir können ja auf Dauer keine Art Schreckensregime errichten und alle exmatrikulieren. Die Frage ist, wie wir konstruktiv damit umgehen. Eine Frage, die wir uns stellen und die ihr euch sicher auch stellt, ist, wie wir neue Lehrformate entwickeln können. Jenseits der Überlegung, dass man womöglich alle Prüfungen auf mündliche Prüfungen oder Klausuren umstellen muss, was ja seine Vor- und Nachteile hat — eigentlich möchte man ja, dass die Leute in der Lage sind, wenigstens ein Stück Text selbst zu schreiben. Es gibt Leute, die das tun, und es gibt Leute, die es nicht tun. Wir haben bei uns außerdem einen sogenannten Medienpraxisbereich, den wir ohnehin reformieren müssen, auch aus ökonomischen Gründen. Jetzt überlegen wir, ob wir nicht zumindest teilweise Lehrformate anbieten, in denen man mit Studierenden zum Beispiel Prompt Design diskutiert: Wie sinnvoll ist Prompten möglich, wie lässt es sich in einen Workflow einbauen, der zum Teil menschlich und zum Teil maschinell ist? Dafür braucht man natürlich Leute, die das können; ich würde mich nicht dazuzählen. Das wird diskutiert, wir wissen es noch nicht genau. Wir sind natürlich auch nicht die Einzigen mit diesem Problem, das trifft bei uns alle Kulturwissenschaften. Leider gibt es noch keine klare Diskussionssituation, es gibt verschiedene Gremien, die nebeneinanderher arbeiten; das ist noch nicht richtig koordiniert. Aber die Diskussion läuft bei uns an.

Das Zweite, was mich theoretisch interessiert: Die Medienwissenschaft lebt ja ein Stück weit von der Legitimation, dass man annimmt, Medien seien nicht neutral und keine bloßen Werkzeuge — sonst könnte man ja auch eine Hammerwissenschaft eröffnen. Medien müssen also irgendeine Eigendynamik besitzen. Angefangen hat es mit dem knalligen Satz „Medien bestimmen unsere Lage“. Mittlerweile sehe ich das komplexer und differenzierter, so einfach ist es nicht. Das Interessante an der jetzigen Situation ist, dass diese ganze KI — der Begriff existiert seit 1956 oder so, und es gab immer Ups and Downs — seit einigen Jahren in den Alltag diffundiert. Jetzt kann man sehr konkret beobachten, was medienhistoriografisch eigentlich passiert: Welche Dynamiken kommen von den Techniken, welche aus Praktiken, wie schreiben sich Institutionen fort? Oftmals sind Institutionen ja härter als Techniken, oder soziale Strukturen härter als Techniken; die schreiben sich einfach fort und schreiben sich dann auch in die Technologien ein, gerade in ökonomischer Hinsicht.

Diese Dynamik im Einzelnen zu beobachten und wegzukommen von den einfachen Gegenüberstellungen — Medien machen alles anders versus Medien sind neutral — und jetzt zum 87.000. Mal den Anlauf zu nehmen, das theoretisch differenzierter zu betrachten, und zwar in situ, an diesem Prozess, der gerade stattfindet: Das finde ich theoretisch interessant. Das wäre neben dem Lehrformatproblem mein persönliches theoretisches Interesse.

Roland Meyer: Ich teile natürlich sowohl das Interesse daran, was das mit der Lehre macht, als auch deine theoretische Perspektive und vieles andere, was gesagt wurde. Was mich aber am meisten umtreibt, ist die politische Herausforderung, die sich damit verbindet. Denn das, was wir unter generativer KI verhandeln, ist nicht nur nicht neutral, es ist vor allem politisch nicht neutral. Und es wird in der Form, in der es seit einigen Jahren verbreitet und durchgesetzt wird, von Firmen wie OpenAI und vielen anderen auch als politisches Projekt betrieben, das sich zunehmend politischer Unterstützung versichert.

Ich habe gerade eben im Guardian eine Schlagzeile gelesen, die ich sehr eindrucksvoll fand: „OpenAI signs deal with UK to find government uses for its models.“ Die britische Regierung soll also Anwendungen für die Modelle von OpenAI suchen. Man hat in diesem Fall etwas, was wirklich kein Werkzeug ist, und sucht nach möglichen Anwendungen dafür. Wie solche Anwendungen aussehen, wissen wir seit DOGE: Es geht unter anderem darum, Bürokratie kurz und klein zu schlagen, um umso härter durchgreifen zu können, und vor allem darum, Verantwortung zu delegieren. Das ist auch etwas, was in KI-gestützter Kriegsführung passiert, unter anderem in Gaza. Da werden solche Systeme eingesetzt, um Verantwortung von Menschen wegzudelegieren, zumindest vermeintlich

Die politische Unterstützung, die sich Firmen wie OpenAI etwa durch die Trump-Regierung sichern, zielt eben auch darauf, dass Urheberrechte abgeschafft, verändert oder angepasst werden. Da sollenMöglichkeiten geschaffen werden, riesige Datenzentren zu bauen, unglaubliche Mengen an Energie und Wasser zu verbrauchen und diese Datenzentren dann, wie es bei xAI geschieht, mitten in Schwarze Wohngebiete zu stellen, wo sie den Menschen buchstäblich die Luft zum Atmen nehmen, weil sie solche Schadstoffe ausstoßen. Und all das passiert in einer Zeit, die mit einem weltweiten autoritären Backlash und einer zunehmenden Faschisierung zu tun hat.

Dieser Zusammenhang interessiert mich als politischer Zusammenhang, und er interessiert mich als Bildwissenschaftler auch auf einer ästhetischen Ebene: wie genau diese Politik mit Bildern begleitet, propagiert, visualisiert wird. Da kann man festhalten — und ich bin nicht der Einzige, der das festgehalten hat —, dass so etwas wie AI Slop, der Output kommerzieller Bildgenerierung, zu einer Ästhetik des digitalen Faschismus geworden ist. Und demgegenüber interessiert mich natürlich die Rolle von Universitäten, vielleicht nicht nur als Orte, die sich fragen, wie sie damit am besten klarkommen, sondern vielleicht auch als Orte des Widerstands. Ich glaube, das tut not. Das wäre mein Eröffnungsstatement.

Andreas Sudmann: Dann zu guter Letzt noch kurz zu dem, was mich bewegt. Jens und ich haben in dieser Diskussion natürlich auch eine Beobachtungsperspektive. Die verlassen wir jetzt ein Stück weit, weil wir ausnahmsweise selbst einbringen, was uns motiviert.

Von den Forschungsfragen her war und ist die grundsätzliche Frage: Wie verändert KI — im Plural, also als Heterogenität diverser Anwendungen und Technologien — die Praktiken und Methoden der Wissenschaften? Da steckt schon in der Fragestellung so viel Diversität, dass sie kaum beherrschbar ist. Das ist sicherlich eine große Herausforderung. Sie greift auch in die andere Fragestellung ein, die unser medienwissenschaftliches Teilprojekt kennzeichnet, nämlich die nach der epistemisch-infrastrukturellen Rolle von Medien in der Anwendung und Generierung von KI. Zumal Anwendung und Entwicklung von KI sehr eng miteinander verzahnt sind. Auch das ist eine Problematik, der man sich epistemisch in der Rolle als Beobachter gegenübersieht, zumal wir in unserem Fall medienethnographisch arbeiten.

Das ist die eine Seite. Die andere Perspektive ist, dass wir angetreten sind und versprochen haben, Werkzeuge zu entwickeln — ich nenne sie jetzt für alle so, obwohl wir begrifflich umgeschwenkt sind und von epistemischen Medien sprechen —, um damit die KI-Entwicklung und speziell auch die Anwendung von KI zu erforschen. Dazu haben wir dieses Jahr tatsächlich entsprechende Papers veröffentlicht. Eines davon basiert auf der Automatisierung von Annotationsdaten und überhaupt auf der Automatisierung des qualitativen Forschungsprozesses: der Versuch, ausgehend von der Analyse und Verarbeitung von Codes so etwas wie eine theoretische Mustererkennung einzubauen und diese auch bewerten zu lassen, im Vergleich mit menschlichen Codierern und Evaluatoren. Wir haben dafür eine Art LLM-Pipeline gebaut, die diesen Prozess als Workflow gestaltet.

Was mich für die heutige Diskussion speziell interessieren würde, ist das Verhältnis von Anwendung der KI für die Geisteswissenschaften und kritischer Forschung über KI in den Geisteswissenschaften. Vorläufig könnte man sagen, das sind sehr disparate Kulturen, die stark auseinanderfallen. Es käme aber eigentlich darauf an, das stärker zu verzahnen und nicht als zwei getrennte Kulturen zu sehen — was sich übrigens problematischerweise auch in der Ausschreibungspraxis widerspiegelt. Dabei wäre wichtig, dass man die informatische Kompetenz für die Kritik hat und umgekehrt. Über die Digital Humanities gibt es ja die Kritik, dass sich dort Computerwissenschaftler, die nichts von Literatur verstehen, und Literaturwissenschaftler, die nichts vom Computer verstehen, zusammentun — eine nicht ganz unbekannte Aussage, die, meine ich, Alexander Galloway zugeschrieben wird. Da ist auch etwas dran. Andererseits glaube ich, dass das auch durch die Dynamik der Entwicklung bestimmt wird, zu der man sich wohl oder übel früher oder später verhalten muss, sodass es vielleicht keine reine Entscheidungsfrage ist, die man subjektiv oder individuell treffen kann.

Vielleicht kann man deshalb erst darüber sprechen, was KI in den Geisteswissenschaften bedeutet, und dann darüber, was die Anwendung von KI für die Geisteswissenschaften bedeutet. Für beides kann man kritische Perspektiven zugrunde legen. Insofern ist das, was die Kritik betrifft, gerade nicht zweigeteilt. Das könnte man dann als Zusammenführung ans Ende der Diskussion stellen.

KI, Ästhetik und autoritäre Politik

Andreas Sudmann: Roland, du hast einen fulminanten Aufschlag gemacht mit der These, für die ja nicht nur du einstehst, sondern auch andere: dass KI eng verbandelt ist mit dem Aufkommen neuer faschistischer Tendenzen. Natürlich denken wir dabei in erster Linie an die USA. Vielleicht magst du diese These noch einmal erläutern und mit Argumenten versehen. Du hast schon Beispiele für die Problematiken genannt, aber das sind ja zunächst einmal Beispiele.

Roland Meyer: Es gibt verschiedene Gründe, warum das Argument im Augenblick plausibel erscheint. Einer ist, dass Mustererkennungsprozesse tendenziell auf Vereindeutigung hinauslaufen. Das kann man an dem, womit ich mich beschäftige, an der KI-Bildgenerierung, sehr einfach demonstrieren: wie dort Klischees reproduziert werden, und zwar sexistische und rassistische Klischees, und wie eine Welt visuell produziert wird, in der jeder und jede einem Label entspricht und Menschen als Repräsentanten von vereindeutigten Geschlechterrollen auftauchen. Zugleich sieht man, dass die Vereindeutigung von Geschlechterrollen in den USA, etwa in der Selbstdarstellung der Trump-Regierung, ein zentrales Projekt ist.

Ich denke, es gibt auch eine Art Gewaltförmigkeit, die diesen Prozessen innewohnt. Von Wendy Chun gibt es einen sehr spannenden Text, in dem sie Machine Learning in Analogie zum Sadismus setzt, weil es eben auch um eine Art Abrichtung geht, um eine Form, die nicht freies Lernen ist, sondern extrem zwanghaftes Lernen. Es ist ja nicht so, wie es der übliche Vergleich nahelegt, dass die Künstlerin ins Museum geht und sich von den Werken der Vorgängerinnen inspirieren lässt. Sondern man zwingt diesen Maschinen hunderttausend Katzenbilder auf, damit sie das hunderttausendunderste Katzenbild produzieren. Das ist ein Abrichtungsprozess, der ja nicht zufällig Training genannt wird.

Entscheidend ist aber wohl eher, wie die Entwicklung von KI im OpenAI-Modell funktioniert — das, was Karen Hao in Empire of AI als imperiales, koloniales, expansives, extraktivistisches Projekt beschreibt, das über alle Kritiken, die es seit den 2010er Jahren insbesondere von Women of Color an den Biases und den Problemen gab, gnadenlos hinweggeht und immer darauf gesetzt hat, mehr Daten und mehr Rechenleistung zu mobilisieren. Ein solches Projekt läuft natürlich auf Monopolisierung hinaus und will das auch. Es geht um so etwas wie Privatbesitz an Sprache — das hat Hannes Bajohr einschlägig kritisiert. Wenn Large Language Models wirklich Sprachmodelle sind, dann sind es Sprachmodelle in Privatbesitz. Elon Musk kann den System-Prompt ändern, wenn ihm danach ist, und dann produziert das Sprachmodell am laufenden Band Hitlerwitze. Das sind vielleicht noch ein paar unsystematische Ansatzpunkte.

Jens Schröter: Da würde ich dich gerne noch etwas fragen, weil ich das mit der Ästhetik des digitalen Faschismus sehr interessant finde, vor allem auch Trumps Nutzung selbst generierter, sehr merkwürdiger Bilder: er selbst als Papst, er selbst als eine Art Ritter vor amerikanischer Flagge. Du hast darüber ja auch geschrieben. Offensichtlich ist es jetzt möglich, mit solchen Systemen sehr schnell solche Bilder zu erzeugen. Früher hätte er einen Maler hinstellen müssen, der mindestens drei Wochen gebraucht hätte; jetzt kannst du ruckzuck so ein Bild raushauen und dich auf diese Weise ästhetisieren. Da klingelt es: Benjamin, Faschismus als Ästhetisierung der Politik. Würdest du sagen, dass das vor dem Hintergrund dieses Einsatzes von KI-Bildern für einen phantasmatischen politischen Diskurs — ich weiß gar nicht, wie man das nennen soll — wieder eine aktuelle theoretische Perspektive ist? Soll ich Benjamin noch einmal neu lesen?

Roland Meyer: Ich finde es zumindest nicht unplausibel. Und zwar nicht nur mit Blick auf die Trump’sche Selbstinszenierung, sondern auch, wenn man schaut, wie sich zum Beispiel das Department of Homeland Security auf seinen Instagram- und X-Kanälen präsentiert. Ich weiß nicht, ob das jemand von euch verfolgt hat, aber die posten dort regelmäßig KI-generierte Bilder. Eines, das mich besonders schockiert hat — und dafür war es auch da —, zeigte Alligatoren mit ICE-Mützen. ICE, also diese Quasi-Gestapo, die ohne Uniform illegalisierte MigrantInnen von der Straße weg in unmarkierte Vans verschleppt. Also Alligatoren mit ICE-Mützen und dahinter eine Gefängnislagerarchitektur, mit der Ankündigung „coming soon“: Alligator Alcatraz, dieses Lager in Florida, in den Everglades, das innerhalb weniger Tage aus den Sümpfen hochgezogene Abschiebe- oder, wie manche sagen, Konzentrationslager. Das wird mit solchen KI-generierten Memes propagandistisch begleitet. Und die sind natürlich auch dafür da, dass Leute wie ich sich darüber aufregen; das ist Teil des Spiels, es geht auch um eine Art Trolling. Aber es geht natürlich ebenso darum, die eigenen Leute mit dieser Inszenierung von Grausamkeit bei der Stange zu halten.

Ich denke schon, dass das Moment ästhetischer Inszenierung sehr stark ist bei dem, wie Trump funktioniert, und dass KI dafür zumindest ein probates Mittel ist. Weil es schnell geht — und gerade weil es immer mehr kritische Stimmen von linker, liberaler, progressiver Seite gibt, die KI beziehungsweise diese Art generativer KI aus unterschiedlichen Gründen ablehnen, ist es umso provokativer, umso mehr ein Moment von Trolling. Die Technik selbst wird besetzt, und zwar von rechts. Vor zwei, drei Jahren war das noch nicht so, da haben viele Leute damit herumprobiert. Von Anfang an gab es Leute, zum Beispiel Comiczeichner*innen und Illustrator*innen, die gesagt haben, das sei fürchterlich, das mache alles kaputt, weil sie existenziell bedroht waren. Und ich glaube, dieses Argument und ein paar andere sind in online-linken, progressiven Kreisen inzwischen absolut mehrheitsfähig. Umso attraktiver wird für die Online-Rechte genau diese Art von Ästhetik, die ihre KI-Herkunft auch ausstellt. Man kann ja durchaus KI-Bilder generieren, die nicht so stark nach KI-Bildern aussehen; aber sie nutzen genau die, die ein bisschen sloppy aussehen und ihre Generiertheit bis zu einem gewissen Grad ausstellen. Das ist das eine Moment.

Das andere ist, dass alle mitmachen können — natürlich nie alle, aber du kannst ein Elon-Musk-KI-Meme generieren und hoffen, dass Musk es auf X teilt, und dann hast du auf einmal Hunderttausende Likes. Das ist auch ein Faschismus zum Mitmachen.

Jens Schröter: Das ist ja immer ein Diskurs gewesen: Wenn eine Technologie droht, für viele verfügbar zu werden, schrillen alle Alarmglocken. Anfang der 90er die digitale Bildbearbeitung, die plötzlich jeder zu Hause machen konnte — oh Gott, man kann den Bildern nicht mehr trauen.

Roland Meyer: Das „Ende der Wahrheit“. Das könnten wir jetzt auch wieder lesen.

Jens Schröter: Es taucht immer wieder auf, als wäre es etwas komplett Neues. Die Diskussion ist uralt und wird immer und immer wiederholt. Deswegen eine andere Frage: Man könnte ja auch sagen, so what? Im Grunde ist es die Wiederkehr von Propaganda in neuem Gewand. Das ist im Grunde nichts radikal Neues.

Roland Meyer: Wenig daran ist radikal neu — außer der Skalierung, den Maßstäben und wirklich den Kurzschlüssen zwischen denen, die diese Technik entwickeln und vorantreiben, und denen, die politische Macht haben.

Thomas Klinkert: Dazu fällt mir ein Stichwort ein. Es ist doch neuerdings so, dass bei einer Google-Suche zuerst eine KI-Antwort kommt und danach erst die übrigen Fundstellen. Nun habe ich gelesen, dass seither erheblich weniger Klicks auf tatsächliche Webseiten erfolgen; die Leute verlassen sich also offenbar blind auf das, was da oben steht, weil es die KI sagt.

Und da habe ich neulich selbst wieder eine Dissonanzerfahrung gemacht. Ich redigiere gerade Artikel für ein Buch, kannte einen Namen nicht und habe ihn eingegeben. Daraufhin behauptete die KI in dieser obersten Zeile, dieser Mensch — den Namen habe ich vergessen — sei ein Vertreter der Commedia dell’arte. Das stimmte aber nicht, denn es war jemand, der drei Jahrhunderte später ein Buch über die Commedia dell’arte geschrieben hat. Da stand es dann aber im Brustton der Überzeugung. Das zeigt doch, dass diese KI eine disruptive Wirkung im Alltag hat, für uns alle. Wir glauben blind — vielleicht nicht wir als Wissenschaftler, aber viele unserer Zeitgenossen glauben blind, was da steht, weil es so schön formuliert ist. Und weil es ja oft auch stimmt: Wenn da steht, Helmut Kohl war Bundeskanzler, dann stimmt das. Solche korrekten Aussagen werden ja durchaus auch vielfach produziert, aber manchmal eben auch falsche, die genauso korrekt aussehen. Und da sehe ich persönlich eine ganz große Gefahr, weil das alles erst möglich macht: diese Faschisierung, diese Propagandawirkung, die dem Faschismus, den es im Moment tatsächlich gibt und der noch stärker zu werden droht, Vorschub leistet.

Roland Meyer: Was ich an dem Beispiel so spannend finde — abgesehen davon, dass es ein Beispiel für Monopolisierung und für eine weitere Ausweitung der Plattformmacht von Google ist, die eben nicht nur ökonomische Macht ist, sondern auf einen Walled Garden und letzten Endes auf eine Einhegung der Commons hinausläuft: Alles, was an Wissen im Internet verfügbar ist, ist jetzt gewissermaßen im Besitz von Google, und man wird gar nicht mehr dorthin geführt, wo es herkam; die Quellen werden unklar.

Fast noch spannender finde ich an diesem speziellen Beispiel die völlige Ahistorizität. Das beschäftigt mich, und da will ich das Technische wirklich noch besser verstehen. Ich habe nämlich die starke Vermutung, dass generative KI-Modelle, so wie sie im Augenblick funktionieren, tendenziell immer ahistorisch funktionieren, weil sie alles, was sie an Wissen haben, in einer Matrix speichern, im Latent Space, der letzten Endes nach Gleichzeitigkeit und nach Ähnlichkeiten organisiert ist. Es gibt darin historische Marker, weil das Material historische Marker hat: Irgendwo gibt es Jahreszahlen, irgendwo Epochenbezeichnungen. Aber die sind nicht Teil eines chronologischen Modells. In deinem Beispiel ist das sehr offensichtlich: Da ist ein Autorname, da ist Commedia dell’arte, das taucht häufig zusammen auf, und das Modell wurde so optimiert, dass „ist ein Vertreter von“ eine gute Formulierung ist, die man immer sagen kann — was man aber eben nicht immer sagen kann. Es ist eine Assoziation von Autorname und Begrifflichkeit, die historisch völligen Unfug produziert.

Das finde ich wiederum interessant mit Blick auf viele Visualisierungen mit KI, die inzwischen entweder absichtlich Anachronismen produzieren — dafür gab es in letzter Zeit sehr spannende Beispiele — oder eben unfreiwillige Anachronismen und historische Fragwürdigkeiten.

Josephine Diecke: Bei beiden Punkten, die jetzt genannt wurden, ist es ja eigentlich so: Man kann das erst einmal festhalten, man kann es problematisieren — aber es wäre tendenziell auch eine große Chance für uns, vor allem für die Geisteswissenschaften. Bei uns ist es zum Beispiel die Medienkompetenz, also zu fragen, was dieser Algorithmus eigentlich macht: dass das probabilistische Modelle sind, dass das, was in der Umgebung stattfindet, neu kombiniert wird und dabei so etwas entsteht. Das Gegensteuern, wenn man das möchte, hieße zu sagen: Glaubt nicht dem, was da steht, weil es keine Quelle ist, die auf diese oder jene Weise entstanden ist. Vorher hieß es ja auch schon: Glaubt nicht alles, was ihr im Internet findet. Dem nachzuspüren und für uns wieder zu fragen, was wir anbieten können.

Da bin ich ganz bei dir, Andreas, auch darin, dass das Reden über KI und die Anwendung von KI nicht getrennt sein sollten. Man müsste sich aber auch stärker mit dem breiteren Publikum beschäftigen und fragen, was es eigentlich ist, das die Sache so attraktiv macht. Technikgeschichtlich können wir schauen, was die Verkaufsargumente waren, was — in der Logik von Problem und Lösung — angeboten wurde. Und das eben auch aktiv zu unterrichten. Es muss ja nicht alles ersetzen, aber es auf jeden Fall mit einbeziehen.

Und weil du, Jens, die Frage aufgebracht hast, wie wir dem begegnen, dass es angewendet wird: Abgesehen davon, selbst zu verstehen, was eigentlich passiert und warum es gut oder nicht gut ist, Sprachmodelle beziehungsweise generative Text- und Bild-KI zu verwenden, würde ich immer sagen, dass die Gegenbewegung in der Betreuung liegt, in der Zuwendung, gerade zu den Studierenden, um miteinander ins Gespräch zu kommen und auch zu verstehen, warum es denn so viele von ihnen benutzen.

Das ist auch ein großes Problem der jetzigen Gesellschaft: Es wird belohnt, sich Prozesse zu vereinfachen. Wir sind alle mit Forschungsanträgen beschäftigt; der Antragsjargon hat eine bestimmte formale Logik. So zu schreiben, so zu reden, so zu agieren wird belohnt. Es ist also nur folgerichtig. Und für die Studierenden gilt: Wenn die KI die Fragen erraten kann, die ich gestellt bekommen würde, dann müsste man sich auch wieder damit beschäftigen — da kommt der Spiegel ins Spiel: Was machen wir da eigentlich, was unterrichten wir, was ist die eigentliche Kompetenz, die wir vermitteln wollen? Da gibt es, finde ich, noch zu wenig Austausch. Einerseits, welche Theorien wir anbieten können, aber eben auch, warum es eigentlich benutzt wird und welche Ängste es anspricht. Das eine ist die Propaganda und wie Menschen darauf reagieren; das andere ist die Frage, warum ein Sprachmodell verwendet wird, um Text zu generieren, der am Ende absurd oder komplett halluziniert ist, und warum Studierende sich nicht einmal Gedanken darüber machen, die Quellen zu überprüfen.

Da gehe ich zumindest sehr aktiv vor und spreche alle darauf an: Sie können gerne Sprachmodelle verwenden — genauso wie bei DeepL nicht mehr diskutiert wird, ob wir es verwenden sollen oder nicht. Aber reflektieren Sie genau: Wenn Quellen generiert werden und es keinen Zugriff auf das Internet gibt, dann müssen Sie damit rechnen, dass sie komplett halluziniert sind. Wenn es wiederum Zugriff auf das Internet gibt, dann werden es wahrscheinlich Quellen sein, die sehr häufig zitiert wurden. Also die Einsicht, dass es kein Suchalgorithmus ist, sondern etwas, was generiert wird. Darüber wieder zur Medienkompetenz zu kommen und zu sagen: Das ist eigentlich das, womit wir kritisches Denken fördern würden, und das an unseren Gegenständen auch zu zeigen. Eigentlich braucht es uns da mehr denn je. Aber dafür muss man eben wissen, was diese KIs machen, oder zumindest darüber gelesen haben.

Elias Zimmermann: Ich war letzte Woche an der DH-Konferenz in Lissabon, und jemand hat ein Tool aus dem Unterrichtskontext vorgestellt, das sie entwickelt hat, um den Studierenden das Prompting zu erleichtern beziehungsweise Guidelines dafür zu geben. Auf einer Ebene ist problematisch, dass sie das Tool offenbar monetarisieren will und es deswegen nicht unbedingt Open Data oder Open Source ist. Das Interessante war aber, dass weder darüber noch über das größere Problem gesprochen wurde: ob man jetzt einfach noch ein Tool obendrauf klatschen muss.

In dieser DH-Community gab es enorm viele Vorträge über LLMs, aber eigentlich immer nur in der Frage, wie wir sie als Tool benchmarken und gut einsetzen können. Ich verstehe diese Notwendigkeit natürlich auch. Aber KI selbst als Gegenstand einer DH-Forschung — durch Leute, die im besten Fall beides haben und nicht diesen Divider —, das fand nicht statt. Und das ist immerhin die internationalste Tagung, die es in den DH gibt, die der ADHO. Das hat mich etwas betrübt, ehrlich gesagt. Man hatte aber auch eine gewisse Beißhemmung; ich war vermutlich nicht der Einzige, der das gedacht hat und nicht aufgestanden ist und gesagt hat: Ist das jetzt wirklich the way to go?

Was mir in dieser Diskussion außerdem auffällt und was mir persönlich fehlt — vielleicht gibt es das schon —, ist so etwas wie eine Affekttheorie zu KI. Ich weiß, dass es relativ wenig Affekttheorie zum Faschismus gibt; es gibt einiges, aber nichts, was sich richtig durchgesetzt hätte, habe ich den Eindruck. Ich glaube, das wäre tatsächlich ein Punkt. Vielleicht renne ich damit auch offene Türen ein und es gibt schon wahnsinnig viel Forschung dazu, die ich nur nicht gefunden habe.

Roland Meyer: Zu Faschismus und Affekten fällt mir natürlich vor allem das tolle Buch von Simon Strick ein, Rechte Gefühle. Auch das neue Buch von Brian Massumi, das ich aber noch nicht gelesen habe. Aus einer medienwissenschaftlichen Perspektive steht das schon auf der Agenda.

Andreas Sudmann: Zumindest die ganze Frage der politischen Affekte ist in unserem Fach seit vielen Jahren sehr prominent vertreten. Anna Tuschling hat jetzt auch im Zusammenhang mit Gesichtserkennung theoretisch mit diesen Fragen von Affekt argumentiert. Da gibt es schon einiges, ein spannender Zugang ist es aber allemal.

Andererseits kann man es auch anders formulieren: Es geht ja auch um das Verhältnis von Rationalität und Irrationalität, auch in der Art und Weise, wie wir uns zu den KI-Modellen verhalten. Die Irrationalität ist ja interessanterweise immer das, was man als das so Menschliche hochhält gegenüber der vermeintlich kalten Rationalität der Maschinen. Und man könnte sagen, die Halluzination sei das Pendant, das — mutatis mutandis, das muss man hinzufügen — den menschlichen Irrationalitäten entspricht. Aber es ist doch etwas Unterschiedliches.

Expertise, Kritik und Kritiktraditionen

Andreas Sudmann: Eine grundsätzlich spannende Frage, die eben schon anklang, ist die nach dem Expertentum beziehungsweise dem kritischen Expertentum. Was mir ganz am Anfang der KI-Entwicklung auffiel, war die Geschwindigkeit, mit der plötzlich alle möglichen KI-Expertinnen und -Experten über maschinelles Lernen sprachen, auch und gerade in der Informatik, obwohl es überhaupt keine Tradition dieser Expertise gab. Nicht nur in Deutschland, auch in Europa und in den USA war die ML-Community, zumindest jene, die sich auf neuronale Netze spezialisiert hatte, eine relativ überschaubare Community. Und plötzlich, ab 2016, benannten sich alle möglichen Institute um, und alle möglichen Leute fingen an, Experten für neuronale Netze zu sein. Das ist vielleicht auch ein Phänomen, das eine kritische Reflexion verdient und vielleicht die Notwendigkeit unterstreicht, die Kritik der KI selbst wiederum kritisch zu beleuchten. Das betrifft ja im Übrigen auch die Kunst, die KI auf ästhetischem Terrain kritisch zu reflektieren versucht. Ich denke dabei an eine Ausstellung 2017 in New York, die ich seinerzeit besucht habe und die mit fragwürdigem Ansatz die Probleme der Gesichtserkennung veranschaulichen wollte. Das Problem damals war, dass man die Technologie, die man kritisch veranschaulichen wollte, zuallererst als Gegenstand der Kritik selbst erzeugt hatte, und das noch auf sehr intransparente Weise.

Man muss aufpassen, dass man im kritischen Diskurs die Technik nicht als Momentaufnahme essentialisiert, sodass bestimmte Probleme der Gesichtserkennung oder bestimmte Probleme der generativen KI immer als solche fortbestünden. Es findet ja durchaus statt, auch als Reaktion von Big Tech auf öffentlichen Druck, dass diese Probleme beherrscht oder beseitigt werden; es gibt also nicht immer einen ökonomisch oder politisch motivierten Widerstand dagegen. Den mag es auch geben. Aber eine solche Differenzierung ist wichtig, auch in der Art und Weise, wie man eine Kritik von Big Tech im Zusammenhang mit KI leistet. Ein Elon Musk steht ja für eine andere Form von Big-Tech-Industrie als, sagen wir, Google. Das hat sich durch Trump ein Stück weit verändert, durch die Anschmiegung an den veränderten Zeitgeist — das hat sicher stattgefunden. Aber ein etwas differenzierterer Blick ist auch auf der Seite der Kritik notwendig, sodass man nicht allen Informatikerinnen und Entwicklern, die für Big Tech arbeiten, unterstellt, sie bedienten eine problematische politische Ideologie. Ich versehe das mit einem Fragezeichen und mache hier den Advocatus Diaboli, nur im Sinne einer anderen Perspektive, die uns daran erinnert und dazu auffordert, selbstkritisch zu sein in Bezug auf die Anwendung des eigenen kritischen Blicks.

Grundsätzlich ist Kritik ja, schematisch betrachtet, in zwei Linien oder Traditionen zu sehen. Die eine käme von Kant her, die Aufklärung über Möglichkeiten, Bedingungen und Funktionen von Vernunft, oder eben in unserem Fall von Technologie, was ja quasi eine Perspektive ist, die wir in der Medienwissenschaft u.a. mit Kittler assoziieren, und dann gibt es ein ganz anderes Paradigma der Kritik, die Kritik als Einspruch, als Intervention, als normative Praxis, die man postkolonial ausformulieren kann, gendertheoretisch, oder von Marx und der Kritischen Theorie her; die hat ihrerseits ihre Berechtigung und Relevanz. Man hat also schon viel zu tun, all diese Kritiktraditionen auf KI zu beziehen und miteinander zu vermitteln. Ist das eine große Herausforderung, die verschiedenen Kritikperspektiven miteinander zu verbinden? Oder käme es eher darauf an — eine Frage wirklich an alle, primär aber an die Anwenderinnen hier —, sich an spezifischen Kritikprogrammen in einer bestimmten Tradition abzuarbeiten, sei es die Kritische Theorie, sei es Marx, sei es der Postkolonialismus? Was wäre da die Herausforderung, die ihr seht?

Thomas Klinkert: Ich wollte nur einen Punkt anfügen, einen Teilaspekt dessen, was du gesagt hast, der vorhin auch schon kurz anklang: Eine kritische Perspektive auf KI kann nicht ignorieren, dass es dabei auch um Geschäftsmodelle geht. Das wurde schon ein paar Mal gesagt, und es war ein Punkt, der in der Diskussion zwischen Kehlmann und Gabriel am Anfang sehr stark fokussiert wurde. Gabriel sagte: Es ist paradox, dass die Leute, die ChatGPT und ähnliche Programme nutzen — und zwar die professionellen Versionen, für die man bezahlen muss —, eigentlich für diese Programme arbeiten und noch dafür bezahlen, dass sie für sie arbeiten dürfen, indem sie Daten liefern, Korrekturen vornehmen und damit die Programme verbessern. Das heißt, die Leute sind Mitarbeiter dieser Programme und zahlen dafür, dass sie die Programme verbessern. Das muss man sich einmal klarmachen. Übertragen auf andere Verhältnisse: Wir arbeiten für jemanden und bezahlen dafür, dass wir für ihn arbeiten dürfen.

Jens Schröter: Das ist aber ein klassisches Phänomen der sozialen Medien.

Roland Meyer: Ja, das ist Ökonomie 101, so funktioniert es.

Thomas Klinkert: Aber es ist etwas, was man als Teil der Problematik dieser ganzen Entwicklung mitbedenken muss.

Roland Meyer: Das Beispiel ist insofern fast ironisch, als OpenAI trotzdem mit jeder Anfrage Geld verliert. Es ist ja nicht nur ein politisches Projekt fragwürdiger Zielrichtung, sondern als ökonomisches Projekt auch ein unglaubliches Hype-Projekt, das nur über endlose Expansion funktioniert und über die Idee, dass man diesen Schrott irgendwann in alles einbaut. Im Augenblick verdient OpenAI damit kein Geld — und Anthropic ebenso wenig. Sogar die hochpreisigen Abo-Modelle sind für sie Verlustgeschäfte. Es geht darum, den Hype am Laufen zu halten und Investitions- und Risikokapital aufzutreiben.

Jens Schröter: Und den Markt zu monopolisieren.

Roland Meyer: Genau. Es wird immer gesagt, das funktioniere ähnlich wie bei Plattformen. Es gibt Kritiker wie Ed Zitron, also Tech-Journalisten, die sagen: Nein, es ist wirklich noch krasser als alles Bisherige. Amazon hat zumindest bei jedem Buch, das es verkauft hat, genug Geld gemacht; als Ganzes haben sie lange kein Geld verdient, aber sie haben nicht mit der Nutzung ihrer Dienste Geld verloren. Das hier ist noch einmal eine neue Eskalationsstufe von „Wir pumpen einfach so viel Kapital hinein, bis wir so groß sind, dass niemand mehr an uns vorbeikommt“. Als Geschäftsmodell ist das schon speziell.

Thomas Klinkert: Aber das bestätigt doch, was ich sage: dass es eine sehr gefährliche Dimension hat, die wiederum auf Macht und Monopol hinausläuft und dann Faschismus generieren kann.

Roland Meyer: Auch ökonomisch gefährlich: Entweder platzt die Blase komplett, mit riesigen ökonomischen Folgen, oder sie wird durch politische Maßnahmen am Leben gehalten. Und die können sehr autoritär aussehen.

Thomas Klinkert: Und wenn dann noch dazukommt, dass die Algorithmen manipulierbar sind — wenn alle Leute erst einmal an so einem System hängen und dann jemand sagt: „So, ich entscheide jetzt, da kommt jetzt Hitler hinein“, was Herr Musk und Herr Trump ja bereits tun —, wo kommen wir denn dann hin? In welcher Gesellschaft leben wir dann? Wenn uns eine Pseudo-Intelligenz suggeriert wird, die uns manipuliert und uns falsche Aussagen als Wahrheit verkauft: Das könnte das Endstadium sein.

Jens Schröter: Um daran und an das anzuschließen, was Andreas gesagt hat: Als alter Marxianer bin ich über diese Entwicklung nicht sehr überrascht. Das ist eine neue Produktivkraft, die sich im Verlauf der industriellen Revolution herausbildet, und dass der Kapitalismus über die Produktivkraftentwicklung zur Monopolbildung neigt, ist eine Voraussage, die Marx vor 150 Jahren gemacht hat und die von der herrschenden Neoklassik mit Händen und Füßen bestritten wird, obwohl wir offensichtlich ein Oligopol im digitalen Bereich haben. Die herrschende Wirtschaftswissenschaft macht sich in meinen Augen lächerlich. Ich will jetzt nicht zu deterministisch aus ökonomischen Verhältnissen auf so etwas wie Faschismus schließen, aber wirklich überraschend finde ich das nicht.

Und daran wollte ich unbedingt noch anschließen, an das, was du gesagt hast: Diese Frage finde ich ganz wichtig — wieso machen die Leute das? Es hat natürlich auch eine ökonomische Motivation. Wir wollen wenig Arbeit investieren, wir wollen es schnell, und das ist keine Faulheit. Wenn jemand in einer Gesellschaft aufwächst, in der man von morgens bis abends darauf trainiert wird, dass am Markt nur die überleben, die möglichst effizient sind, dann internalisieren Studierende exakt diese Verhaltensweise und sagen: Wenn ich nur einen Knopf drücken muss und die Arbeit ist fertig, statt mich drei Wochen hinzusetzen, dann drücke ich eben den Knopf.

Mich überrascht das also nicht wirklich, und deswegen sehe ich es auch nicht als radikalen Umbruch, sondern als eine weitere Eskalation der technologischen Entwicklung des Kapitalismus, die seit der industriellen Revolution läuft. Es ist nur ein weiterer Schritt, mit immer ähnlichen politischen Erschütterungen, mal so, mal so; wir hatten schon einmal Faschismus in den 1920er Jahren, der war anders, der Hintergrund war anders. Ich bin da vielleicht ein bisschen resigniert, aber ich sehe leider, wie Marx es so schön gesagt hat, „die ganze alte Scheiße“. Von Christoph Hesse gibt es dazu einen sehr schönen Text, der heißt Neue Medien, alte Scheiße. Sehr empfehlenswert, wenn auch schon zwanzig, dreißig Jahre alt.

Insofern bin ich ganz bei dir: Es ist klar, dass die Leute so denken. Man müsste sie überzeugen, dass es im Studium nicht immer um Effizienz geht und darum, der Schnellste zu sein — auch wenn das schwer ist.

Josephine Diecke: Damit sind wir wieder beim Belohnungssystem und auch bei dem, was du angesprochen hast, bei der Generationenkomponente. Die jetzigen Entwicklungen betreffen ältere Menschen anders als jüngere, das muss man auch sagen: die Millennials, die Gen Z, die Generation Alpha, und inzwischen sind wir wohl bei Beta. Mich, und vielleicht auch uns, betrifft es anders. Interessant ist in dieser Runde auch die Differenz zwischen entfristeten und befristeten Anstellungen — und die Frage, was man heute anbieten können muss, um auf dem Markt zu überleben; bei den Studierenden ist das schon wieder die nächste Stufe.

Insofern ist es für mich eher eine Frage von „Don’t hate the player, hate the game“. Ich bin auch eine derjenigen, die dafür zahlt, sich selbst ausbeuten zu lassen — zum Teil aus demselben Grund wie in den DH: um mitspielen zu können, in einem Pool von Wissenschaftlerinnen und Wissenschaftlern, die überwiegend auf informatische Kompetenz setzen oder wollen, dass man in dieser Sprache redet. Und es ist ja nicht nur eine Skill-Frage — kann ich programmieren oder nicht, habe ich Zugriff auf Modelle —, sondern auch eine Frage der Kapazitäten: Habe ich das Personal, das mit mir zusammen etwas umsetzen kann? Selbst wenn ich programmieren kann, wird meine Arbeit komplett davon vereinnahmt, mich auf diesen Teil zu konzentrieren. Dabei möchte ich eigentlich noch über die Fragen sprechen, über die Analyse, über Interpretation. Das lassen wir dann alles außen vor, weil ich mich immer mehr mit den Grundlagen und, im besten Fall, mit Methodik auseinandersetze — eigentlich aber eher mit der Anwendung dessen, was andere sagen, was man machen müsse.

Beim Schreiben ist es ähnlich. Ich bin wieder beim Antrag: Warum sollte ich für andere so schreiben, wie sie es möchten, wenn das nicht mein Schreibstil ist? Aber es wird belohnt, wenn ich so schreibe. Wenn ich es also so mache, wie es der Computer macht — warum sollte ich es dann noch selbst machen? Dann lasse ich es doch gleich den Computer machen. Und das gilt nicht nur für Forschungsanträge, es gibt ja größere und kleinere Anträge, Abstracts, wo sich wirklich die Frage stellt: Investiere ich da jetzt acht Stunden? Ich sage nicht, dass das the way to go ist und wir alle keine Abstracts mehr schreiben sollten. Ich sage nur: Der Extremfall davon ist, dass wir verstehen, was von uns gewünscht wird — auch aus einer Qualifikationsperspektive — und wie ich am effizientesten dorthin komme. Entweder spiele ich mit oder ich spiele nicht mit. Und wenn man zu einer Digital-Humanities-Tagung geht, ist man nicht unbedingt am beliebtesten, je kritischer man ist, sondern eher dann, wenn man versucht mitzuspielen.

Jens Schröter: Das ist eine Ökonomisierung der Wissenschaft, oder? Würdest du das so sagen, durch den Einzug solcher Technologien?

Josephine Diecke: Ja, aber eben auch nicht erst seit gestern. Es ist auch eine klassistische Frage: Wieder Sprache — wer spricht welche Sprache, wer versteht welche Theorien, wer ist womit aufgewachsen? Das geht durch und durch.

Andreas Sudmann: Wobei das ja auch eine Frage von Ideologie ist: die Einschreibung von Ideologie in die Wissenschaft beziehungsweise die Schwierigkeit, Ideologie aus der Wissenschaft fernzuhalten. Besondere Interessen als allgemeine auszuweisen, ist nicht nur ein narzisstischer Impuls, sondern reagiert auf gesellschaftliche Verhältnisse und Zwänge.

Josephine Diecke: Um noch ein Beispiel zu nennen: Wenn ich mir aktuelle Ausschreibungen anschaue und eine Forschungsidee habe, die ich vor fünf Jahren so eingereicht hätte — die Ausschreibungen verändern sich ja auch. Momentan ist der Fokus ganz klar: alles mit KI, Hauptsache KI. Das ist schrecklich, aber es ist das, was gewünscht wird. Nun kann man sagen, man mache sich davon unabhängig, weil man für etwas anderes einsteht. Aber auch das muss man sich leisten können. Wenn ich sage: Gut, dann stelle ich diese Forschungsanträge eben nicht, weil die Linien alle auf KI ausgerichtet sind — wo bringe ich dann meine Forschung unter?

Elias Zimmermann: Beantwortet die Diskussion nicht auch ein Stück weit die Frage, die du gestellt hast, nämlich welche Form der Kritik überhaupt zielführend ist? Wenn ich es etwas plakativ machen will: Diese alte kantische Kritik der reinen Vernunft führt uns, glaube ich, nirgendwohin. Adorno und Horkheimer haben versucht, sie mit einem politisch-ökonomischen Argument zu koppeln, und sind zumindest in der Dialektik der Aufklärung in Resignation verfallen. Ich glaube — und das ist meine persönliche Lesart dieser Theorien —, was wir brauchen, sind Gegenmodelle, und zwar sprichwörtlich: Die Forschung sollte anfangen, resiliente eigene Sprachmodelle zu entwickeln, wie es in der Schweiz ja offenbar geschieht. Und es sollte Leute geben — die gibt es ja auch, politische Komiker wie Karpi —, die tatsächlich hinstehen und sagen: Ich mache etwas mit KI, aber eben nicht die faschistische Ästhetik; oder ich mache mich genau über die faschistische Ästhetik lustig und halte sie euch ins Gesicht.

Das sind für mich kritische Ansätze aus einer eher marxistisch geprägten, oft auch satirischen Theorietradition, die mir im Moment viel mehr Sinn ergeben als jenes Resignative: Wir sehen einmal mehr, wohin uns die Technik und der Aufklärungsglaube führen, nämlich in den Niedergang, und am Schluss landen wir logischerweise im Faschismus, weil die Aufklärung notwendig in eine Form des Totalitarismus führen muss. Das ist sehr, sehr vereinfacht gesagt. Adorno und Horkheimer haben für ihre Perspektive und in ihrer Argumentation immer wieder extrem wichtige Punkte herausgearbeitet, aber ein Problem ist eben, wo man von dort aus anfangen soll. Ich würde sagen: Wir bräuchten so etwas wie eine Gegenentwicklung, die sowohl technisch als auch theoretisch kritisch arbeitet.

Andreas Sudmann: Nur eine ganz kurze Fußnote dazu: Kritische Theorie betreibt man nicht als Pessimist, sondern immer als Quasi-Optimist. Anders ist sie gar nicht zu haben. Das Resignative war als Gestus natürlich offensichtlich, sonst wäre die Rezeption, die der Kritischen Theorie Kulturpessimismus zuschreibt — etwa was das Kapitel zur Kulturindustrie betrifft —, nicht so dominant gewesen.

Roland Meyer: „Wer denkt, ist nicht wütend“, heißt es bei Adorno sinngemäß. Aber ich weiß nicht, ob ich das unterschreiben möchte. Vielleicht ist die Wut ja genau das, was wir aktivieren müssten.

Propaganda, Affektpolitik und das Chatbot-Interface

Andreas Sudmann: Ich fasse den bisherigen Verlauf kurz zusammen. Wir haben angefangen bei der Überlegung zur Instrumentalisierung von KI für fragwürdige politische Zwecke — und umgekehrt.

Roland Meyer: Und der Instrumentalisierung der Politik.

Andreas Sudmann: Genau. Wir haben mit der Frage der Propaganda angefangen, die ja, wenn man wieder Adorno bemüht, gewissermaßen das Gegenteil von Ideologie ist: Im Faschismus braucht man keine Ideologie, da herrscht einfach rohe Gewalt, wenn man es plakativ formulieren will. Du kannst auch das absolut Irrationale als Realität verkaufen, du brauchst keine rationalen Argumente mehr. Und genau das macht Trump. Was wir sehen, ist ein Umschlagen von Ideologie — die eher ein Problem westlicher Demokratien ist, ideologische Verhältnisse — ins Absurde, sodass wir reine Propaganda vor uns haben und damit gewissermaßen ein Ende der Ideologie.

Dazu kommt die Relevanz von Affektpolitik: dass Politik sehr stark über Affekte funktioniert und so Mobilisierung hervorruft. Interessant ist das, wenn man es der auch im rechten Diskurs verbreiteten Klage gegenüberstellt, Dissens werde nicht mehr ausgehalten — ein Argument, das gegen linke Positionen, gerade im Bereich der Wokeness-Debatten, sehr verbreitet ist. Und seltsamerweise scheint das auch bei Leuten zu resonieren, die man nicht dem rechten Lager zuordnen würde.

Mit Blick auf die Geisteswissenschaften wäre es interessant, das auf die LLMs zurückzubeziehen, die uns vermeintlich mit dem Gestus des Abwägens gegenübertreten, des Alles-zur-Geltung-Kommen-Lassens, des Nicht-Vorverurteilens. Das ist zumindest bei bestimmten Modellen ein sehr ausgeprägter Gestus. Wie schätzt ihr das ein? Kann man den LLMs — wenn wir einen etwas wohlwollenderen Blick zugrunde legen, oder eben auch nicht — da etwas zugutehalten? Vielleicht als Korrektiv einer politischen Kultur, die sehr stark über das Nicht-Aushalten differenter Meinungen funktioniert. Wie kann man das beurteilen?

Roland Meyer: Ich weiß nicht, ob ich darauf eine Antwort hätte. Aber es bringt mich zu etwas, was ich vorhin schon sagen wollte, weil es genau die Frage betrifft: Was finden die Leute daran so attraktiv? Du hast es für die Studiensituation gut beschrieben. Aber wenn man einmal im Restaurant mithört, worüber die Leute reden — und auch, worüber sie mit ChatGPT reden: Leute nutzen das wirklich für persönliche Konversationen. Eine Anekdote aus zweiter Hand: die Geschichte eines Paares, das sich getrennt hat. Die beiden hatten denselben ChatGPT-Account, und sie findet dann heraus, dass er ChatGPT über seine Affäre befragt hat und darüber, wie er damit weiter verfahren soll. Die Leute vertrauen ihre privaten Geschichten diesem Chatbot an.

Und das ist letzten Endes keine Frage von Large Language Models, sondern eine Frage von Chatbots. Der Chatbot ist eine Designentscheidung. Wir haben Weizenbaum und andere, und wir haben auch in der Medienwissenschaft darüber geschrieben: Es ist eine Interface-Frage. Das ist vielleicht auch das Erste für die Medienkompetenz im Blick auf KI, noch einmal zu unterscheiden: Wo ist das Modell, auf welchen Stufen entsteht es, auf Basis welcher Trainingsdaten, mit welchen Formen von Human Feedback? Und was sind demgegenüber Designentscheidungen, die zum Beispiel auf der Interface-Ebene stattfinden? Offensichtlich ist dieses Chatbot-Interface, das ja arbiträr ist, weil LLMs alles Mögliche andere auch machen, so suggestiv, dass Leute es als ihre Psychotherapie benutzen, oder glauben, sie könnten damit mit Toten reden oder darin Gott finden — oder eben jener frühere Uber-Chef, der morgens um sechs mit seinem Chatbot über die ungelösten Probleme der Physik spricht. Das ging viral, weil es so besonders albern war: Der CEO, der noch vor dem Frühstück beim Plaudern mit dem Chatbot an die Grenzen der bekannten Physik vordringt.

Offensichtlich suggeriert also schon das Interface etwas, und dazu kommen diese spezifischen Designentscheidungen, dieses immer sehr Zustimmende, Wohlwollende. Ich habe das auch einmal ausprobiert, als ich unsicher war, wie ich etwas formuliert hatte. Natürlich findet es alles super, was ich formuliere; man könne es noch ein bisschen anders schreiben, aber eigentlich sei es schon toll. Und das ist natürlich angenehm. Das ist dann eben nicht der herrschaftsfreie Diskurs oder irgendetwas anderes, sondern die ständige narzisstische Bestätigung, die einem da entgegenkommt.

Josephine Diecke: Da würde man mit anderen sagen, du hättest falsches Prompt Engineering betrieben. Du kannst dem ja etwas anderes sagen; ich habe meinem gesagt: Rede nicht so mit mir.

Roland Meyer: Ja, das kann man so machen. Aber wollte ich das? Vielleicht wollte ich in dem Moment bestätigt werden. Und ich glaube, das ist ein Effekt, der durchaus verbreitet ist.

Josephine Diecke: Genau da wollte ich anknüpfen. Wenn man eine Lanze brechen möchte für ChatGPT oder andere chatbasierte Modelle, muss man sagen: Es ist immer für mich da — bei ChatGPT vielleicht so lange, bis die Bezahlschranke kommt. Aber genau das, diese Verfügbarkeit: Ich habe eine Frage, oder ich möchte mich austauschen, worüber auch immer; es ist da, ich kann etwas hineinschreiben und bekomme eine Antwort. Das geht sicherlich zusammen mit gesellschaftlichen Phänomenen der Vereinzelung und mit Social Media, wo man vor dem Telefon sitzt und hineinspricht oder es nur konsumiert.

Ich bin dann tendenziell auch eine derjenigen, die abends um zehn nach der Einschlafbegleitung noch einmal kurz überlegt: Wenn ich das jetzt so mache, vielleicht sollte ich da noch etwas umstellen, wie würde ich das machen? Und dann erreiche ich vielleicht keine Kollegin mehr, mit der ich mich sonst austauschen würde, und das stillt dann das Bedürfnis. Ich sage das aber aus einer eher explorativen, experimentellen Perspektive: Was kann es mir bieten und was nicht? Und auch aus einer sehr kritischen: Ich nehme das nicht als meinen Life Coach.

Roland Meyer: Kurz noch dazu, weil du das Explorative ansprichst; das würde ich in der Frage nach der Kritik und danach, wer sie leistet, noch einmal stärken wollen. Wir hatten Eryk Salvaggio, Künstler und Autor, im Frühjahr hier in Zürich, und wir hatten ein Brown-Bag-Gespräch an der ZHdK über KI in der Kunsthochschullehre. An Kunsthochschulen ist das Problem vielleicht weniger, dass die Studierenden KI nutzen, um zu täuschen, sondern eher, dass sie — aus guten Gründen, weil es existenziell bedrohlich für ihre künftigen Jobaussichten ist — einen extremen Widerstand gegenüber dieser Technik entwickeln. Und dem setzt Eryk, der super kritisch ist, den Ansatz von Nam June Paik entgegen: „I use technology in order to hate it properly.“ Man nutzt die Technologie, um besser zu verstehen, was man daran ablehnt. Das ist, glaube ich, etwas anderes als der DH-Ansatz; das ist ein bei Künstlerinnen und in einem eher hackerhaften Gestus verbreiteter Zugang: Wir wissen, warum wir das kritisch sehen, aber lass uns damit herumspielen und schauen, was dabei herauskommt, um es dann besser kritisieren zu können. Das finde ich legitim, und vielleicht kann man das in einer Aufklärung über den Umgang mit Chatbots und Sprachmodellen auch aktivieren.

Jens Schröter: Aber genau darüber denken wir ja nach, wie wir das in der Lehre machen.

Roland Meyer: Die Frage ist, wie es geht.

Jens Schröter: Genau, das ist mir noch nicht so richtig klar. Da bin ich für jeden Vorschlag offen. Noch einmal zu KI in den Wissenschaften: wenn man gar nicht die fundamentalen epistemischen Fragen stellt — kann man mit KI neue Dinge denken? —, sondern es wirklich auf Lehre und Ähnliches bezieht, ist das im Moment vielleicht sogar das konkretere Problem. Denn ich bin mittlerweile nicht mehr sehr überzeugt von dem Gedanken, dass mit jeder neuen Technik ein neues epistemisches Zeitalter anbricht. Das glaube ich einfach nicht mehr, so einfach ist es nicht. Was ich eher sehe, ist, dass es institutionelle Folgen hat. Und darauf habe ich, wie gesagt, keine Antwort; wir diskutieren noch.

Roland Meyer: Wenn jemand gute Ideen hat, gerne. Was automatisiert werden kann, sind vor allem die Textsorten, die schon stark formatiert, formalisiert und formelhaft sind, die einfach Genres sind: Antragstexte, aber natürlich auch die schlichte Zusammenfassung eines Textes, wie sie häufig als Aufgabe an Studierende gestellt wird. Aus dem angelsächsischen Raum kenne ich Aufgabenformate wie: „Describe something you learned from the lecture this week that you didn’t know just from the readings“ oder „Connect something you learned this week to something you’re learning in another of your classes this semester.“ Also kontextualisieren, individualisieren und vielleicht auch motivieren, das auf sich selbst zu beziehen. Das sind vielleicht brauchbare Strategien.

Josephine Diecke: Statt: „Fassen Sie die drei zentralen Aussagen zusammen“ — wobei sich ja auch fragen ließe, ob es für alle dieselben drei zentralen Aussagen sind — habe ich immer gefragt: Was haben Sie daraus mitgenommen? Was können Sie besonders bekräftigen? Wo würden Sie widersprechen? Das ist dann eigentlich das Interessantere, auch um darüber ins Gespräch zu kommen. Wir geben natürlich weiterhin Input und Kontext und sagen, wie man etwas einordnen sollte; aber die Relativität dessen, wo ich was wie einordne, sollte uns eigentlich permanent beschäftigen.

Epistemische Potenziale, Werkzeuge und Infrastrukturen

Andreas Sudmann: Wir sind inzwischen ein Stück weit übergegangen zur Frage der Anwendung und zu den epistemischen Potenzialen von KI. Du hast Adorno und die Dialektik der Aufklärung erwähnt, weil wir von der Kritik herkamen. Deren These lautet ja: Der Mythos enthält schon Aufklärung, historisch sehen wir in der Odyssee bereits das instrumentelle Denken angelegt, und historisch schlägt die Aufklärung dann in Mythos um, wofür der Faschismus das Paradebeispiel ist. Das ist in a nutshell die These der Dialektik der Aufklärung.

Auf KI bezogen zielte meine Frage darauf — sie wurde vorhin nicht ganz beantwortet, weil wir dann allgemein über Alltagsnutzungsmöglichkeiten von Chatbots gesprochen haben —, wie es eigentlich um die Dialektik des kritischen Denkens steht. In dieser komplizierten Gemengelage von Rationalität und Irrationalität laufen wir womöglich Gefahr, die Probleme, die uns als menschliche Gesellschaft auszeichnen, in der KI-Diskussion vor allem als Probleme der Technologie zu behandeln und nicht mehr als gesellschaftliche Probleme. Ist das ein Aspekt, den man ernst nehmen muss, oder wie seht ihr das?

Jens Schröter: Historisch war das ein Problem der Medientheorie: dass sie dazu geneigt hat, gesellschaftliche Probleme auf Medientechnologien zu projizieren. Die ganze klassische Kittler-Schule hat Ökonomie und gesellschaftliche Veränderungen ausgeblendet. Das ist ein Erbe, mit dem sich Teile der Medienwissenschaft heute herumärgern müssen. Ich finde es zwar richtig und wichtig, die Technik in den Blick zu nehmen, und es stört mich, wenn das vergessen wird. Aber man kann das nicht mehr so machen wie früher; ich glaube, Technik ist selbst immer schon ein ökonomisches und politisches Gebilde gewesen. Deswegen ist mein Versuch, Medienarchäologie mit marxistischer Theorie zu verbinden — für mich ist das die Antwort darauf. Muss nicht richtig sein. Aber das ist etwas, was zumindest ein Teil der Medienwissenschaft durch die Theoriegeschichte mitgeschleppt hat und was erst in den letzten Jahren aufgebrochen werden musste. Das nur als theoriehistorische Fußnote.

Roland Meyer: Das hat sich ja auch ein Stück weit verflüchtigt, in verschiedener Hinsicht.

Jens Schröter: Das Problem ist bloß: Wenn sich das zu sehr verflüchtigt, gibt es keine Existenzberechtigung mehr für das Fach. Dann geht es in den Kulturwissenschaften auf, fertig, und dann braucht man keine Medienwissenschaft mehr.

Roland Meyer: Diese Entwicklung gibt es ja, das kann man zum Teil beobachten. Aber man kann auch fragen, was Kulturwissenschaft ist, wenn sie nicht auch Medienwissenschaft ist. Das ist eine ähnliche Frage, wie Andreas sie gestellt hat.

Jens Schröter: Ich bin dafür, dass man das Kind nicht mit dem Bade ausschüttet, dass man die technische und die technikhistorische Kompetenz behält. Dass man nicht sagt: Weg mit diesem Kittler-Determinismus — und dann findet gar keine Beschäftigung mit Technik mehr statt, sondern man ist nur noch bei den Inhalten und der Frage, ob sie die richtige politische Färbung haben oder nicht, und niemand beschäftigt sich mehr damit, woher diese Technik kommt und wie sie funktioniert. Das ist meine Position.

Elias Zimmermann: Die Open-Source-Community macht ja so viel, und ich glaube, die wäre auch sehr offen für solche Argumente, weil sie sie selbst trägt, nur eben nicht auf einer hohen theoretischen Ebene. Das Krasse ist, dass Open Source heute — je nachdem, mit wem man spricht — eben nicht zwingend mit den Informatikerinnen und Informatikern verhandelt wird, die die Tools wirklich machen. Die wären eigentlich total für Open Source zu haben. Aber auf höherer Flughöhe will man es dann monetarisieren.

Wir haben gestern viel über Transkribus gesprochen. Das ist ein großes Konglomerat von Universitäten, die im Moment die beste Handschriftenerkennung zumindest für Deutsch, Englisch und Französisch entwickelt haben, und zwar mithilfe eines Transformer-Modells. Sehr viele Leute aus dem DH- und dem Informatikbereich haben daran mitgearbeitet, und auf der unipolitischen Flughöhe hat man dann gesagt: Okay, wir müssen das jetzt monetarisieren. Und jetzt ist es ein monetarisiertes Ding, das zwar noch den Universitäten gehört, aber an andere Forschende verkauft wird.

Das ist ein sehr spezifisches Problem, aber ich habe ein bisschen Angst, dass die Entwicklungen, die ich derzeit für positiv halte — dass wir von der ETH, von den Hochschulen große LLMs mitentwickelt bekommen —, am Ende wieder darauf hinauslaufen: Ja, aber an irgendeinem Punkt müssen wir doch wieder eine Zahlschranke einführen. Da muss man politisch etwas tun, und ich denke vor allem an diejenigen, die stabilisierte Stellen haben, dass die hoffentlich mitdenken und nicht einfach sagen: Das ist Blödsinn, wir benutzen diese LLMs ohnehin nicht. Die Frage ist: In wessen Händen bleibt das offen? Wie konstituiert man so große Forschungsprojekte oder Strukturen überhaupt, damit sie das bleiben? Das sind große Fragen.

Jens Schröter: Wir müssen in unserem medienpraktischen Bereich jetzt Schritt für Schritt auf Open-Source-Software umstellen, weil wir die Lizenzen der Softwarefirmen nicht mehr bezahlen können. Das ist mittlerweile so teuer für uns; unser Etat in Bonn ist im Moment etwas wackelig. Es geht einfach nicht mehr.

Josephine Diecke: Das eine ist es mit LLMs, aber gerade aus der Videoanalyse gilt: Epistemische Medien oder Tools, wie wir sie jetzt nennen möchten, werden meist in bestimmten Projektkontexten entwickelt. Das Projekt endet, die Finanzierung endet — wer kümmert sich um die Weiterentwicklung? Mit Weiterentwicklung meine ich nicht einmal den Ausbau, sondern dass es auf einem gewissen Stand erhalten bleibt. Das ist nicht finanzierbar, wenn es nicht irgendwo institutionell angebunden ist. Und dann braucht es wieder eine Rechtfertigung, warum gerade dieses Medium und nicht etwas anderes, denn es könnten ja zehn andere neue Sachen entwickelt werden. Das ist das permanente Dilemma dieser Arbeit. Man könnte sagen: Open Source ist die Lösung. Aber dann entwickelt man etwas Open Source in der Forschung, und die politische Dimension kommt hinein, meistens auf höherer Ebene angesiedelt.

Ich verantworte selbst eine Tool-Entwicklung, nicht nur bin ich daran beteiligt. Wir haben uns bewusst dafür entschieden, mit der TIB Hannover zusammenzuarbeiten, weil es dort eine Infrastruktur gibt und ich davon ausgehe, dass es anders angebunden ist, als wenn ich hier Entwicklerinnen und Entwickler für sechs Monate angestellt hätte. Zum einen hätte es das Wissen aus früheren Projekten nicht gegeben, zum anderen wäre es danach nach einer gewissen Zeit einfach wieder in sich zusammengesackt. Aber die TIB wird jetzt auch gebeten, bestimmte Schranken einzuführen — nicht für unser Tool, sondern für ihr automatisches Erkennungstool für Videoanalyse. Denn dann kommt Speicherplatz hinzu, überhaupt die Verarbeitung und Prozessierung von Daten; je mehr Leute das nutzen, desto stärker stellt sich das Problem, dass sie sich dazu verhalten müssen. Und zack, sind wir wieder nicht mehr im Open-Source-Bereich.

Oder andersherum: Das andere Modell ist, dass man ein Tool anbietet, aber nicht die Nutzenden damit arbeiten lässt, sondern das Team, das dieses Tool anbietet — was dann wieder eine Black Box erzeugt. Es basiert eigentlich auf Open Source und auf dem Gedanken freier Wissenschaft. Aber man lässt die Leute dann in Forschungsanträge schreiben, dass sie Geld dafür bekommen, damit dieses Team beauftragt wird, Daten zu verarbeiten. Es sind aber nicht die Forschenden selbst, die diese Daten verarbeiten. Auch da würde ich sagen: Das ist der Trend. Ich sage nicht, dass es so bleiben muss, aber das ist es, was passiert.

Und auch da stellt man sich schwer dagegen. Wenn man einen Antrag für ein neues Tool oder für eine Komponente schreibt, ist es nicht beliebt, wenn man sagt: Es gibt schon dieses eine, und ich möchte darauf aufbauen; das ist vielleicht eine minimale Anpassung, aber sie wird sehr viel verändern, für die Usability zum Beispiel. Bei uns ist gerade Thema, dass wir alle KI-Komponenten tatsächlich wieder herausgenommen haben, weil wir gesagt haben: Es braucht eigentlich ein stabil laufendes Tool, in dem Menschen mehr manuell annotieren können. Aber das ist nicht der Trend.

Jens Schröter: Da möchte ich nachhaken, weil das ein interessantes Projekt ist. Ihr habt die KI-Komponenten herausgenommen — warum?

Josephine Diecke: In den früheren Versionen von VIAN gab es Gesichtserkennung, damals ein Deep-Learning-Modell, um Figur und Grund für die ästhetische Analyse trennen zu können.

Jens Schröter: In einer Filmsequenz.

Josephine Diecke: Genau, in einer Filmsequenz; es geht um Filmanalyse, ein ganz konkreter Fall aus der Farbanalyse, weil man vielleicht den Vordergrund oder den Hintergrund analysieren möchte. Als es dann darum ging, VIAN zu erhalten, war klar, dass die Codebasis, auf der es aufbaut, so nicht bleiben kann. Wir müssen es umstrukturieren, webbasiert und so weiter. Und dann stellt sich die Frage, was wir wieder integrieren können oder wollen. Und damit wieder: Welches Modell, wie lange taugt es, und wie gut ist es eigentlich für welche Anwendungsfälle?

Wir haben uns dazu mit Teilen der film- und medienwissenschaftlichen Community ausgetauscht: Wenn ihr ein Video-Annotations-Tool für die Filmanalyse verwenden wollt, was braucht ihr eigentlich? Das Feedback war auf einer sehr niedrigschwelligen Ebene: Es muss laufen, ich muss es öffnen können, und es darf mir keine Fehlermeldung anzeigen — also das, was man von Apps gewohnt ist, im Unterschied zu Software. Und dann muss es das umsetzen können, wonach ich suche. Wenn ich eine Gesichtserkennung habe, aber mit Figur-Grund-Trennung, die vielleicht nur für ganz wenige Anwendungsfälle relevant ist, dann interessiert mich das nicht. Für uns war es also wieder eine Frage von Aufwand und Nutzen, und wir sind auf ein minimales Feature-Set heruntergegangen: Es muss zeitbasiert Text und Bild annotieren können, und es gibt nur zwei Erkennungen, nämlich Schnitt und Screenshots.

Jens Schröter: Ihr habt die KI-Komponenten also auch herausgenommen, weil sie zu ressourcenintensiv waren bei zu wenig Ertrag?

Josephine Diecke: Ja, man müsste sie auch ständig überarbeiten und ständig überprüfen, was noch state of the art ist und ob es noch das Modell ist, das wir brauchen. Parallel dazu gibt es inzwischen Tools, die das können und sich das bewusst auf die Fahne schreiben, etwa die TIB Hannover mit dem TIB-AV-A: Wir möchten alles state of the art an Bild- und Mustererkennung integrieren. Und deswegen haben wir gesagt: Dann macht ihr das doch, und wir machen das andere.

Jens Schröter: Eine Arbeitsteilung.

Josephine Diecke: Genau. Die Idee ist auch, dass daraus ein Toolkit entsteht, in dem Nutzerinnen und Nutzer im besten Fall sagen können: Ich beginne damit, bestimmte Dinge automatisch erkennen zu lassen, kann dann aber in meinem Workflow manuell Dinge anpassen. Oder ich sage: Das taugt alles nichts, was automatisch geht, also arbeite ich lieber manuell weiter und gebe es dann wieder zurück in das automatische Tool, weil ich vielleicht doch noch eine Idee habe. Es geht also eher darum, sich an individuelle Workflows und Use Cases anzupassen, an das, was die Nutzenden brauchen, als darum, jetzt unbedingt alles zu integrieren, was KI ist.

Jens Schröter: Eine gute Beschreibung dessen, was da passiert, wäre wohl: Ausdifferenzierung der Tools. Man hat nicht mehr ein Tool, das alles kann, sondern man differenziert verschiedene, spezialisierte Tools, von denen einige auf maschinellem Lernen basieren und andere nicht.

Josephine Diecke: Ja, es geht definitiv gegen One size fits all. Es soll nicht ein Tool alles können, aber auch nicht zu speziell sein — wir kamen zum Beispiel aus der Farbanalyse, und dann war klar, dass es dafür nicht so viele Anwendungsfälle geben wird. Das eher als Template zu begreifen und in Zukunft, wenn wir es wieder integrieren können, bestimmte Visualisierungen für Farbe anzubieten. Dafür ist die Finanzierung gerade nicht da. Also braucht es je nachdem eine Spezialisierung von Tools — vielleicht eher Spezialisierung als bloße Ausdifferenzierung. Wobei die Spezialisierung ja auch darin bestehen kann, möglichst breit nutzbar zu sein.

Anwendung, Automatisierung geistiger Arbeit und die Frage der Intelligenz

Andreas Sudmann: Ich schaue auf die Uhr — wir sind schon fast anderthalb Stunden dabei. Vielleicht können wir den Anwendungsaspekt, der etwas untergegangen ist, noch einmal verdichten und ein paar interessante Punkte hervorheben: was die Nutzung von KI für die Geisteswissenschaften attraktiv, interessant, vielleicht auch problematisch macht — und zwar nicht in ganz grundsätzlicher Hinsicht, sondern eher im Detail, bezogen auf die täglichen Forschungsprobleme, mit denen man konfrontiert ist, und nicht im Sinne der umfassenden Gesellschaftskritik, über die wir jetzt viel gesprochen haben.

Thomas Klinkert: Ich würde einen Anwendungsaspekt benennen, den ich gut finde und der in Zukunft, glaube ich, verallgemeinerbar sein wird, und dem einen grundsätzlichen Aspekt gegenüberstellen, der auch schon anklang, als von Affekten die Rede war: Man unterhält sich mit seinem Chatbot, man verliebt sich sogar, wie ich gehört habe; das soll schon vorgekommen sein. Damit verbunden wäre die dystopische Frage der Überschreitung des Menschlichen durch Maschinen. Leute, die sich auskennen, sagen ja, man verstehe gar nicht, wie sie wirklich arbeiten. Da ist also etwas, was wir erzeugt haben, was jetzt Intelligenz weiterentwickelt, sodass aus dem Menschlichen heraus etwas Neues entsteht. Und das kann dystopisch enden; man kennt das aus Science-Fiction-Filmen, aus 2001: Odyssee im Weltraum, wo die künstliche Intelligenz entscheidet, was gemacht wird, und nicht mehr der Mensch.

Wenn man diese beiden Aspekte zusammennimmt: Ich persönlich bin beunruhigt, ich habe auch Angst, ich will mich gar nicht zu sehr damit beschäftigen, weil ich Angst habe vor der Erkenntnis, dass es manches viel besser kann als ich selbst. Ich will das gar nicht wissen. Ich glaube nach wie vor, humanistisch: Nein, ich kann es besser. Ich kann Proust besser lesen als eine KI. Das glaube ich, und ich hoffe, dass ich recht habe. Aber die Anwendbarkeit kann mir sehr helfen, wenn ich sie als Heuristik verwende, wenn ich Stellen bei Proust suche, die ich auf die Schnelle nicht selbst finde, weil das Werk sehr umfangreich ist. Da hilft mir die KI, sie findet mir die Textstellen, und dann kann ich sie lesen, vergleichen und interpretieren. Und mutatis mutandis kann man Handschriften entziffern und tausend Dinge machen. Im Sinne einer Dienstleistung kann man davon einen Nutzen haben.

Aber im Sinne einer Intelligenz, die letztlich den Menschen abschafft — ich sage es jetzt ganz hart —: Das ist ja auch etwas, was in Arbeitsabläufen teilweise schon so ist. KI-Agenten heißt das jetzt, das habe ich neulich im Deutschlandfunk gehört; KI-Agenten sind schon in Business-Abläufen drin, und damit spart man Arbeitsplätze. Damit werden Menschen überflüssig gemacht.

Jens Schröter: Das ist aber auch nichts ganz Neues.

Thomas Klinkert: Ja, das gibt es schon lange. Aber vielleicht kommt jetzt eine exponentielle Dynamik hinein, und es werden wirklich sehr viele Menschen arbeitslos. Vielleicht am Ende sogar wir. Wir schaffen uns selbst ab.

Jens Schröter: Dann hätte die KI am Ende dem Marx’schen Maschinenfragment recht gegeben. Da steht nämlich drin: Wenn der Mensch sich nur noch als Wächter und Regulator zum Produktionsprozess verhält, bricht die auf dem Tauschwert beruhende Produktion zusammen — ein paar Auslassungen mittendrin. Und es steht im Maschinenfragment von 1857. Das finde ich ziemlich erstaunlich.

Thomas Klinkert: Und das ‚weiß‘ die KI. Die kann das zitieren.

Roland Meyer: Na ja, beim Zitieren wird sie manchmal ein bisschen unscharf. Aber wir halluzinieren ja auch beim Zitieren aus dem Gedächtnis.

Elias Zimmermann: Das große Gegenargument gegen Marx war ja immer: Ja, aber das werden dann alles Denkarbeitsprozesse, wir gehen weg von der Arbeit an der Maschine, am Schluss sind wir alle nur noch Manager. Und das Verrückte ist — deswegen ist diese Angst auch so bezeichnend, und vielleicht gerade bezeichnend für unser Milieu —, dass jetzt plötzlich Geistesarbeit automatisiert werden soll. In gewisser Hinsicht holt es uns wieder ein; das Gegenargument ist zumindest in dieser Hinsicht entkräftet.

Roland Meyer: Ich frage mich schon, ob Geistesarbeit automatisiert wird oder ob ihre Produkte simuliert werden. Was bei Large Language Models und Ähnlichem tatsächlich passiert, ist ja nicht, dass simuliert wird, wie menschliches Denken funktioniert oder wie Entscheidungsprozesse funktionieren, sondern es werden über Mustererkennung Dinge produziert, die so ähnlich aussehen wie das, was es schon gibt. Das ist immer vom Ergebnis her und nie vom Prozess her gedacht.

Deswegen bleibt es eine — von vielen schon angenommene, aber unabschließbare — Aufgabe für die Geisteswissenschaften, auch die Intelligenzideen zu kritisieren, die da drinstecken. Es ist vielleicht mehr als nur ein Wortspiel, wenn man sagt: Wenn bei AI von „Intelligence“ die Rede ist, dann vielleicht eher im Sinne von Military Intelligence. Es geht nämlich um Datensammlung und Datenauswertung im großen Maßstab. Wir müssen uns „die“ KI — was ohnehin eine mehr als fragwürdige Formulierung ist — nicht als Quasi-Subjekt vorstellen, sondern eher als große Bürokratien, von denen wir auch nicht wissen, wie sie funktionieren; vielleicht auch in Analogie zu Märkten, das ist ein altes Argument. Das sind große arbeitsteilige, kulturell-sozial-technische Komplexe, die etwas produzieren, was dann durchaus epistemischen Wert haben kann. Deswegen sind sie aber weder quasi-menschliche Intelligenzen noch ganz andere, fremdartige Intelligenzen, wie man sie derzeit gerne im Kunstbereich feiert.

Jens Schröter: Alien Intelligence.

Roland Meyer: Ja, ganz fürchterlich. Das wäre noch einmal ein eigener Punkt: wie KI gerade im Kunstbereich als nahezu gottähnlich mystifiziert wird. Oder eben im Sinne von: Es gibt so viele unterschiedliche Intelligenzen auf dem Planeten, die Pilze, die Tiere, die Regenwälder — und eben auch die KI. Das ist ein falsch verstandener Haraway-Bezug, ein Hyperrelativismus. Inzwischen gibt es ganze Ausstellungstexte in diesem Duktus. Okay, jetzt werde ich polemisch …

Jens Schröter: Ich kann gut verstehen, dass dich das nervt.

Thomas Klinkert: Mein Wissen beziehe ich ja aus der Literatur. Ich weiß nicht, ob jemand diesen Roman kennt: Maniac von Benjamín Labatut; es gibt ihn auch auf Englisch, der Autor ist Chilene und hat ihn selbst sowohl auf Englisch als auch auf Spanisch geschrieben, man muss ihn also nicht auf Spanisch lesen. Die Hauptfigur ist John von Neumann, es geht hauptsächlich um von Neumann und um sein Denken, aber im letzten Kapitel geht es dann auch um das Programm, mit dem man das Go-Spiel so gut oder besser spielen kann als die besten Go-Spieler.

Roland Meyer: Die Go-Geschichte ist doch eigentlich ein Beispiel für Deep Learning in den 2010er Jahren?

Thomas Klinkert: Die Idee gab es schon früher; es ging um einen englischen Schachspieler, der sie hatte und der das dann entwickelt hat. Das ist im letzten Kapitel. Und die ursprüngliche Idee stammte von Neumann: dass Programme sich als lernende Systeme selbst schreiben. Die 100 Milliarden möglichen Spielkombinationen bei Go sind ja ein Vielfaches dessen, was im Schach möglich ist, weil es im Go nur eine Art von Figur gibt. Im Schach gibt es verschiedene Figuren, und da kann man sagen: Der Springer kann nur diese eine Bewegung machen. Dadurch ist die Anzahl der möglichen Bewegungen viel eingeschränkter als beim Go. Deshalb konnte man einen Computer nicht so programmieren, dass ihm alle Möglichkeiten eingegeben wurden, sondern er musste wie ein echter Go-Spieler lernen und einschätzen: Wenn das Feld mit diesen und jenen Steinen belegt ist, was ist dann ein wahrscheinlicher Zug, mit dem ich möglicherweise Erfolg haben kann? Das beschreibt Labatuts Roman. Technisch konnte ich es nicht nachvollziehen, dafür fehlt mir das Wissen, aber die Logik auf einer Metaebene habe ich verstanden: Programme, die sich selbst etwas beibringen können. Und das geht schon sehr nah an die Definition dessen heran, was Intelligenz ist. Es ist eine Form von Intelligenz, auch wenn es für uns schmerzhaft ist: Maschinen, die wie Menschen lernen können.

Begriffsarbeit: Was heißt eigentlich „KI“?

Andreas Sudmann: Wir waren jetzt zum Schluss bei einer anwendungs- und nutzerorientierten Perspektive und sind doch wieder bei ganz grundsätzlicher Kritik gelandet, auch der des Vokabulars. Vielleicht ist das eben der geisteswissenschaftliche oder kulturwissenschaftliche Blick. Vielleicht ist es aber auch ein Problem, dass die ganze Auslotung epistemischer Potenziale so sehr von Big Tech besetzt und überhöht wird, dass es für Anwenderinnen in den Wissenschaften schwierig geworden ist, die epistemischen Potenziale sachlich und kritisch herauszustellen. Man hat immer das Gefühl, man brauche zuerst die große Gegenrede gegenüber all der Mystifizierung, die von Big Tech betrieben wird. Das ist vielleicht auch Teil des Problems und macht die Arbeit schwierig.

Gibt es denn jenseits deines Arbeitsbereichs etwas, wo du sagen würdest: Da zeigen sich Potenziale von KI, die meine Arbeit als Wissenschaftlerin unterstützen oder ermöglichen können? Also jenseits des sehr konkreten Anwendungskontextes, in den du involviert bist, und abgesehen davon, dass wir vielleicht alle einmal ChatGPT oder andere Modelle für Fragen nutzen, die uns interessieren.

Ein weiterer Punkt zum Abschluss: Diese ganze Frage der Anwendung von KI wird derzeit sehr stark vom Diskurs der generativen KI überlagert. Die Anwendung von KI wurde ja schon sehr facettenreich diskutiert und problematisiert, bevor ChatGPT auf den Markt kam. Heute geht es in fast jeder Diskussion primär um die großen Sprachmodelle — und natürlich um Multimodalität, worüber wir noch nicht gesprochen haben. Das ist noch einmal eine andere Form von epistemischem Potenzial, aber auch sie ist sehr stark von Big Tech besetzt. Das betrifft dich mit deiner Expertise als Bildwissenschaftler: diesen ganzen Diskurs der Multimodalität, der ja ebenfalls im Hinblick auf seinen Nutzen für konkrete Forschungsfragen zu befragen ist. Man könnte dem ja durchaus ein Erkenntnispotenzial zuschreiben, wenn es etwa um Bildanalysen, um Visualisierungsstrategien oder um Wissenstransfer geht. Darüber haben wir eigentlich nicht gesprochen. Sprechen wir nicht darüber, weil es so sehr Teil des allgemeinen Diskurses ist, oder haben wir schon genug darüber gesprochen? Geht die Kritik unter?

Roland Meyer: Ich finde die Begriffsfrage schon wichtig. Diese spezifische Idee davon, was generative KI sei und — am schlimmsten — was eine künftige „AGI“ sein soll, wie sie von all diesen Leuten verkauft wird, hat natürlich formatiert, was man sich unter KI vorstellt. Gleichzeitig wird alles, was an spezialisierten Anwendungen von Machine Learning in ganz bestimmten Feldern existiert, in einer sehr unscharfen Weise darunter subsumiert. Vielleicht muss man daher erst einmal begrifflich aufräumen und nicht von KI als diesem seltsamen Sammelbegriff sprechen, der einerseits Projekte wie das von OpenAI umfasst und andererseits sehr lokale, kleinteilige Machine-Learning-Anwendungen zur Mustererkennung, die auch sinnvolle Anwendungsfälle haben. Sonst wird ständig das eine genutzt, um das andere zu rechtfertigen. In Diskussionen über KI und digitalen Faschismus etwa kann man darauf wetten, dass früher oder später die Proteinfaltung als positives Gegenbeispiel genannt wird. Aber die ist eben kein Grund zu sagen: ChatGPT ist auch super, und wir sollten Sam Altman noch mehr Milliarden für OpenAI geben. Wir sollten also sortieren: Was sind nicht nur verschiedene Anwendungsfälle, sondern ganz unterschiedliche Projekte, die sich damit verbinden? Dieses sehr große Label AI, an dem alle partizipieren wollen, ist da häufig eher irreführend.

Andreas Sudmann: Auch wir haben ja von „der KI“ gesprochen. Es passiert so schnell und ist so verbreitet.

Jens Schröter: Das VW-Programm, in dem unser Projekt läuft, hieß ja auch „Artificial Intelligence and Society“. Da wird das ebenfalls erst einmal als großes Label darübergesetzt. Wie du schon sagst, Josi: Das zieht dann eben. Aus anderen Bereichen gibt es das genauso. Mir hat jemand gesagt: Es ist völlig egal, was sie machen — sie müssen „Quantum Computing“ draufschreiben, damit es bewilligt wird.

Andreas Sudmann: Mit KI wird das dieser Tage nicht mehr so einfach funktionieren. Dafür machen es zu viele.

Josephine Diecke: Wenn eine Ausschreibung „Artificial Intelligence for Creative Industries“ heißt, dann muss das innovative Element, das vielleicht gar nichts mit algorithmischer Erkennung oder Deep Learning zu tun hat, entweder versteckt werden, damit es trotzdem gemacht werden kann, oder der Fokus verschiebt sich wieder auf andere Bereiche.

Ich sehe es so: Ja, wir müssen differenzieren und sagen, das ist dieser Begriff, und eigentlich sprechen wir von etwas anderem. Aber währenddessen wird alles andere ja schon gemacht. Für mich gehen da sehr schnell die Pole auf. Einerseits ist es richtig, die Debatten zu führen: Wo kommt es her, ist es gut oder schlecht, sollte man es überhaupt machen? Andererseits sollte man eben nicht nur die Pole aufmachen — soll man alles blind anwenden oder gar nicht und sich dagegenstellen? Interessant ist, was dazwischen passieren kann.

Wir hatten zum Beispiel auf der DHd — der Jahrestagung der Gesellschaft für digitale Geisteswissenschaften im deutschsprachigen Raum — 2022 ein Panel dazu, wo eigentlich die Potenziale von Machine und Deep Learning stehen; also kurz bevor ChatGPT kam. Da ging es genau um die Nutzung von Mustererkennung, in dem Fall wieder für die Videoanalyse. Da hatten wir schon das Problem, und das war damals schon meine Antriebskraft: Ich kann das ja alles gar nicht erst nutzen, wenn ich keinen Zugriff darauf habe — ob das nun am Code liegt, am Programmieren oder an den Modellen. Es ist wieder eine Frage des Zugriffs. Und wenn ich es wirklich gut nutzen möchte, würde ich sehr gerne selbst ein Modell trainieren, das genau die Muster erkennt, nach denen ich suche. Damals wurden Kolleginnen von Informatikerinnen und Informatikern ausgelacht, die sagten: Für 200 Bilder stehe ich nicht auf und mache ein Modell.

Und jetzt wird es durch die Debatten so gehijackt mit KI im Sinne von LLMs, generativer KI, dass der Diskurs erst einmal lautet: Es hat so viel Potenzial, weil jeder Zugriff hat, etwas damit zu machen. Und gleichzeitig heißt es dann wieder: Ja, aber es kann nicht so gut Texte schreiben wie ich. Anstatt wirklich darüber zu sprechen, was es hieße, mit der KI zu schreiben. Also: Ich lese mit der KI Proust. Was hieße dieses „mit“? Nicht: Ich lasse die KI lesen, oder ich lese; und es ist auch nicht nur Suche. Das fände ich eigentlich spannend zu besprechen.

Gleichzeitig sehe ich komplett das Dilemma, die kognitive Dissonanz — darüber haben wir gestern auch gesprochen: Wenn ich es benutze, betrete ich in diesem Moment das Territorium der Auswirkungen für Mensch und Natur, Umweltverschmutzung, Wasserressourcen, Clickwork, den ganzen ethischen, politischen, kulturellen Diskriminierungskomplex. Und das eine geht nicht wirklich ohne das andere. Wie gehen wir damit um? Ist das Resultat dann wirklich, dass wir komplett Nein sagen? Aber es wird ja gleichzeitig gemacht.

Roland Meyer: Man sollte die Option, Nein zu sagen, nicht sofort verwerfen, bevor man sie einmal durchdacht hat. Ich will dir das gar nicht unterstellen. Man könnte doch einmal die Debatte führen: Was hieße es, sich zu verweigern?

Josephine Diecke: Genau, aber ganz konkret, mit Beispielen von denen, die hier sitzen: Wie kann ich Nein sagen und gleichzeitig Finanzierung für das bekommen, was ich eigentlich machen möchte, wenn ich nicht auf einer entfristeten Stelle sitze und es mir leisten kann, Nein zu sagen? Und im Umkehrschluss: Wie viele müssten Nein sagen, um wirklich auch für andere etwas verändern zu können? Bleiben wir bei der Tool-Entwicklung: für manuelle Annotation zu argumentieren, weil wir wollen, dass unsere Studierenden das Sehen lernen — und Sehen heißt eben nicht nur, eine Kategorie vorgegeben zu bekommen, sondern es ist auch ein Austausch. Auf dieser niederschwelligen Ebene arbeite ich daran. Aber ich habe kein Unterstützungssystem, um so zu unterrichten oder ein solches Tool zu entwickeln; ich kann das nur machen, weil ich das Geld bekommen habe — vielleicht auch, weil ich etwas anderes versprochen habe. Das sind ganz reale Dilemmas.

Roland Meyer: Ich meinte das mit dem Neinsagen auch nicht auf einer individuellen Ebene. Das ist kein individuelles Problem, sondern eine Frage von Institutionen und der Frage, wie man in den Institutionen darüber redet. Wie die Diskussion an einer Universität stattfindet und wie man mit Leuten umgeht, die sagen: Wir brauchen jetzt die KI, um die Studierenden im Studium zu begleiten und ihnen zu erklären, welche Seminare sie besuchen sollen. Auf solche Ideen kommen die Kolleg*innen ja manchmal.

Jens Schröter: Nur als Anekdote: Bei einer Diskussion im vergangenen Jahr sind einige Kolleginnen und Kollegen aufgestanden und haben gesagt: Ich will das nicht, ich will damit in Ruhe gelassen werden. Lasst mich bitte damit in Ruhe. Also schon ziemlich aggressiv.

Roland Meyer: Die sich das leisten können.

Jens Schröter: Die sich das leisten wollen. Es ist so, als hätte man gefragt: Wollen Sie nicht ein paar Vogelspinnen in Ihrem Büro halten? — Lassen Sie mich bitte damit in Ruhe.

Lehre, Studium und der Umgang der nächsten Generation

Thomas Klinkert: Die Realität ist doch jetzt genau die, dass wir von nun an Studierende haben werden, die das in der Schule normalisiert haben. Die haben ihre Referate und alles von ChatGPT machen lassen; die kommen jetzt zu uns. Die bisher da waren, hatten das noch nicht. Ich sehe das ja: In jedem Seminar, das ich halte, lasse ich ein Protokoll schreiben, auch in Zürich, und die machen alles auf Französisch. Und ich sehe, dass es echte Protokolle sind, weil sie nicht perfekt sind. Sie sind gut geschrieben, alle können recht gut Französisch, aber sie machen natürlich Fehler. Wenn sie es von ChatGPT hätten machen lassen, wäre es perfekt gewesen. Vielleicht gibt es auch schon Tools, bei denen man das Mobiltelefon einschaltet und dann alles aufgezeichnet wird und —

Roland Meyer: Ich dachte, das machen wir hier gerade.

Thomas Klinkert: Meine machen das jedenfalls nicht, es ist noch menschlich gemacht. Aber in zwei, drei Jahren werden nur noch welche da sein, für die das die Normalität ist. Und da müssen wir Bescheid wissen und es ihnen erklären und sie abholen und sagen: Passt auf, ihr habt das bisher so gemacht, aber hier machen wir es anders, hier haben wir kritisches Denken, hier überprüfen wir die Quellen, hier glauben wir nicht blind. Altersmäßig könnte ich es mir leisten zu sagen: Lasst mich in Ruhe, in fünf Jahren bin ich pensioniert. Aber ich nehme es doch ernst.

Josephine Diecke: Darf ich nachfragen, warum es für die Schülerinnen und Schüler, die aus der Schule kommen, der Standard ist? Ich würde zwei Dinge entgegnen. Das eine: Nur weil ein Computer besser Go spielen kann als ich, heißt das nicht, dass ich nicht weiterhin Go spielen kann und dass es nicht Spaß machen kann, Go zu spielen. Ähnlich ist es mit unserer Verantwortung — in dem Fall der des Schulsystems —, da gegenzusteuern und zu fragen: Warum benutzen sie jetzt ChatGPT, wo dürfen sie das? Auch da wieder eine Reflexionsebene ins System einzubinden.

Und was die Studierenden angeht, die zu uns kommen: Ich würde auch da nicht nur die Skala aufmachen zwischen Studierenden, die es benutzen, und solchen, die es nicht benutzen. Es ist eben unsere Verantwortung, uns dazu zu verhalten, und nicht nur denen zu sagen, die es richtig benutzen können. Ich komme wieder zur Belohnung zurück: Was ist denn das Gute daran? Ein Protokoll zu schreiben hat ja ein anderes Ziel als die bloße Zusammenfassung, es hat auch mit dem Denken durch Schreiben zu tun und damit, sich Gedanken darüber zu machen, was gerade gesagt wird und wie ich das verkürzen würde. Niemand nimmt uns, das als Kompetenz zu erhalten und zu sagen: Das ist die Aufgabe, es geht hier nicht um das Resultat.

Thomas Klinkert: Genau darum geht es. Aber die Realität ist doch, dass es Studierende gibt — nicht alle; es gibt immer welche, für die es eine Abdankung wäre zu sagen, ich lasse das jetzt schreiben, weil sie es lieber selbst können wollen, und die wird es auch immer geben —, die sagen: So viel Zeit habe ich nicht, außerdem arbeite ich noch, also lasse ich das schnell machen. Und die damit auch kein Problem haben, kein deontologisches Problem. Die muss man aber auch erkennen; es gibt sie, und es werden mehr werden. Da müssen wir helfen oder dagegen arbeiten. Wir müssen sie aufklären und sagen: Es ist nicht gut, wenn ihr das macht, weil ihr euch damit simuliertes Wissen aneignet.

Josephine Diecke: Ja, oder eben auch wieder mehr Methodenreflexion: Was wollen wir eigentlich, was kann man von einem Studium erwarten? Es studiert ja niemand nur, um den Arbeitsmarkt zu erobern — auch wenn mir das selbst so gesagt wurde; ich habe ja ebenfalls Französisch studiert. Aber dann sind wir wieder in dem Problemsystem drin: Wo wird wie gelernt, mit KI umzugehen, oder eben auch nicht? Das ist wie mit den Digital Natives: Woher sollen sie ihre Sozialisierung mit digitalen Medien nehmen, wenn sie sie nicht bekommen haben, außer dass sie sie benutzen?

Ich finde, da ist total viel Potenzial für uns, uns wieder darauf zu besinnen, was wir hier anbieten können — zum Teil auch mit den Technologien, aber eben nicht nur auf sie bezogen. Das führt auch dahin zurück, nicht alles nur auf die Technologie zu schieben. Es ist nicht nur die Generation, die mit ChatGPT aufwächst, es ist auch die Generation, die mit der Pandemie groß geworden ist. Das ist die Generation, die gelernt hat, dass sie allein gelassen wird: der jahrelang gesagt wurde, ihr müsst euch so und so vorbereiten, damit ihr Arbeit findet und im Leben zurechtkommt — und die dann während dieses Ausnahmezustands komplett hängengelassen wurde, weil plötzlich alles nicht mehr so zählte wie vorher. Das ist natürlich auch die Generation, die Gefahr läuft, wenn sie allein gelassen wird, auf das zurückzugreifen, was ihr als die schnellstmögliche Lösung erscheint. Aber dann dürfen wir es eben nicht dabei belassen, dass das das einzige Problem ist, das alle adressieren. Das wollte ich noch anmerken: Es ist nicht nur die Generation, die mit Technik groß wird, sondern auch die, die mit einem bestimmten sozialen, politischen, ökonomischen und kulturellen Umfeld groß wird.

Roland Meyer: Mit einem krisenhaften Umfeld, ja.

Elias Zimmermann: Manchmal erinnert mich das Ganze an den Diskurs der Nullerjahre: Benutzt ja nicht Wikipedia! Das sagen meine Söhne mir immer noch — sie haben einen alten Knochen als Lehrer, der kürzlich gesagt hat: Benutzt ja nicht Wikipedia. Und sie fragten mich: Sagst du das deinen Studis auch? Ich glaube tatsächlich, zumindest bei uns in den Geisteswissenschaften habe ich den Eindruck, dass man mit Wikipedia einen Umgang gefunden hat. Eben weil es immer gesagt wurde und weil mir irgendwann nach den Nullerjahren etwas Besseres gesagt wurde beziehungsweise ich es besser gelernt habe: dass ich Wikipedia auf eine bestimmte Art und Weise nutzen und sehr viel daraus holen kann, aber natürlich nicht zitieren darf, sondern überprüfen muss, was wirklich in den Quellen steht.

Manchmal habe ich ein bisschen die Hoffnung — vielleicht bin ich da total naiv —, dass es auch bei diesem Studierendenproblem, das größer ist als das mit Wikipedia und bei dem es sicherlich länger dauern wird, trotzdem einen Umgang geben wird. Denn ChatGPT wird nicht in der Lage sein, eine gute Hausarbeit über ein spezialisiertes Thema zu schreiben, wie ich sie als Literaturwissenschaftler von einem Studierenden haben will. Das wird schlichtweg nicht gehen.

Jens Schröter: Ich kann mir auch nicht vorstellen, dass man damit in absehbarer Zeit einen wissenschaftlichen Aufsatz generieren kann, der einer Prüfung standhält. Womöglich mit genug Überarbeitung.

Elias Zimmermann: Mit genügend Überarbeitung bekommt man etwas Genügendes oder Gutes hin, aber das hat eben mit der Überarbeitung zu tun.

Andreas Sudmann: Es gibt natürlich schon zahlreiche Beispiele, insbesondere von Vorträgen, die durchgegangen sind und vollständig KI-generiert waren, auch in den Naturwissenschaften, überall. Das ist schon passiert. Ich bin nicht so weit drin, all die Fallbeispiele aufzuarbeiten, wage aber die Behauptung, dass diese Täuschung mit KI längst gelingt. Zumal ich auch im Umfeld von Forschungsanträgen mit Kollegen aus der Physik zu tun habe, die ja ebenfalls keine trivialen Gegenstände haben, was Erkenntnisprozesse betrifft. Auch dort ist es gang und gäbe, dass Forschungsanträge zu großen Teilen mit KI geschrieben werden. Vielleicht nicht ausschließlich, also nicht zu hundert Prozent, aber zu einem erheblichen Teil. Natürlich ist das immer die Erzählung: Ein Freund oder ein Kollege hat mir erzählt, man ist es nie selbst. Aber offensichtlich hat es stattgefunden. Insofern ist dieser Drops unter Umständen schon gelutscht.

Elias Zimmermann: Aber wer es mit dem Know-how, das er oder sie sich doch irgendwie angeeignet haben muss, schafft, einen KI-generierten Text so weit zu bringen, dass etwas Gutes daraus wird, der hat eben doch schon das geistige Werkzeug beieinander. Und ich gehe stark davon aus, dass die Physikerinnen und Physiker, die solche Anträge einreichen, das können. Und meine Studis: Wenn sie das schon können, dann sind sie schon verdammt weit. Wenn sie es nicht können, dann wird mir das auffallen.

Thomas Klinkert: Da glaube ich auch noch an mich. Das ist wie beim alten Meister, der sein Atelier hat, Michelangelo, und dann hat er seine Schüler, die für ihn schon vorarbeiten, und er kommt und macht nur noch die Veredelung, die Perfektionierung, la griffe du maître. So arbeite ich ja auch mit DeepL: Ich habe ganze Bücher übersetzt, aus dem Deutschen ins Französische oder Italienische, und habe dann natürlich Satz für Satz nachgearbeitet. Am Ende ist es mein eigenes Französisch oder mein eigenes Italienisch, aber eben auf der Basis einer Rohübersetzung. Und das ist wahnsinnig zeitsparend.

Jens Schröter: In fünf oder zehn Jahren sind diese generativen Systeme auch nur ein weiteres Aufschreibesystem. Über die Textverarbeitung hat sich Sebald in den 90er Jahren noch aufgeregt, man könne ja am Computer keinen Roman schreiben. Und dreißig Jahre davor hieß es, man könne mit der Schreibmaschine keine Philosophie schreiben, das gehe nur mit der Hand.

Roland Meyer: Und heute lachen wir darüber. In der New York Times gab es einen Artikel darüber, wie KI die Geschichtsschreibung verändern könnte — im Sinne der populären, aber auch der akademischen Geschichtsschreibung. Unter anderem wurde Fred Turner besucht, der für sein neues Buch tatsächlich ChatGPT genutzt hat: Er hat sich ein hundertseitiges Outline zusammenfassen lassen und verschiedene Kapitelstrukturen durchspielen lassen; er findet das super. Die Kolleg*innen, auch durchaus sehr erfolgreiche, sind da also schon mittendrin, ihren Workflow zu entwickeln.

Jens Schröter: Irgendwann stehen wir dann vielleicht wieder unter dem Konkurrenzdruck, das auch zu machen, weil die Kollegen plötzlich pro Monat ein Buch herausbringen und wir nur eines im Jahr.

Roland Meyer: Irgendwann müssen sie es auch noch lesen. Am Ende schreibt die KI, und die KI liest.

Thomas Klinkert: Da sind wir wirklich bei Borges.

Elias Zimmermann: Eigentlich sollte sie meine Wäsche waschen.

Roland Meyer: Ganz witzig ist auch, dass Turner zitiert wird mit dem, was ChatGPT für ihn geleistet hat: Es habe eine Art middlebrow voice gefunden. Er war auf einer Messe und musste jemandem erklären, wovon sein Buch handelt, und genau das hat ChatGPT ihm geliefert — ein Verkaufsargument, eine Durchschnittlichkeit, eine Zusammenfassung für Leute, die vom Thema nicht viel Ahnung haben. Das fand ich als Erfahrungsbeschreibung interessant.

Elias Zimmermann: Das ist ja auch ein Kehlmann-Thema. Kehlmann wird ja immer vorgeworfen, er habe so einen Middlebrow-Stil, einen deliterarisierten Stil, der höher wirkt, als er letztlich ist.

Jens Schröter: Ähnlich wie das, was Baßler mit dem Midcult gemacht hat, diese ganze scharfe Kritik.

Elias Zimmermann: Ja, aber sein Stil selbst wird von der Literaturwissenschaft durchaus so eingeordnet.

Roland Meyer: „Geschrieben wie KI-generiert“ ist ja inzwischen auch schon ein beliebter Vorwurf. Das kommt immer wieder, bei ganz unterschiedlichen Texten.

Andreas Sudmann: Eine Hermeneutik des Verdachts, die gerade Konjunktur hat.

Schluss

Andreas Sudmann: Wir merken jedenfalls, dass die Diskussion auf ihr Ende zusteuert. Und um im literarischen Register zu bleiben: Wir sehen betroffen den Vorhang fallen und alle Fragen offen.

Mit Blick auf die Zeit ist es natürlich schade, dass wir das eine oder andere nicht vertiefen konnten. Aber ich glaube, wir haben spannende Aspekte beleuchtet und dabei durchaus auch eine vertiefende Perspektive gehabt. Und es ist ja immer interessant zu sehen, welche Themen innerhalb einer Diskussion nicht besonders anschlussfähig sind und welche einen besonders bewegen; auch das ist ein wichtiges Ergebnis einer solchen Diskussion.

Ich danke euch allen für die Teilnahme und werde euch zeitnah darüber unterrichten, wie die LLMs auf unser Gespräch, auf unsere Diskussion reagiert haben. Der Ausgang ist wirklich offen.