ChatGPT in der universitären Lehre: Fluch oder Segen? Eine Informations- und Austauschveranstaltung

OpenAIs Chatbot ChatGPT ist in aller Munde. Beschworen werden die Potenziale, beklagt die Herausforderungen – dabei geht es nicht nur um die Auswirkungen auf die Arbeitswelt wie wir sie heute kennen, sondern auch um die schulische und universitäre Lehre. Unklar ist, ob und wie wir Verfahren der „Künstlichen Intelligenz“ sinnvoll in die Lehre einbinden können. Was bleibt, wenn Maschinen das Schreiben von komplexen Texten übernehmen? Ist damit das Ende von schriftlichen Hausarbeiten eingeleitet? Oder befreit uns die „KI“ vielleicht auch von ermüdenden, repetitiven Arbeiten und schafft uns Raum für tiefergehenden Kompetenzerwerb?

Diesen und ähnlichen Fragen widmete sich die Informations- und Austauschveranstaltung „ChatGPT – Fluch oder Segen generativer KIs für die universitäre Lehre?“, die von AI-SKILLS, dem Scholarly Makerspace (FuReSH II) und der Professur für Digital History mit freundlicher Unterstützung des Berliner Zentrums für Hochschullehre am 17. Januar 2023 an der Humboldt-Universität zu Berlin ausgerichtet wurde. An die 250 Teilnehmer:innen fanden sich virtuell und vor Ort ein, um über die neuen technologischen Entwicklungen zu diskutieren. Dass auch ein Team des RBB zugegen war, zeigt eindrücklich, wie groß das Interesse und der Bedarf an einem Austausch ist.

Eine Umfrage unter den Teilnehmenden gleich zu Beginn der Veranstaltung, die von Martin Dröge und Lilian Löwenau (beide AI-SKILLS) moderiert wurde, zeigte, dass der Textgenerator an sich durch die öffentliche Berichterstattung gut bekannt ist. Weniger bekannt ist hingegen oft, wie die dahinterstehende Technologie eigentlich funktioniert, deren Potenziale und Risiken in etwa gleich hoch von den Anwesenden eingestuft wurden (siehe Abb. 1). Einleitend bot Till Grallert (Scholarly Makerspace) daher zunächst eine Einführung in das Tool und seine technischen Grundkonzepte.

Wie ChatGPT funktioniert

ChatGPT ist ein im November 2022 von OpenAI als Prototyp veröffentlichter Chatbot, der nutzer:innenseitige Texteingaben (Prompts) verarbeitet und darauf bezugnehmend eine möglichst inhaltlich relevante Konversation imitiert. Dazu wird ein optimiertes GPT-3-Modell (Generative Pre-Trained Transformer)[1] genutzt, das auf Konzepten des Deep Learning und der Transformer-Modelle basiert. Hierbei wird ein sogenanntes künstliches Neuronales Netz, das besonders gut für die Verarbeitung von sequenziellen Daten wie Texten geeignet ist, auf Basis eines riesigen Datensatzes von mehreren Terabytes trainiert. In der Regel handelt es sich hierbei um Textdaten, die überwiegend aus dem World Wide Web zusammengestellt wurden.

Durch dieses Training „lernt“ das Modell, Muster und Strukturen zu identifizieren. Dadurch ist es in der Lage, Textoutput zu generieren, der der menschlichen Schreib- und Denkweise täuschend ähnlich ist. Die Transformer-Architektur sorgt dabei dafür, dass das Modell den sprachlichen Kontext von Wörtern „versteht“ und Vorhersagen darüber treffen kann, welche Wörter typischerweise in einer Textsequenz aufeinander folgen und somit in einem kontextuellen und letztlich semantischen Zusammenhang stehen. Das ermöglicht, individuelle Texteingaben maschinell zu analysieren und passgenaue Antworten automatisiert entsprechend der Datenbasis zu generieren. Optimiert wird dieser artifizielle „Lernprozess“ durch konstantes menschliches Feedback, das es jetzt, durch die kostenlose Nutzung des Services in großem Umfang gibt: Nach nur fünf Tagen hatte der Dienst bereits eine Millionen Nutzer:innen – Tendenz steigend.

Zu berücksichtigen sei allerdings, wie Till Grallert hervorhob, dass Modelle – und das gelte auch für Sprachmodelle – als theoretische Konzepte immer nur ein Abbild der Realität darstellen und einen bestimmten Zweck erfüllen sollen, in diesem Fall die Generierung menschenähnlicher und plausibler Texte. Die Gesamtheit der Eigenschaften des abzubildenden Gegenstands wird dabei stets auf einen wesentlichen Kern reduziert; insofern seien Modelle – auch dann, wenn sie auf gigantischen Mengen von Daten basieren – nie allgemeingültig.

TL;DR: Kurz gesagt handelt es sich bei ChatGPT um einen ChatBot auf Grundlage eines großen Sprachmodells (auch Large Language Model [LLM] genannt), der eine Transformer-Architektur, Deep-Learning-Techniken und riesige Datenmengen nutzt, um menschenähnlichen Text zu generieren. ChatGPT kann für vielfältige Anwendungsszenarien genutzt werden, etwa zur Erzeugung spezifischer Textsorten, Übersetzung, Zusammenfassung von längeren Texten, zur Erstellung und zum Debugging von Code, aber auch zur Generierung von Antworten auf komplexe Fragen.

ChatGPT – ein „Bullshit Artist“

Nach der technischen Einführung übernahm Jan Krämer (AI-SKILLS) die Rolle des Skeptikers und verglich die aktuellen Sprachmodelle, insbesondere ChatGPT, mit Harry Frankfurts Konzept des allgegenwärtigen “Bullshit”.[2] Laut Krämer kennzeichne “Bullshit”, dass es nicht um Wahrheit oder Lüge gehe, sondern um die Wahrung eines bestimmten Scheins. Im Gegensatz dazu seien Lügner:innen sich der Wahrheit bewusst und entschieden sich vorsätzlich gegen sie, während “Bullshit Artists” im Moment der Äußerung gegenüber der Wahrheit indifferent seien, da sie sich nur um den Eindruck kümmerten, den sie auf andere machen.

Krämer zufolge treffe dies auch auf Textgeneratoren wie ChatGPT zu, die derzeit noch kein Konzept von Wahrheit integriert haben, sondern so trainiert wurden, dass ihre generierten Antworten den Schein der Plausibilität und Menschenähnlichkeit wahren. Das sei besonders problematisch, da die Daten von denen der mögliche Horizont von Antworten abhängt, nicht öffentlich einsehbar sind und eine Falsifizierung daher nur möglich ist, wenn die Nutzer:innen eine entsprechend kritische Distanz wahren und ausreichend Kenntnisse zur Einordnung der generierten Ergebnisse mitbringen. Denn wenn ChatGPT zu bestimmten Themen oder Personengruppen keine Daten gesehen hat, sind die Antwortmöglichkeiten stark eingeschränkt. Bestenfalls weist das Modell die Nutzer:innen darauf hin, schlimmstenfalls werden falsche oder irreführende Informationen angeboten, wie die konkreten Beispiele zeigten, die Anna Faust (AI-SKILLS) und Sophie Eckenstaler (Schorlarly Makerspace und Professur für Digital History) vorstellten.

ChatGPT in der schulischen und universitären Lehre

Anna Faust präsentierte mit einem Übungskonzept von H. Haverkamp zunächst beispielhaft Anwendungsmöglichkeiten für den Deutschunterricht hinsichtlich des argumentierend-erörternden Schreibens (siehe Abb. 3). Für die Bearbeitung von Aufgaben, die die Argumentationskompetenz der Schüler:innen schulen sollen, könnten ganz bewusst KI-basierte Textgeneratoren eingesetzt werden. Es sei jedoch wichtig, dass die Schüler:innen den Einsatz transparent machen und kritisch hinterfragen, zum Beispiel in Bezug auf reproduzierte Stereotypen, die Aktualität der Daten oder die Qualität der unterstützten Sprachstufen. Ein solches offenes Lernsetting kann die Schüler:innen dazu ermutigen, auch andere Textgeneratoren zu recherchieren und zu nutzen, die für bestimmte Anwendungsfälle besser geeignet sein könnten. So würden nicht nur die Argumentationsfähigkeiten, sondern auch die Medien- und Methodenkompetenzen der Schüler:innen gestärkt.

Sophie Eckenstaler widmete sich demgegenüber einem Beispiel aus dem universitären Bereich. Sie prüfte, ob der Chatbot dazu in der Lage ist, wissenschaftlich zu arbeiten (siehe Abb. 4). Dazu bediente sie sich eines Anwendungsfalls aus den Geschichtswissenschaften. Die generierte Antwort erwies sich dabei zunächst als gut strukturiert und im Duktus angemessen, auch formal gab es zunächst nichts zu beanstanden: Im Text wurden Anmerkungen gesetzt und am Ende entsprechende Literaturangaben referenziert. Auf der sprachlich-formalen Ebene erwies sich die Antwort gemessen an der Kürze des Textes also als durchaus solide. Inhaltlich hingegen gab es gravierende Mängel: Die Ausführungen im Text, so Eckenstaler, fielen hinter den Forschungsstand zurück und anders als der Textgenerator behauptete, handelte es sich auch um einen gut erforschten Gegenstand. Besonders schwer fiel die angegebene Literatur ins Gewicht, bei der es sich nicht um wissenschaftliche und vor allem veraltete Titel handelte. Unter den Angaben fanden sich zudem politisch problematische, die entsprechend zu kontextualisieren wären und eine der Literaturangaben existierte schlicht nicht; sie wurde aus belegbaren Daten frei zusammengestellt.

Das zeigt sehr eindrücklich, so Eckenstaler, dass ChatGPT zwar sehr gut dazu in der Lage sei, Texte zu generieren, die den Vorgaben der Nutzer:innen entsprechen, nicht aber darin, diese Texte zu verstehen und zu falsifizieren – zumindest noch nicht. Die generierten Texte seien plausibel, aber nicht zwangsläufig auch wahr.

ChatGPT – Wie nun damit umgehen?

Torsten Hiltmann (Professor für Digital History) führte abschließend die verschiedenen Diskussionspunkte zusammen und betonte, dass die Anwendung und Diskussion von Textgeneratoren möglichst informiert und methodisch reflektiert erfolgen sollte. Er machte deutlich, dass wir hinsichtlich der Verwendung von generativer KI erst am Anfang einer Entwicklung stünden und insbesondere, wenn es um ihren Einsatz in der universitären, aber auch schulischen Lehre gehe, sollten wir dabei wichtige Schlüsselfragen im Blick behalten. So wäre etwa zu fragen:

1. Wie transparent sind die einzelnen Angebote? Wie genau wurden die jeweiligen Modelle trainiert und auf welche Fähigkeiten hin wurden sie optimiert? Auf welcher Datengrundlage wurden sie trainiert und wurden hier bspw. Gewichtungen vorgenommen? Und vor allem: Werden die Trainingsdaten und Modelle zur freien Verfügung gestellt? 
2. Wie genau gestaltet sich zukünftig der Zugang zu diesen Angeboten? Werden diese auch weiterhin frei verfügbar sein, oder nur in begrenztem, kostenpflichtigem Maße? Was bedeutet das für die Gesellschaft im Allgemeinen und die Bildungslandschaft im Besonderen, wenn der Zugriff auf diese Technologien nur jenen vorbehalten ist, die über die dazu notwendigen Ressourcen verfügen? Denn unklar ist bislang, wie sich das Business-Modell von OpenAI entwickeln wird, das – anders als der Name vermuten lässt – in Teilen auch eine For-Profit-Organisation ist, die ihre Technologien eben nicht unter freien Lizenzen zur Verfügung stellt und dafür exklusive Kooperationen mit Firmen wie Microsoft unterhält. Insofern gelte es auch zu beobachten, wie divers das Feld der Anbieter ist und dafür Sorge zu tragen, dass sich nicht auch hier wieder eine Monopolstellung einzelner bzw. weniger Firmen entwickelt.
3. Daran schließt sich die Frage an, wer künftig die Hoheit darüber haben wird, auf welchen Daten die Modelle aufbauen und, wenn an weitere Anwendungskontexte gedacht wird, was dann als gesichertes Wissen gilt. Denn Texte, auch KI-generierte, so Hiltmann, seien immer Interpretationen. Insofern sei es wichtig, die Modelle dahingehend zu hinterfragen, in welche Richtung diese trainiert wurden und ob sie damit ganz bestimmte Perspektiven einnehmen beziehungsweise Interpretationen anbieten – was für die Wissenschaft wie für die Gesellschaft als Ganzes zu weitreichenden Konsequenzen führen würde, bieten die Chats doch grundlegend eben nicht mehr die Möglichkeit bzw. Notwendigkeit, zwischen verschiedenen Antworten auswählen zu müssen, sondern schränken durch das Dialogische den Antwortrahmen erheblich ein. Mit den neuen Technologien gehen also weitreichende epistemologische und ethische Herausforderungen einher, denen wir uns als Gesellschaft wie auch als Wissenschaftler:innen stellen müssen.
4. Und schließlich stellen sich auch Fragen des Datenschutzes und der Privatsphäre noch deutlicher als bisher, geben wir als Nutzende über unsere Prompts doch noch deutlich mehr Informationen über uns preis, über unsere Fragen, die Art, wie wir Gedanken entwickeln oder auch über unser individuelles Schreibverhalten, was auch die Möglichkeit eröffnet, Kommunikation und Schreibstil einzelner Personen digital zu klonen.

Auf die universitäre Lehre bezogen, würden sich darauf aufbauend vor allem folgende Fragen stellen:

1. Sollen wir diese neuen Verfahren verbieten; sollen wir sie dulden oder sollten wir sie gestaltend in unsere Lehre einbinden?
2. Welche konkrete Einsatzszenarien gibt es eigentlich, sowohl für die Studierenden wie für die Lehrenden? Bislang werde die Diskussion sehr allgemein geführt und damit zum Teil an der Realität vorbei. Um die Lage tatsächlich angemessen bewerten zu können, müsse man sich anschauen, an welchen Stellen und in welcher Weise sich diese Verfahren tatsächlich sinnvoll einsetzen lassen.
3. Darauf aufbauend könne man dann auch fragen, welche konkreten Kompetenzen Studierende (und Lehrende) benötigen, um kritisch und reflektiert mit diesen Tools umgehen zu können, und wie man diese am besten vermitteln kann. 
4. Und schließlich: Müssen wir in Reaktion auf diese Entwicklungen unsere Kompetenzmodelle und Prüfungsformate ändern und anpassen und wenn ja, wie? Vielleicht hat es ja auch seine Vorteile, hier noch genauer zu differenzieren und z.B. das Verfassen lesbarer Texte (Hausarbeiten) von der Wissenreproduktion (Klausuren) und der Kompetenz, Fragestellungen und Problemlösungssstrategien zu entwickeln (mündliche Prüfungen) noch klarer zu trennen.

Sicher sei, so Hiltmann, dass diese Technologien so schnell nicht mehr verschwinden und wichtiger Bestandteil der Arbeitswelt unserer Studierenden sein werden. Daher müssen wir Wege finden, solche Entwicklungen sinnvoll in unsere Lehre zu integrieren. Dafür aber braucht es zuallererst klare Policies und damit für Studierende wie für Lehrende einen sicheren Rahmen, in dem sie sich bewegen können.

---

Galerie

---

Anmerkungen:

[1] Noch in diesem Quartal soll die nächste Generation, GPT-4, offiziell an den Markt gehen.

[2] Harry Frankfurt, On Bullshit, Princeton: Princeton University Press 2005.

---

---

---