Die textgenerative Software ChatGPT des US-amerikanischen Unternehmens OpenAI hat sich so schnell verbreitet wie noch keine Technologie zuvor in der Geschichte. Doch ebenso rasant sprachen sich in Medien, Politik und am Stammtisch Halbwissen und Bullshit über ChatGPT und sogenannte Künstliche Intelligenz im Allgemeinen herum. Sich einiger dieser Irrtümer gewahr zu werden, sollte von ausgesprochenem Interesse für all diejenigen sein, die dieser Technologie als mündige User gegenübertreten wollen.
Schon wenige Wochen nach dessen Einführung hyperventilierte man in Lehrerzimmern und unter Hochschulpersonal, dass sämtliche Lernaufgaben, Leistungskontrollen und schriftliche Abschlussarbeiten bis hin zu wissenschaftlichen Fachpublikationen bald nicht mehr fair bewertet werden könnten, wenn sie in Teilen oder in Gänze von generativer Künstlicher Intelligenz erzeugt würden. Gewieftere Kolleginnen scherzten, dass man sich dann auch gleich alle Mühen sparen könnte, indem man die Bewertung selbst an die KI abträte. Besonders besorgte Universitäten geben schon erste prüfungsrechtliche Hinweise bekannt und die Präsidentin des Bayerischen Lehrer- und Lehrerinnenverbandes, Simone Fleischmann, eine weltbekannte KI-Expertin, weiß schon »ganz genau, wie man KI in ein gutes Bildungssystem integrieren kann«, und fordert, dass die »Leistungsmessung« sich deshalb nun ändern müsse.
Auch außerhalb des Bildungswesens schallten die immer fortgesetzten, nie aufhörenden Vorschläge zur Abschaffung jeglicher Formen von anspruchsvollem Denkhandwerk durch die Meinungskorridore: Ob journalistisch, poetisch, belletristisch, übersetzend, lektorierend, berechnend, bürokratisch, wissenschaftlich oder codierend – große Sprachmodelle wie ChatGPT beherrschten das alles, und zwar viel korrekter und viel zeitsparender als wir. Wenig verwunderlich ist also, dass dieses Märchen besonders in Management-Etagen gut ankommt, und wir können uns darauf einstellen, dass es schon bald als bequemer Vorwand für weitere Arbeitszeitverdichtungen, Lohnkürzungen, Entlassungen und sonstige Schweinereien zur Rentabilitätssteigerung dienen darf.
Insbesondere jetzt, wo Mark Zuckerbergs »Metaverse« in die Hose gegangen ist, ächzt der Technologiemarkt unter der wachsenden Skepsis der Investoren, die auch inflationsbedingt ihr Risikokapital zurückhaltender verteilen. Man sehnt sich nach einer neuen Technologieblase und Möglichkeiten, noch mehr Produktivität aus den arbeitenden, erst recht aus den kreativen Menschen herauszupressen, denen man kürzlich noch zutraute, gegen Automatisierung gefeit zu sein. Dass die große Mehrzahl der Menschen für (wenn überhaupt) einen Mindestlohn harte, ätzende und oder unnütze Arbeit fürs Kapital verrichtet, während Chatbots Gedichte für uns schreiben und Text-zu-Bild-Generatoren malen dürfen, ist jedenfalls keine Zukunft, die wir uns wünschen können. Ich wollte wirklich lieber dichten.
Abseits der Meinungskorridore weisen indes nur wenige Kundige auf all die realen Schäden hin, die sprachbasierte Künstliche Intelligenzen bereits anrichten und weiter anrichten werden, wie latente und manifeste Formen rassistischer und sexistischer Diskriminierung durch die einprogrammierte Befangenheit der Modelle, die Ausweitung der Überwachungsapparate und die fortschreitende Monopolmacht der Techgiganten im Silicon Valley. Der für die zusätzliche Hardware notwendige immense Ressourcen- und Energieverbrauch kann gar nicht oft genug erwähnt werden: Wettspiele um den tüchtigsten Börsenteilnehmer für Grafikprozessoren küren indes den US-amerikanischen Hardwarehersteller Nvidia zum Billionenkonzern, nur hätten wir ohne solche Prozessoren gar nicht die notwendige Rechenkapazität, dafür aber womöglich eine bessere weltweite Klimabilanz.
PAYWALL
KI, LLMs, GPTs und weitere Intelligenzanwärter
Stabile Konfusion scheint die wachsende Vokabelliste der verschiedenen Technologien zu verursachen, weshalb sie wild durcheinandergeworfen werden: Statt ChatGPT wird hier und da einfach von KI gesprochen; andernorts hat man überhaupt keine Vorstellung davon, was es im Bereich der Künstlichen Intelligenzen alles an vielfältigen Entwicklungen gibt, die überhaupt nichts mit GPTs und anderen LLMs zu tun haben.
Warum ist es wichtig, das alles zu unterscheiden? Wenn es nach wie vor als linkes Projekt gelten soll, dass man die Schufterei der lohnarbeitenden Bevölkerung tendenziell zurückdrängen will, dann wären viele hilfreiche Anwendungen für die weitere Rationalisierung bei der Herstellung von Gütern und Hilfsmitteln denkbar: Im Bereich der Landwirtschaft, der Lebensmittelproduktion und anderen produzierenden Gewerben sowie der Logistik (denkt man alle zusammen unter einem Begriff, reimt sich das auf Ahnung) ließen sich durch KI-gestützte Produktivkraftsprünge viele Arbeitsstunden für Schöneres einsparen. Wertvolle Denkunterstützung könnten außerdem sogenannte »Expertensysteme« insbesondere im medizinischen Bereich beisteuern.
Lesen lernen – und Schreiben natürlich auch!
Wer bis hierhin gelesen hat, muss wohl nicht mehr davon überzeugt werden, dass die Kulturtechnik des Lesens wichtig zum Lernen ist. Und um wirklich gut lesen zu können, muss man erst einiges gelernt haben. Und wer gut lesen kann, wird überflüssige Texte von aufschlussreichen, imitierte von kreativen und logische von scheinbar logischen zu unterscheiden wissen. Und wer noch besser lesen kann, wird auch zwischen den Zeilen lesen, Anspielungen assoziieren und sich über die Schönheit alles Verstandenen freuen können, das keiner Explizitheit bedurfte.
Wir alle haben schon Erfahrungen mit fehlerhafter Autokorrektur beim Schreiben von Nachrichten in Messenger-Apps oder beim Tippen von E-Mails gemacht. Basierend auf den zuvor verwendeten Wörtern und dem inhaltlichen Zusammenhang der Nachricht, der von den Sprachmodellen vermutet wird, schlagen diese vor, wie sich der Text fortsetzen ließe. Diese Vorschläge sind aber oft völlig daneben und verraten, dass dort eben überhaupt nichts, zumindest nicht im emphatischen Sinne, verstanden wird. Aber damit jemandem so etwas auffallen kann, mussten zuvor schon riesige Mengen an Text gelesen, gelernt und verstanden werden.
»Wer gut lesen kann, wird überflüssige Texte von aufschlussreichen, imitierte von kreativen und logische von scheinbar logischen zu unterscheiden wissen.«
Das mag zwar auf den ersten Blick nach einem »Kräftemessen des Humanen mit dem Maschinellen im Intelligiblen« aussehen (eine kluge Phrase, die ich bei einer App namens ChatDKP gelernt habe), nur will ich damit gar nicht die Unzulänglichkeiten der Sprachmodelle in Zweifel ziehen, sondern sprachbegabten Menschen zusprechen, dass ihr Handwerk ein sehr wertvolles und seltenes geworden ist – unabhängig davon, was die Maschinen so ausspucken und vorschlagen.
Ein dankenswerter Beitrag, den LLMs tatsächlich leisten könnten, wäre hingegen, uns all diejenigen Arten von Text abzunehmen, bei denen auch vor den GPTs nur der Briefkopf ausgetauscht worden ist: Texte, die Studierende als Matrikelnummern, Sozialhilfeanträge als Betrugsversuche oder Bewerbungen als Humanressourcen behandeln. Solche könnten uns erspart bleiben und man würde damit sowohl den frustrierten Antragstellenden als auch den genervten Amtspersonen eine Freude machen, wenn sie automatisiert geschrieben und gelesen würden. Die Formulierungen in solchen Dokumenten klingen, trotz sogenannter »natürlicher Sprache«, ehrlich gesagt auch ohne computergestützte Wortergänzung ziemlich unnatürlich.
Damit hat niemand gerechnet
Man könnte meinen, dass sich ChatGPT wenigstens für mathematische Sachaufgaben eignen müsste. Der Chatbot könnte viele mathematische Aufgaben für all diejenigen transformieren, deren Lieblingsfach nicht Mathematik ist, weil sie Probleme mit der Übersetzung von natürlicher Sprache in abstrahierte Zeichen, Formeln, Gleichungen und mathematische Modelle haben. Wie auch bei reinen Lese- und Schreibaufgaben könnten die GPTs zumindest erste Vorschläge machen, wie man loslegen könnte.
Ein alltagsnahes Beispiel: Neulich fragte ein wissbegieriger Freund von mir während seiner sonntäglichen Kochaktivitäten seine Twitter-Gemeinde, wie viele Brunoise-Würfel sich theoretisch aus einer Möhre herstellen ließen, die man sich als zusammengesetzten Körper aus einem Zylinder und einem Rotationsparaboloid vorstellen könnte. Er nahm dazu eine Kantenlänge von 2 mm für die Würfelchen an und eine idealisierte Möhre von insgesamt 20 cm Länge und 4 cm Durchmesser. Viele Gemeindemitglieder machten sich daraufhin entweder über die vorgeschlagenen Parameter der Möhre, die akkuraten Schnibbelkünste des Autors oder seine seltsame Aufgabenstellung lustig – zwei davon aber wollten die Gemeinde damit bespaßen, dass sie den Quatsch wirklich ausrechnen.
Der eine User ließ es ChatGPT erledigen, bekam ein flottes Ergebnis inklusive Rechenweg generiert, den er prompt auch der Gemeinde präsentierte. Währenddessen zerbrach sich eine andere Userin den Kopf und wollte beweisen, dass ihre Rechnung nicht nur schöner, sondern auch akkurater als die technisch generierte sein würde. Nach einer ersten verworfenen Rechenskizze dachte sie sich bald die nötigen Parameter dazu, die uns der Autor der Aufgabe schuldig geblieben war: Die Angabe der Zylinderlänge oder der Paraboloidhöhe des zusammengesetzten Rotationskörpers Möhre hatte gefehlt, man könnte aber idealisiert für die Möhrenspitze von einem Normparaboloid ausgehen, der um die Wurzelfunktion f(x)=√x rotiert, sodass dessen Höhe 4 cm betragen und für den Möhrenzylinder also 16 cm übrig bleiben würden. Für den Näherungswert des Möhrenvolumens wurden daraus 72 π cm³ berechnet, das geteilt durch das Würfelchen-Volumen (0,2 cm * 0,2 cm * 0,2 cm = 0,008 cm³) abgerundet 28.274 Stückchen hergibt. Die Bleistiftmathematikerin ließ ihre Rechnung daraufhin vorfreudig von der Gemeinde überprüfen und stellte dabei schmollend fest, dass die Rechnung des ChatGPT-Users nicht nur im Ergebnis gleich war, sondern der Bot wohl auch dieselben Annahmen über die unvollständigen Längenangaben getroffen haben musste.
Als wäre das nicht schon ernüchternd genug gewesen, kommentierte ein möhrenerfahrener Mathematiklehrer unter ihrer Rechnung, dass nicht beachtet worden sei, dass man leider nicht nur exakte Würfel schneiden könne: »Man müsste da mit Untersummen arbeiten.« Damit hatten also weder ChatGPT noch die eifrige Userin gerechnet; sie hatten beide Unrecht. Es zeigt sich also: Auch beim Rechnen ist der kritische Sachverstand von Expertinnen und Experten gefragt, der die Rechenwege und Ergebnisse des Chatbots weiterhin nachvollziehen und überprüfen können muss. Doch immerhin haben die Userin, der Koch und die Gemeinde einiges dabei gelernt und sich sogar amüsiert.
(Maschinelles) Lernen in Klassengesellschaften
Das Arbeiten unter Umgehung des Gehirns ist auf absehbare Zeit nicht möglich. Es ist auch nicht wünschenswert. Hingegen ist zu befürchten, dass sich textherstellende, -konsumierende und -bewertende Menschen aus nachvollziehbaren Bequemlichkeits- und Überlastungsgründen mit der Art von Wissenssimulation zufriedengeben werden, die auch schon vor ChatGPT und Co. in der Welt gewesen ist: Von »Initialdummheit« können wir dann sprechen, wenn schon die eingelesenen Inhalte oder der Prompt falsch waren und der verantwortliche Mensch nicht korrigiert wurde; GPTs führen diese einfach weiter.
Das gilt auch für die unrühmlichen Schummelaufsätze in wissenschaftlichen Zeitschriften (wo man ChatGPT mitunter schon zum Co-Autor ernennt oder der Bot zumindest unerwünschte Spuren hinterlässt). Die Ähnlichkeit der KI-generierten Texte mit denen aus anerkannten Fachpublikationen heißt letztlich mehr Böses über die Qualität der Originale als über die Schnipselkopien von ChatGPT: Die beflissene Durchschnittlichkeit und Einfallslosigkeit der Ursprungstexte wird durch sie nur weiter reproduziert.
»ChatGPT ist, wenn man so will, ziemlich klug, weil es Zugriff auf beinahe alles textförmige Weltwissen hat. Aber intelligent sind GPTs eben nicht.«
Wenn Bildungspolitikerinnen, überforderte Eltern und sogar völlig unbeteiligte Knallchargen anfangen herumzubrabbeln, dass etwa binomische Formeln, der Satz des Pythagoras und andere Propädeutik nicht mehr verpflichtend vermittelt werden sollten und sich dazu ständig neue Vorschläge zur Verschlechterung der Lehrpläne ausdenken, dann lässt sich an ihnen eindrucksvoll beobachten, was passiert, wenn Menschen, die selbst ein kaputtes Bildungssystem durchlaufen haben, an ihm Mitspracherechte bekommen. Wer Bildung auf das reduziert, was den Anwendungskriterien des Kapitals entspricht – statt Bildung auch als Zweck an sich, nicht bloß als Mittel zu begreifen und ihr dafür Geduld, Freude und Muße einzuräumen –, dem wird keine technische Neuerung ungelegen kommen, die uns von ihr abhalten soll.
Um zu begreifen, wie diese fortgeschrittenen Maschinen funktionieren, wird es auch weiterhin intelligente Leute geben, die mehr wissen müssen als die meisten, die sie bedienen. Bis auf Weiteres mangelt es außerdem an klugen Menschen, die verstehen, dass die gemeinnützigen Potenziale dieser Maschinen die Ziele der Profitmaximierung ihrer Eigentümer nur bedingt tangieren, und deshalb gewillt sind, »die gesellschaftliche Basis dieser Apparate zu erschüttern, ihre Verwendung im Interesse der wenigen zu diskreditieren«, wie uns Bertolt Brecht lehrt.
ChatGPT, ein Chatbot, der – wie wir gelernt haben – auf Basis von GPT-Sprachmodellen, also einer Art des maschinellen Lernens und Unterart von sogenannten Künstlichen Intelligenzen, aus vorhandenen Texten im Web einen scheinbar sinnvollen Text transformiert, ist, wenn man so will, ziemlich klug, weil er Zugriff auf beinahe alles textförmige Weltwissen hat, aber intelligent sind GPTs eben nicht. Künstliche Intelligenzen sind überhaupt nicht intelligent – die Fähigkeit zum Lesen, Schreiben und Rechnen lehrt, das zu unterscheiden. Bekanntlich herrschen ungerechte Bedingungen zum Erlernen dieser Fähigkeiten. Die Bewertung von Denkleistungen in Bildungsinstitutionen und anderswo daran anzupassen, was die Maschinen uns abnehmen können, ist jedoch keine Maßnahme, die diese Missstände beseitigt – im Gegenteil rückt sie Wege zur Mündigkeit weiter in die Ferne.
AI (KI)
Artificial Intelligence (Künstliche Intelligenz)
Übergeordneter Begriff für Software, die sich auf die Nachahmung menschlicher Intelligenz durch Computer bezieht. KI umfasst sehr viele Technologien, einschließlich maschinellem Lernen, neuronalen Netzen, Expertensystemen, Empfehlungssystemen und sprachverstehenden und -generierenden Modellen.
AGI
Artificial General Intelligence(Künstliche Allgemeine Intelligenz)
Eine Form von KI mit generellen Lernfähigkeiten, von der man sich erhofft, dass sie lernen kann, jede intellektuelle Aufgabe zu bewältigen, die hoch qualifizierte Menschen erledigen können. Vor allem das Großkapital investiert in solche Science-Fiction-Labore: Microsoft bei OpenAI und Google bei DeepMind.
GenAI
Generative AI (Generative KI)
Begriff für die »künstliche« Generierung von »Output« durch ML-Systeme, die aus vorher eingespeisten Daten lernen, meist aus einer sehr großen Menge von Beispielen. Nach der Lernphase sollen sie daraus neue, bisher ungesehene Daten generieren.
ML
Machine Learning (Maschinelles Lernen); nicht zu verwechseln mit Marxismus-Leninismus
Training von Vorhersagemodellen anhand von Datensätzen, entweder zur Klassifizierung in vorher festgelegte Kategorien oder zur Generierung von Text- oder Bilddaten. Dafür braucht es Algorithmen, die anhand von Trainingsdaten statistische Modelle aufbauen können, die danach anhand anderer Testdaten auf ihre Genauigkeit getestet werden. Die besondere Leistung des ML liegt also darin, nicht einfach alle Beispiele auswendig zu lernen, sondern Muster und Gesetzmäßigkeiten in den Lerndaten zu erkennen, damit die Systeme zukünftig auch unbekannte Daten bewerten können.
LLM
Large Language Model (Großes Sprachmodell)
Ein spezieller Typ des maschinellen Lernens, der darauf abzielt, natürliche Sprache zu verstehen und generieren zu können. LLMs werden mit großen Mengen an Textdaten vor-trainiert, um sich in möglichst vielen Textsorten und inhaltlichen Zusammenhängen »auszukennen« und daraus abgewandelt selbst mehr oder weniger sinnvolle Antworten zu generieren – in natürlicher Sprache oder auch in Programmiersprachen.
GPT
Generative Pre-Trained Transformer (Generativer vor-trainierter Transformer)
Bezeichnung für spezielle LLMs, die erstmals von OpenAI entwickelt worden sind und seitdem in viereinhalb Versionen erschienen sind: GPT-1, 2, 3, 3.5 und seit März 2023 GPT-4. »Gelernt« haben sie anhand beinahe aller im Internet auffindbarer Textdaten – darunter die gesamte englischsprachige Wikipedia, viele digitalisierte Bücher und viele hunderte Gigabyte anderer Webseiten. Unternehmensvertreter von OpenAI behaupten in Interviews dennoch, dass in die GPTs noch lange nicht genügend Daten eingespeist worden seien. Nach den Lernphasen wird ein sogenanntes »diskriminatives Feintuning« vorgenommen, das für spezifische Aufgaben spezifische Ergebnisse erzielen soll und aber nur minimale Änderungen am Aufbau der Modelle erfordert.
Transformer
Ein Programm, mit dem eine Form in eine andere Form überführt werden kann – eine spezielle Zeichenfolge in eine andere spezielle Zeichenfolge, etwa um zwischen natürlichen Sprachen zu übersetzen oder aus Trainingsdaten statistisch erschlossene Vorhersagen für die nächsten Wörter in einem künstlich erzeugten Satz auszuschreiben.
ChatGPT
GPT-basierter Chatbot der Firma OpenAI
ChatGPT ist ein Browser- beziehungsweise App-basierter Chatbot, der auf sogenannte »prompts« (Abfragen), die von Usern eingegeben werden, in natürlicher Sprache oder in Programmiersprachen Antworten erzeugen kann, darunter Übersetzungen in viele (meist westliche) Sprachen, Briefe, Reime, Essays und eben auch Softwarecode.
