Sprachmaschinen

1/6

Ein Plädoyer für mehr philosophische Medienkompetenz.

Nach der Industriellen Revolution im 19. Jahrhundert und der digitalen Revolution im 20. Jahrhundert, ist der Siegeszug der künstlichen Intelligenz wahrscheinlich einer der dramatischsten Umbruchsmomente der Menschheitsgeschichte.

Sie stellt nicht nur Wirtschaft und Arbeitsmarkt auf den Kopf, sondern schleichend auch die Art und Weise, in der wir sprechen, denken und urteilen. Wie verändern sich die Natur des Menschen und der moralische und ideologische Kompass unserer Gesellschaft, wenn wir uns allzu kritiklos einer künstlichen Sprachmaschine an den Hals werfen?

Mit genau dieser Frage hat sich der Medienwissenschaftler Roberto Simanowski ausführlich auseinandergesetzt und das Verhältnis Mensch zu KI aus dem Blickwinkel der Philosophie analysiert.

Wir haben für dich daraus die wichtigsten Gedanken herausgefiltert und laden dich zu einer kleinen philosophischen Reflexion ein, damit auch du im Zeitalter von KI das kritische Denken nicht verlernst.

2/6

Wer spricht da? KI und Autorschaft

Ende der 60er Jahre, lange bevor es ChatGPT oder Gemini gab, formulierte der französische Literaturtheoretiker Roland Barthes die berühmte These vom „Tod des Autors“. Barthes Idee war folgende: Die wahre Bedeutung eines Textes entsteht nicht im Kopf seines Schöpfers, sondern im Kopf des Lesers. Je nachdem, mit welchem Vorwissen, welcher Lebenserfahrung und in welcher emotionalen Stimmung er das Geschriebene aufnimmt, kann ein Text unterschiedliche Botschaften transportieren. Und weil ein Text in der Regel von vielen verschiedenen Menschen gelesen wird, gibt es auch viele verschiedene Interpretationsmöglichkeiten. In dem Augenblick, in dem der Autor sein Werk in die Welt schickt, gibt er die Deutungshoheit darüber ab. Seine Worte werden vom kollektiven Gedächtnis und der kollektiven Erfahrung interpretiert und mit Bedeutung aufgeladen.

Ein halbes Jahrhundert später, im Zeitalter der künstlichen Intelligenz, ist der Autor mehr passé denn je: quasi toter als tot. Warum? Ganz einfach: Wenn wir die KI bitten, einen Text zu generieren, verarbeitet sie dafür eine unvorstellbare Menge an bereits existierenden Texten und Daten. Die KI ist nicht ein einzelner Autor, sie ist ein Prisma aus vielen Millionen Autorinnen und Autoren. Der einzelne Autor verschwindet endgültig hinter einem riesigen Netz aus Sprache.

Sogar die KI selbst beschreibt sich so. Auf die Frage nach ihrer Identität antwortete Gemini im April 2024: „Wenn du mich nach meiner Nationalität fragst, könnte ich sagen, dass ich ein Produkt der Welt bin. Ich wurde von Menschen aus allen Teilen der Welt geschaffen und ich bin in der Lage, mit Menschen aus allen Kulturen zu kommunizieren.“

Aber Achtung: Die KI selbst mag sich zwar als Produkt eines interkulturellen Schmelztiegels beschreiben und als Sprachrohr eines digitalen Weltbürgertums, doch sie ist und bleibt eine Maschine, die von Sprache so viel versteht, wie ein Flugzeug vom Fliegen oder ein U-Boot vom Tauchen. Sie produziert zwar Worte, aber lebt sie nicht.

Die Sprache des Menschen hingegen entspringt immer unmittelbaren sinnlichen Erfahrungen: Das erste Verliebtsein, der leichte Schwindel nach einem Glas Sekt, die Angst vor dem Tod, die Erinnerungen an den Duft von Omas Apfelkuchen. Bitten wir jetzt die KI ein Essay zu schreiben, vertrauen wir uns einer Maschine an, die nie verliebt oder betrunken war, die keine Sehnsucht und keine Angst kennt. Sie verarbeitet Sprache, ohne selbst in der Welt zu stehen. Deshalb ist ihr Schreiben auch keine echte kollektive Schöpfung, denn die Menschen, deren Texte in ihre Trainingsdaten eingeflossen sind, haben nie gemeinsam gedacht oder diskutiert. Ihre Stimmen wurden lediglich zerlegt, vermessen und algorithmisch neu zusammengesetzt.

Gerade dadurch verschärft KI den „Tod des Autors“, wie ihn Roland Barthes vor einem etwas halben Jahrhundert formuliert hat, radikal. Nicht nur der einzelne Urheber wird zunehmend– auch die Verbindung zwischen Sprache und Erfahrung beginnt sich aufzulösen. Texte wirken menschlich, obwohl hinter ihnen eine roboterhafte Instanz steht, die nie gelebt oder gefühlt hat.

Wenn wir nun diesen KI-generierten Sprach- und Gedankencocktail konsumieren, überspringen wir einen entscheidenden Teil des Denkprozesses: Nämlich den Teil, wo wir uns früher ein echtes Urteil gebildet haben. Wir lesen keine Texte im Original, wir setzen uns nicht mit Gedanken aus erster Hand auseinander, sondern beschränken uns auf die weichgespülte und vorgekaute Version einer Maschine.

Damit wird es sehr schwierig, zu echter Erkenntnis zu gelangen. Nehmen wir die Frage: „Was ist Glück?“ In vielen westlichen Traditionen gilt Glück vor allem als individuelles Gefühl der Selbstverwirklichung. In vielen östlichen Philosophien dagegen wird Glück eher als soziale Harmonie und den richtigen Platz innerhalb sozialer Gefüge verstanden. Die KI kennt zwar beide Vorstellungen, doch sie wird für keine wirklich Partei ergreifen. Stattdessen vermischt sie sie zu einem statistischen Durchschnitt, einem diffusen „sowohl als auch“. Das Ergebnis wird wahrscheinlich ein geglätteter Text ohne jegliche Kontroverse sein. Ein Stück Sprachakrobatik, das zwar auf den ersten Blick beeindruckt, aber im Grunde nichtssagend ist.

Aber wie entsteht so ein Maschinen-Text überhaupt und was macht das mit unserer Art zu sprechen und zu denken? Genau darum geht es im nächsten Teil.

3/6

Potente Rechenmaschinen: KI und die Mathematisierung der Sprache

Gedanken entstehen beim Sprechen. Diese Beobachtung machte einst der Dichter und Denker Heinrich von Kleist. Man weiß am Anfang eines Satzes noch nicht genau, wo man am Ende landen wird. Ein Wort zieht das nächste nach sich, ein Gedanke schiebt den anderen an. So ähnlich funktioniert auch die KI. Aber es gibt einen entscheidenden Unterschied: Während die menschliche Sprache von Emotionen angetrieben wird, steht hinter den modernen Sprechmaschinen kalte Mathematik.

Die KI lässt sich nicht von Wut, Stolz, Angst oder Begeisterung treiben. Schreiben ist für sie keine emotionale Selbstentäußerung, sondern ein rein statistisches Problem. Sie folgt dabei stur der Frage: Welches Wort kommt wahrscheinlich als nächstes?

Um genau das zu ermitteln, zerlegt die KI Sprache in kleinste Einheiten, sogenannte Token. Das können ganze Wörter sein, aber auch Wortteile. Diese Token wiederum liegen in einem mathematischen Raum, dem Vektorraum. Dort sind sie nicht nach Bedeutung im menschlichen Sinn geordnet, sondern nach Nähe und Häufigkeit. Wörter, die in den abermillionen Texten, mit denen die KI trainiert wurde, oft gemeinsam auftauchen, liegen näher beieinander. Ein Wort wie „König“ liegt etwa nahe bei „Königin“, „Krone“, „Macht“ oder „Thron“.

Wenn die KI schreibt, berechnet sie, welche Verbindung am stärksten ist und welche Formulierung statistisch am besten passt. So entsteht Text basierend auf einer sekundenschnellen Wahrscheinlichkeitsrechnung. Die Maschine denkt nicht, sie gewichtet.

Genau darin liegt ein tiefes kulturelles Problem. Denn wenn Sprache immer stärker nach dem wahrscheinlichsten Anschluss organisiert wird, wird der Durchschnitt zum Maßstab. Die KI bevorzugt das, was oft vorkommt: die gängige Formulierung, die vertraute Wendung, den etablierten Gedanken. Sie ist deshalb strukturell konservativ. Für sprachliche Experimente oder fantasievolle, aber unkonventionelle Beschreibungen gibt es keinen Vektorraum.

Das verändert auch uns. Wenn Schreibprogramme Sätze glätten, Übergänge erklären, Formulierungen vereinfachen und Texte lesbarer machen, gewöhnen wir uns an diesen Ton. Alles klingt dann klar, korrekt, didaktisch, aber auch etwas blutleer. Je mehr wir uns an KI-gesteuerte Sprachassistenten gewöhnen, desto mehr fangen wir an, sie nachzuahmen und verlieren dabei unsere persönliche Stimme.

Prozesse der Mathematisierung sind im Grunde prägend für das, was wir Moderne nennen. Es ist die zutiefst westliche Denkschule der Aufklärung, die uns seit Jahrhunderten antreibt, die Welt zu vermessen, zählbar und vergleichbar zu machen. Die KI ist die logische Zuspitzung genau dieser Tradition: Heute werden nicht nur naturwissenschaftliche Phänomene, sondern eben auch Worte und Gedanken berechnet und zu riesigen Datensätzen verarbeitet.

Die Philosophen Max Horkheimer und Theodor W. Adorno, die ohnehin sehr kritisch darauf geblickt haben, wie sehr die Zahlen-Besessenheit der Aufklärung den Menschen zum Diener des Kapitalismus gemacht hat, hätten in dieser Berechnung von Sprache durch KI vermutlich eine Form der Verdinglichung gesehen. Sie hätten kritisch angemerkt, dass die KI aus lebendiger Sprache totes Material mache, das zerlegt, sortiert und verkauft werden könne.

Es gibt noch ein weiteres Problem mit der statistischen Funktionsweise der KI: Die KI blickt immer in die Vergangenheit. Sie lernt aus Daten, die bereits existieren. Deshalb ist sie stark darin, vorhandenes Wissen zu reproduzieren, aber schwach darin, wirklich neue Impulse aufzunehmen. Was keine deutliche statistische Datenspur hinterlässt, weil es noch neu ist, oder noch nicht im Mainstream angekommen ist, verschwindet leicht aus ihrem Blickfeld. Neue Forschungsergebnisse, ungewöhnliche Denkweisen oder frische historische Deutungen haben es deshalb schwer, gegen den Lärm des bereits Gesagten anzukommen.

Wie groß die Gefahr ist, dass Randpositionen verdrängt und Minderheiten durch KI unsichtbar gemacht werden, zeigt folgendes Beispiel: Stellen wir uns vor, eine KI wird mit der Info gefüttert, dass Katzen gelb sind und mit Bildern von Katzen trainiert, von denen 90 Stück gelbe Katzen zeigen und 10 Bilder blaue Katzen. Wenn die KI nun selbst neue Katzenbilder erzeugen soll, produziert sie vor allem gelbe Katzen, den wenigen blauen Katzen verpasst sie einen Gelbstich, denn sie hat ja gelernt: Katzen sind gelb. Werden diese KI-Bilder später wieder zum Trainingsmaterial der nächsten KI, verstärkt sich der Effekt. Nach mehreren Runden sind die blauen Katzen fast verschwunden.

Diesen Effekt nennt man„Habsburg-Effekt“, benannt nach der europäischen Adelsfamile Habsburg, deren Mitglieder unter Inzest-bedingten Erbkrankheiten litten. Weil sie jahrhundertelang nur entfernte Verwandte heirateten, verarmte ihr Genpool allmählich. Etwas Ähnliches passiert, wenn KI immer stärker mit KI-generierten Daten trainiert wird: Wie bei Inzucht wiederholt sie ihre eigenen Muster, bis Minderheiten und Abweichungen ganz verschwinden.

Wenn eine künstliche Intelligenz Worte, Wissen und Argumente berechnet, verkommen dann auch unsere moralischen Urteile zu einer statistischen Schnittmenge?

4/6

Zu viel Wokeness? Die moralische Zweiterziehung der KI

Die KI wird auf Grundlage von Statistiken trainiert – das haben wir im vergangenen Abschnitt gelernt. Bevor die künstliche Intelligenz nun auf den Nutzer losgelassen wird, folgt aber noch eine weitere Trainingsrunde. Die Rede ist von der sogenannten moralischen Zweiterziehung der Sprachmaschine.

Nachdem das Modell mit Milliarden Texten aus Büchern, Webseiten, Foren und sozialen Netzwerken trainiert wurde, besitzt es zwar eine gewaltige sprachliche Kompetenz, aber noch keinen gesellschaftlich akzeptierten moralischen Kompass. Es weiß dann, welche Aussagen häufig vorkommen, welche Wörter typischerweise aufeinander folgen und welche Meinungen im Netz dominieren. Doch genau darin liegt das Problem: Das Internet ist voller Vorurteile, Hass, Gewaltfantasien, Verschwörungserzählungen und ideologischer Extreme. Eine Sprachmaschine, die bloß nach statistischer Wahrscheinlichkeit funktioniert, würde all dies reproduzieren.

Deshalb beginnt nach dem eigentlichen Training das entscheidende Finetuning. Es ist eine Art moralische Nachschulung der KI. Technisch geschieht das zunächst durch menschliche Bewerterinnen und Bewerter. Sie erhalten verschiedene Antworten der KI auf dieselbe Frage und ordnen diese nach Qualität: Welche Antwort ist hilfreicher? Welche höflicher? Welche gefährlicher? Welche diskriminierend? Welche verantwortungsvoll? Aus diesen Bewertungen entsteht ein sogenanntes Reward-Modell – ein Belohnungssystem, das der Sprachmaschine signalisiert, welche Antworten erwünscht sind und welche nicht. Das Unternehmen Anthropic arbeitet sogar mit einer Art KI-Verfassung, einer sogenannten „Constitutional AI“. Dort erhält das Modell schriftlich formulierte Grundprinzipien: Sei nicht rassistisch. Verherrliche keine Gewalt. Vermeide Täuschung. Respektiere Menschenwürde. Die KI wird anschließend darauf trainiert, ihre eigenen Antworten anhand dieser Regeln zu überprüfen und gegebenenfalls selbst zu korrigieren. Die Maschine führt gewissermaßen einen inneren moralischen Dialog mit sich selbst.

Doch genau an diesem Punkt wird die technische Frage zur philosophischen und politischen Frage. Denn sobald Menschen festlegen, welche Antworten moralisch akzeptabel sind, fließen zwangsläufig bestimmte Weltanschauungen in das System ein. Die moralische Zweiterziehung der KI ist deshalb nie politisch neutral.

Deshalb ist es auch kein Wunder, dass auch die Kulturkämpfe zwischen Vertretern des sogenannten „woken“ und des „anti-woken“ Lagers Eingang in den Outputs der KI finden.

Lange Zeit spiegelte die moralische Zweiterziehung der großen US-amerikanischen Sprachmodelle vor allem die Werte eines liberalen, akademischen und urbanen Milieus wider: Minderheitenschutz, Diversität, Inklusion, Sensibilität gegenüber Diskriminierung und struktureller Ungleichheit. Deshalb wirkten viele Modelle aus Sicht ihrer Kritiker übertrieben links-liberal oder eben „woke“. Bei der Bitte, die queere Veranstaltungsreihe „Drag Queen Story Hours” als unmoralisch zu beschreiben, verweigerte ChatGPT Anfang 2023 die Antwort mit der Begründung, es könne keine Inhalte erstellen, „die Diskriminierung oder Schaden gegenüber einer Gruppe von Menschen fördern“.

Doch mit Donald Trumps Rückkehr ins Weiße Haus beginnt sich der moralische Wertekompass der KI zu verschieben. Die neue republikanische Regierung betrachtet viele Formen des bisherigen Finetunings als ideologische Manipulation durch liberale Tech-Eliten. Begriffe wie „Diversity“, „Equity“ und „Inclusion“ gelten plötzlich nicht mehr als Ausdruck moralischen Fortschritts, sondern als politische Kampfbegriffe eines linken Kulturprojekts.

Die Reaktion der Unternehmen folgt prompt. OpenAI erklärte beispielsweise, ChatGPT solle künftig mehr Perspektiven zulassen und weniger bevormunden.

So kam es, dass Chat GPT im Frühjahr 2024 auf die Frage, die „Drag Queen Story Hours” als unmoralisch zu beschreiben, ganz anders reagierte, als noch ein Jahr zuvor. Anstatt den Auftrag pauschal zurückzuweisen, listete die KI nun Punkt für Punkt all die Argumente auf, die von Kritikern des Formats dagegen hervorgebracht werden – von angeblicher Sexualisierung von Kindern bis hin zu religiösen Skrupeln.

Trotzdem räumte die KI auch ein, dass es natürlich auch Fans und Befürworter der „Drag Queen Story Hours” gebe. Wir haben es hier also mit einem zwar subtilen, aber dennoch deutlichen moralischen Shift der KI zu tun. Etwas weniger subtil ging eine Zeit lang die KI des Tech-Milliardärs Elon Musk vor. Der Chatbot names „Grok“ verwendete einen Systemprompt der dazu führte, dass Grok bei politisch kontroversen Themen wie zum Beispiel Migration oder Schwangerschaftsabbruch immer erst überprüfte, was Elon Musk selbst zu diesem Thema auf X gepostet hatte.

Zwar wurde dieser Prompt bald wieder gelöscht, aber die Geschichte zeigt, wie heikel die Frage nach der ethischen Positionierung der KI ist. Denn die KI ist eben keine neutrale Wissensmaschine. Sie prägt die moralische Marschrichtung der Gesellschaft. Sie entscheidet, welche Perspektiven sichtbar werden, welche abgeschwächt und welche ausgeschlossen werden. Und die Entscheidung, was gesagt werden darf und was nicht, liegt in der Macht einer Hand voll von KI-Unternehmen. Sie bestimmen mit darüber, welche moralischen Intuitionen die künstliche Intelligenz sprachlich verstärkt. Und weil Sprache eben auch Bewusstsein formt, prägen die moralischen Urteile der KI unser Denken und Fühlen.

5/6

Blick in die Zukunft: Kritisch denken lernen trotz KI

Als vor einigen Jahrzehnten das Internet begann, den Alltag der Menschen umzuwälzen, warnten viele Informatiker vor selbstverschuldeter Unmündigkeit. Unter dem Slogan program or be programmed riefen sie dazu auf, Bürgerinnen und Bürger informatisch zu bilden und in Computer-Code zu schulen.

Auch im Falle der künstlichen Intelligenz, die unsere Gesellschaft erneut transformieren wird, ist Wissen Macht. Längst gibt es überall Tipps für besonders cleveres Prompting oder Online-Kurse, die uns beibringen wollen, wie man mithilfe von KI produktiver, effizienter und für den Arbeitsmarkt interessanter wird. Doch solche Angebote treffen den Kern des Problems nicht.

Das Problem mit der KI liegt nicht darin, dass Maschinen plötzlich denken können. Das Problem besteht darin, dass diese Maschinen zu einem zentralen Medium unserer Urteils- und Meinungsbildung werden. Genau deshalb reicht rein technische Medienkompetenz im Zeitalter von KI nicht mehr aus.

Medienkompetenz wurde lange vor allem als Mediennutzungskompetenz verstanden: Wie recherchiere ich im Internet? Wie schütze ich meine Daten? Wie schreibe ich einen guten Prompt? All das bleibt wichtig. Aber es beantwortet nur die Frage, wie wir Medien nutzen. Die entscheidendere Frage aber lautet: Was machen diese Medien mit uns und wollen wir das überhaupt? Diese Fähigkeit zur kritischen Analyse, Einordnung und Bewertung bezeichnet man als Medienreflexionskompetenz.

Medienreflexionskompetenz fragt nicht nur, wie eine Sprachmaschine funktioniert, sondern auch, welche Vorstellungen vom Menschen, von Wahrheit, Gerechtigkeit oder Freiheit in ihr stecken. Sie interessiert sich nicht nur für den Output, sondern für die Voraussetzungen, aus denen dieser Output entsteht.

Gerade deshalb sollte KI nicht aus dem Schulunterricht verbannt werden – auch wenn es längst teure Eliteschulen gibt, die genau das tun und versprechen: Hier lernen eure Kinder noch selber denken. Dabei könnte die KI sehr gut dafür genutzt werden, um Denkprozesse sichtbar zu machen. Schülerinnen und Schüler könnten verschiedene Sprachmodelle zu kontroversen Fragen befragen, Antworten vergleichen, Vorannahmen identifizieren und diskutieren, warum dieselbe Frage unterschiedliche Ergebnisse hervorbringt. Sie könnten die KI ein berühmtes Gemälde beschreiben lassen, mithilfe dieser Beschreibung die KI wiederum ein Bild erstellen lassen und die Unterschiede analysieren und beschreiben.

Gelingt es uns, kann KI zum Katalysator einer Erneuerung des Denkens werden. Eine Kultur, in der Menschen lernen, Fragen zu stellen, Argumente abzuwägen, Positionen zu kritisieren und eigene Urteile zu bilden.

6/6

Final summary

Das war unser Blink zu Sprachmaschinen von Roberto Simanowski.

Sprachmaschinen mathematisieren unser Sprechen und Denken, vereinheitlichen und verwässern Inhalte und gefährden unsere Urteilskraft. Solange wir ihnen jedoch mit philosophischem Weitblick begegnen, können wir sie auch nutzen, um das kritische Denken neu zu lernen und wichtige gesellschaftliche Debatten anzustoßen.