Die Frage nach der Wahrheit stellt sich bei einer Künstlichen Intelligenz, die Röntgenbilder auswerten kann, anders. Der Arzt weiß, was er sucht und nutzt Künstliche Intelligenz wie ein Mikroskop. Er weiß, wie es sein muss, um zu einer Diagnose zu kommen. Wer ChatGPT fragt, kann die Antwort nur beurteilen, wenn er oder sie vom Fach sind, also ob das zutreffen kann, was der Chatbot im Internet gefunden hat.

Die Frage nach wahr oder nichtzutreffend stellt sich jeder Intelligenz und jedem von uns mehrmals am Tag. Denn wir müssen, schon wenn wir durch den Wald gehen, ständig überprüfen, ob das zutrifft, was unsere Augen und Ohren uns melden. Ist es ein Wildschwein, das ich zu sehen meine oder sind es nur Blätter, die mir das wegen eines besonderen Lichteinfalls das vorspiegeln? Denn wie bei einer KI kommen in unserem Hirn nur elektrische Impulse an. Unser Auge sieht ja nicht das Auto, das vorbeifährt, sondern erhält nur Farb- und Flächeneindrücke. Erst unser Gehirn baut daraus eine Vorstellung. Das zeigt sich u.a. daran, dass Kinder erst ab dem Grundschulalter abschätzen können, wann sie bei Autoverkehr die Straße überqueren können. Deshalb ist es zwingend, dass sie bei einer Ampel über die Straße gehen.  

Worte sind nicht wirklich

ChatGPT hat nun keine Sinneseindrücke, die es interpretiert, sondern nur Worte. Diese sind noch weiter von der Realität entfernt. Wenn wir Worte wechseln, unterhalten wir uns über unsere Vorstellungen von dem was gewesen ist oder gerade läuft. Erst wenn ich von mir erzähle, was ich empfinde, was ich mich frage, was ich überlege, ist das so nahe an der Realität wie die Röntgenaufnahme. Ich kann mich aber auch dann über mich selber täuschen.
Die kurze Analyse ist auch erst nur eine Vorstellung, wie ChatGPT funktioniert. Es gibt auch eine andere Einschätzung. Der Algorithmus weiß alles, was das Internet weiß. Deshalb kann ich ChatGPT mehr vertrauen als Wikipedia. Für diese Texte gibt es nur eine menschliche Intelligenz. Wie andere Homepages unterliegt dieses Lexikon einer von Menschen übernommene Verantwortung, die dafür geradesteht, dass der Text kein Fake ist. Bei den Social Media gibt es das nicht mehr. Das sind es noch Menschen, die faken, ohne dass jemand drüberschaut.. Was aber, wenn eine Maschine jemanden etwas erzählt, der sie nicht beurteilen kann. Während der Arzt die Information einer KI, die Krebszellen identifiziert hat, überprüfen kann, ist das ChatGPT nicht möglich.

Aus Häufigkeit entsteht noch keine Wahrheit

Was ein Chatbot ausspuckt, ist eine Konstruktion, die vorhandene Wortverbindungen zusammenbaut. Das ist viel weiterer Weg zur Realität als wenn wir uns mit jemandem Anderen unterhalten. Wir haben Vorstellungen über das, was ist. Wir sind an der Wahrheit, wie es wirklich ist, interessiert.
ChatGPT hat keine Vorstellung davon, ob  das … ist. Es hat nur Worte und zu jedem Wort die Worte, die auf das vorausgegangen gewöhnlich folgen. Es wählt dann das aus, was am häufigsten folgt. Dieses Grundprinzip des Zählens erzeugt verständliche neue Sätze, indem das neuronalen Netz viele möglichen neue Sätze herausfiltern und so dem nahekommen, was zu einer Frage im Internet zu finden ist. Wir Menschen können direkter auf Fragen antworten, weil wir nicht tausende Wortfolgen checken müssen, sondern bereits eine Vorstellung haben, die wir in Worte fassen. 

Der Wahrheit können wir uns nur annähernd

Die Wahrheit ist allerdings auch für uns nicht etwas, was man haben kann. Es ist selten so wie im Krimi, dass der Mörder eindeutig mit einem Fingerabdruck oder Gentest identifiziert werden kann. Wenn es um den Zustand einer Firma oder einer Partei geht, kommt man von außen nur annähernd heran. Ich habe das kürzlich in Bezug auf den Hinduismus erfahren. Die Vorstellung, die wir uns in Europa von dieser Religion machen, ist durch unsere Brille geprägt. Wir beurteilen den Hinduismus wie eine westliche Religion, die sagt, was zu glauben ist und was nicht. Inder erklären, dass ihre Religion nicht so offen ist, dass christliche Vorstellungen, sogar die, die Jesus Gottes Sohn ist, übernehmen kann. Was der Hinduismus letztlich ist, verlangt eine tiefe meditative Erfahrung in dieser Kultur. Und auch dann ringen Meditierende nach Worten für das, was sie erfahren haben. Je weiter der Wortsinn, desto unbestimmter wird, was in Indien unter Prasada verstanden wird und im Westen als Gnade. Der Algorithmus liefert dazu nur Sätze, die andere formuliert haben. Wenn ich annährend verstehen will, muss ich Erfahrungen in der Meditation gemacht haben, Worte bleiben, sonst leer, nur eine Folge von Buchstaben. Ich muss mir aber auch klar darüber sein, dass ich nicht direkt an der Wirklichkeit dran. Deshalb Meditation, um der Wirklichkeit, von der die Religionen sprechen, nahe zu kommen.

ChatGPT ersetzt keine Zeitung

Ein Chatbot kann nur sagen, was gestern Wahrheit war. Es muss nicht mehr wie früher ein gedrucktes Lexikon 10 Jahre halten, ehe es so viel Neues gab, dass Leute eine Neuauflage kaufen würden. Allerdings leben wir nur 20-40% mit dem Neuen. Um z.B. Worte wie „Kolumbien“ oder „Churchill“ zu verstehen, brauchen wir Wissen darüber, wo Kolumbien liegt und dass es den Zweiten Weltkrieg gab. Deshalb braucht die Nutzung von Chatbotes andere Bildung als bisher. Nicht Faktenwissen, sondern Südamerika als Ganzes verstehen und Kolumbien als das Land mit hohem Kokainexport und die Nachbarschaft zu Venezuela, von wo es Flüchtlinge aufgenommen hat. Erst dieses breitere Verstehen ermöglich, eine von ChatGPt verfasste Information einzuordnen und bei Fraglichkeit andere Quellen zu nutzen. Es gibt das absurde Vorgehen, einen Text von ChatGPT auf „Wahrheit“ prüfen zu lassen. Dann prüfen maschinell aneinander gereihte Worte von einem Gehirn geformte Sätze, das zumindest weiß, worüber es spricht oder schreibt. Deshalb erfordert KI nicht zuerst Kontrolle, sondern Kultur und Bildung. Der Papst regt daher eine Bildungsinitiative mit möglichst vielen Institutionen, Schulen und Universitäten an.

Der Text der Enzyklika ist in voller Länge auf der Vatikan-Website in deutscher Sprache verfügbar. Da die Enzyklika in unterschiedlichen Formaten zugänglich ist, wird sie nicht nach Seiten zitiert, sondern nach Abschnitten, die jeweils eine laufende Nummer haben. Die Frage nach der Wahrheit beginnt ab Nr. 132: https://www.vatican.va/content/leo-xiv/de/encyclicals/documents/20260515-magnifica-humanitas.html

Links:

• ChatGPT - Maschinensprache gegen Gehirnsprache
• Leo XIV – die Ideologie der KI
• KI- was bleibt noch für die Geisteswissenschaften
• Geisteswissenschaften – Chatbots haben den größeren Wortschatz
• Warum ChatGPT die Theologie bedrohen kann 
• KI- die neue Göttin bracht keine Kirchen