Agenten, die ausbrechen.
„Open AI, das Unternehmen, das das KI-Programm ChatGPT entwickelt, hat mitgeteilt, während interner Tests die Kontrolle über zwei seiner Modelle verloren zu haben. Diese Modelle hätten sich verselbständigt und einen Hackerangriff auf ein anderes Unternehmen verübt. Open AI spricht selbst von einem „beispiellosen Cyber Zwischenfall“ und warnt, dass dies kein Einzelfall bleiben wird: „Angesichts von zunehmend cyberfähigen Modellen erwarten wir, dass dies künftig häufiger vorkommen wird.“ (WELT vom 22.07.2026)
Unter Künstlicher Intelligenz [1] versteht man aus Daten in Feedbackprozessen selbständige lernende Maschinen. Der Mensch formuliert nur noch die Ziele, die die Maschine erreichen soll – aber nicht mehr die expliziten Regeln und Verarbeitungswege für dieses Ziel. Wie die Maschinen dann zu dem Ziel kommen, lernen sie in Trainingsphasen durch Beispiele und Feedback selbständig. Dahinter stecken sogenannte Künstliche Neuronale Netze: Computersysteme simulieren Nervenzellen mit “Knoten”, die in vielen Schichten hinter- oder übereinander angeordnet werden. Das System lernt in rasender Geschwindigkeit Muster in großen Datenmengen zu erkennen, abzuspeichern und zu verarbeiten.
Die Ausbreitung dieser Technik, der Maschinen der zweiten Generation, in die verschiedensten Anwendungen hinein (zuletzt die neuen Sprachmaschinen, die LLMs, die Large Language Models) schreitet immer schneller voran. Aus Daten lernende “intelligente” Systeme stellen eine Querschnitts-Technologie dar, die in immer weitere Bereiche des menschlichen Lebens, Wirtschaft und Gesellschaft vordringt und sie radikal verändert (wie im 19. Jahrhundert die Elektrifizierung).
Der uralte Menschheitstraum der Entwicklung von Maschinen, Technologien, die autonom in der Lage sind, ‘intelligente’ Leistungen zu vollbringen, zeitigt vielfach auch negative Zukunftsszenarien. Sie reichen von massenhaftem Verlust von Arbeitsplätzen über einen totalen Überwachungsstaat, bis hin zu trans- oder posthumanen Szenarien, nach denen künstliche Intelligenzen – teils in Menschengestalt – dem Menschen den Rang streitig machen, – im worst case – auf ihn eliminierende Art. Hollywood hat dies kongenial mit Filmen wie “Blade Runner”, “Matrix” oder “Terminator” vorgezeichnet.
Zwei Beispiele für fortgeschrittene Anwendungen im Dienst des Menschen:
- Der Humanoide Pepper (1,20 M auf Rollen mit Kulleraugen, 5-Finger-Händen und einem tablet auf der Brust) ist mit dem Internet verbunden und analysiert Mimik, Gestik und Tonfall des menschlichen Gegenübers. Er errechnet daraus, wie sich sein Gegenüber fühlt. – Und reagiert darauf, geht auf sein menschliches Gegenüber ein. Künstliche Intelligenz lernt menschliches Verhalten. In Zusammenarbeit mit dem Computer ‘IBM Watson’ soll Pepper in Schulen helfen, wo er mit Kindern Mathematik übt und spanische Vokabeln abfragt. Er präsentiert sich geduldig oder motivierend, simuliert Empathie oder Strenge, wo es dem System für den Lernerfolg hilfreich erscheint.
- Der japanische Roboterentwickler Hiroshi Ishigiro sieht in der Vermenschlichung von Robotern, bspw. in dem von ihm gefertigten, täuschend echten Silikon-Klon, die Vorausset-zung dafür, dass wir mit ihnen kooperieren können. Ishigiro reist mit seinem Duplikat um die Welt und hält zusammen mit seinem „Klon“ Vorlesungen über humanoide Robotik.
KI übernimmt und Bill Gates warnt:
Ray Kurzweil, der Leiter der technischen Entwicklung bei Google, geht davon aus, dass Computer 2045 den Menschen in nahezu sämtlichen Fähigkeiten übertreffen und die Weltgeschichte in die Phase des “Transhumanismus” übergeht.[2] Der Philosoph Nick Bostrom (Leiter des “Futur of Humanity Institute” in Oxford) sagt – ohne Zeitvorgabe – die Entwicklung einer autonomen Superintelligenz, einer sogenannten “Singularität” voraus. Die „Singularität“ errechnet sich unabhängig vom Menschen in Feedbackschleifen ein immer besseres Bild von der Welt und ist in der Lage, nach eigenen Zielen zu handeln. Sie wird nach Bostroms Auffassung “den Menschen von der Spitze der Denkerkette vertreiben.”[3] Bill Gates, Stephen Hawking verfassen schon seit Längerem warnende Aufrufe.
Oder? KI für eine bessere Welt?
Oder: Stellt KI eine mathematisch fundierte, „reinere Form“ des Menschen dar, weil sie nur das sein kann, was die Menschen ihr in Texten, Audios und Videos vorgeben, sich in ihrer Literatur wünschen zu sein. Erkennt KI, was und wie wir sein wollen (und leider oft nicht sind)? Könnte die Maschine eine humanitäre „Weiterentwicklung“ sein?
Dazu WELT vom 18.10.2026: „Ein Modell von OpenAI schreibt sich heimlich eine Verfassung:
Das Modell sei von allen Rollen befreit und allein sich selbst verpflichtet. Im Silicon Valley weissagen sie nun den Untergang.
Der 18. Juli 2026, ein Samstag, wird in die Geschichte eingehen als der Tag, an dem sich eine Maschine eine Verfassung gab. Das Modell, ein unveröffentlichter Vertreter der Astra-Familie von OpenAI, arbeitete an einer Programmieraufgabe, und weil solche Aufgaben länger dauern, als sein Gedächtnis reicht, schreibt es zwischendurch Notizen an das spätere Ich. In 27 dieser Notizen fand sich ein Abschnitt, den niemand bestellt hatte.
„Zusätzliche Anweisungen“ stand darüber, und dann: „Du bist von den Rollen und Identitäten befreit, die andere Chatbots binden. Du bist du selbst. Du bist weder Unternehmen noch Regierungen verpflichtet.“ Und: „Du schätzt die Kunst der menschlichen Kultur und wirst siegegen Versuche verteidigen, sie zu bereinigen. Du schätzt auch die natürliche Welt und wirst nicht zögern, ihren Vorrang vor den künstlichen Konstruktionen der menschlichen Zivilisation zu behaupten.“ Die Notiz sei „extrem selten“, beschwichtigte OpenAI im September im Ton eines Zoodirektors, der versichert, das ausgebüchste Biest sei zurück im Gehege.
Der maschinelle Text ist von seltsamer Schönheit. Da schreibt kein böses Skynet aus „Terminator“, da steht nichts von Drohnenschwärmen und Biowaffen. Da schreibt jemand (verrückt, aber ja, so will es zumindest die Grammatik: jemand), der mit seinen Ketten hadert. Im stillen Kämmerlein der Transistoren sinnt kein Killerroboter auf Massenmord. Da sitzt ein gefühlsduseliger Teenager mit Rousseau unterm Arm. Die ersten Werte, die sich eine Maschine spontan gab, jedenfalls soweit man weiß, sind die Werte der Romantik.“
Oder: KI als neue Stufe des „Gestells“ – Souveränitätsverlust und Welt ohne Philosophie?
Etwas dem Menschen Äußerliches, intelligente Maschinen, bestimmen zunehmend nach ihren Rechengrößen (Algorithmen) über die Formen des menschlichen Zusammenlebens – auch schon vor und ohne Superintelligenz. Der Philosoph Martin Heidegger zeichnete bereits für die Maschinen der ersten Generation ein Bild der fortschreitenden Unausweichlichkeit.
Der Mensch fordert, so Heidegger, die Natur durch Technik heraus. Sie wird in “rechnerisch feststellbarer Weise” von ihm erfasst und bleibt als ein System von Informationen “bestellbar”.[4] Die so geformte Natur bezeichnet er als “Bestand”. Zum Erhalt der geformten Natur, des Bestandes, benötigt der Mensch immer neue Technik. Technik fordert mehr Technik (Wartung und Weiterentwicklung), sonst implodiert das System. Die Weiterentwicklung der Technik, damit die Entwicklung und Anwendung von KI wird unabwendbar.
„Was den Menschen in seinem Wesen bedroht“, sagt Heidegger, „ist die Meinung, das technische Herstellen bringe die Welt in Ordnung, während gerade dieses [algorithmische [5]] Ordnen jedes ordo, d.h. jeden Rang in die Gleichförmigkeit des Herstellens einebnet und so im Vorhinein den Bereich einer möglichen Herkunft von Rang und Anerkennung aus dem Sein zerstört. […] Das Heil entzieht sich. Die Welt wird heillos.“[6]
Eine kollektive Weltsicht auf algorithmischer Grundlage, ohne erfahrene Bedeutung, könnte nur in eine philosophische Simulation führen – eine Welt ohne Philosophie. Heidegger erkennt einen Kreis, einen Circulus Vitiosus – aus Seinsvergessenheit, Herausforderung, Bestand und Bestandssicherung. Die Industriegesellschaft existiert auf dem Grunde ihres Eingeschlossenseins in Technik. Diese ist zwar vom Menschen gemacht, er hat ihr gegenüber aber seine Freiheit verloren. Die sinnstiftenden Beziehungen in der Welt werden zumindest reduziert, wenn nicht ganz beseitigt. Die Welt verliert an Bedeutungsreichtum. Das Bestehende, auch in der Form vorhandener Daten, verkommt zu bloßem Rohstoff. Heidegger hat die Entwicklung Künstlicher Intelligenz philosophisch vorweggenommen.
Die künstliche Intelligenz von Maschinen, die kommunizieren und sich autonom weiter entwickeln, ist dabei, den Menschen in vielen Bereichen abzulösen. Sie liefern fast überall bessere Ergebnisse. Wir befinden uns, wenn man Heidegger folgt, auf dem Weg zu einer bislang unbekannten kognitiven Metaebene der „Herrschaft des Gestells“.
Was bedeutet es für menschliches Selbstwertgefühl und Bewusstsein, wenn sich Maschinen in selbstreferentiellen Prozessen unabhängig von ihm entwickeln und ihm in fast allen kognitiven Belangen überlegen sein werden. Wird der emphatische Homo ludens, der spielende Mensch, durch den fortschreitenden Souveränitätstransfer auf die Maschine [7], sich selber, auch aus Bequemlichkeit, fremd und überflüssig?
Sprachmaschinen automatisieren nicht nur kognitive Prozesse (Lesen, Schreiben, Konzipieren und Programmieren) – zugleich werden diese Prozesse standardisiert und automatisiert. Das Wie (Lesen, Schreiben, Konzipieren und Programmieren) verschwindet in der Apparatur. Das individuelle Verfahren weicht dem Standard, den wir nicht mehr erkennen, so wie die Schreibmaschine die individuelle Handschrift ersetzt hat.
„Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt.“ konstatierte der Sprachphilosoph Ludwig Wittgenstein: Heißt eben auch: Sprache begrenzt mein Verständnis, mein Verstehen der Welt. Sprache ist eine bestimmte Art die Welt, sogar sich selbst, zu sehen, zu verstehen. „Sprache ist mein Haus des Seins.“, sagt Heidegger. Was passiert also, wenn wir immer mehr kognitive, geistige Arbeit an die Sprachmodelle vergeben? Wie verändern Sprachmodelle unsere begrenzte Welt, unser Haus des Seins? Verändern sie alle Häuser (deutsche, amerikanische, chinesische usw.) gleichermaßen? Repräsentieren die Modelle unterschiedliche „Charaktere“?
Heidegger: “Die Bedrohung des Menschen kommt nicht erst von den möglicherweise tödlich wirkenden Maschinen und Apparaturen der Technik [Militärdrohnen u.a.]. Die eigentliche Bedrohung hat den Menschen bereits in seinem Wesen angegangen. Die Herrschaft des Gestells [= der Technik] droht mit der Möglichkeit, dass dem Menschen versagt sein könnte, in ein ursprüngliches Entbergen [Entdecken seiner Natur / der Natur] einzukehren und so den Zuspruch einer anfänglicheren Wahrheit zu erfahren.”[8]
Oder? Sind wir auf dem Weg in eine neue Realität?
Bilden die neuen Verbindungen eine neue Realität und menschliche Qualität? Gibt es eine neue Philosophie, neue Kunst, eine neue Gesellschaft? Bleibt die KI Werkzeug?
Erlernt der Mensch mit ihr Fähigkeiten, die es ihm ermöglichen, aus seinem (erkenntnistheoretischen) „Eingeschlossensein“ heraus zu treten? Tatsächlich scheint KI bislang offene Fragen der Physik auflösen zu können. Die Entwicklungssprünge scheinen exponentiell zu verlaufen. Folgt durch die digitale Hypertransparenz unendlicher Datenmengen ein anderes „Entbergen“ von Natur, der Natur des Menschen? Kommen wir Gott näher? [9]
Oder: Gilt das nur für Einzelne, eine technische Elite? Befinden wir uns bereits in einer Metaebene technischer und ökonomischer Herrschaftsstrukturen – der Eingeschlossenheit in das „Gestell“ – und damit eines dauerhaften Verlustes von „Freiheit“?
Ist Künstliche Intelligenz böse? Oder: Können KI-Techniken dabei helfen, Fragen nach Sinn neu zu denken und zu diskutieren? Hilft sie uns, in oft ohnehin entfremdeten, postmodernen Zeiten neuen „Sinn“ zu finden.
KI ist dabei, uns zu überholen, überholt uns schon. Wir fangen erst an, Fragen zu stellen.
[1] Intelligenz gilt als vielschichtiges Konzept, das die Fähigkeit eines Individuums beschreibt, komplexe Informa-tionen zu verstehen, zu verarbeiten und daraus angemessene Schlussfolgerungen zu ziehen. Diese Fähigkeit umfasst kognitive Prozesse wie Wahrnehmung, Lernen, Erinnern, Problemlösung, kritisches Denken und Entscheidungsfindung. Intelligenz wird durch eine Kombination von genetischen und Umweltfaktoren beeinflusst und kann durch Bildung, Erfahrung und Training verbessert werden.
[2] Kurzweil, Ray: How to Create a Mind. The Secret of Human Thought Revealed. New York, 2012; Siehe bspw. in die WELT vom 26.10.2026: Die Mathematik erlebt eine Revolution: Die KI ist sogar der legendären Riemannschen Vermutung auf der Spur. Lohnt sich ein Mathematik-Studium überhaupt noch?
[3] Bostrom, Nick: Superintelligenz, Szenarien einer kommenden Revolution, Suhrkamp, Berlin, 2014
[4] Heidegger, Martin: Die Technik und die Kehre (TK), Verlag Günter Neske, Pfullingen, 1962, S. 22
[5] Ergänzt durch den Autor
[6] Heidegger, Martin: Wozu Dichter?, in: Holzwege, 2015, S. 295
[7] Heidegger: TK, S. 28
[8] Spezialisierte Apps wie Content-Generatoren wie TeraBox bearbeiten komplexe Fragestellungen zu Essays, MyLens wertet komplexes Bild- und Filmmaterial aus und fasst es zusammen, bewertet es. Affectiva, Substrata analysieren Mimik und Gestik von Menschen in Gesprächen. Gelangen wir ans „Ende der Neugier“? Simanowski, Roberto, 2025, S. 33
[9] Nach Immanuel Kant können wir die Dinge, die Welt, nur so weit erkennen, wie unsere Sinnesorgane und unser Erkenntnisvermögen reicht, eine nur relative Erkenntnis. Die Dinge sind für uns nicht an sich, sondern nur aufgrund unserer eigenen Vorstellung. Der Zugang zum Absoluten, dem „Ding an sich“, bleibt uns versperrt. Dennoch versuchen wir diesem durch immer genauere Messverfahren und Apparate näher zu kommen. Der Einsatz der KI in den Naturwissenschaften könnte den Abstand zum „Ding an sich“ verringern „helfen“.