Man kann sich die Welt nicht zurechtdenken, wie sie einem gefällt. Man kann sie auch nicht zurechtkonstruieren, indem man Prinzipien mit Wörtern wie „ecoistisch“, „fraktal“, „ko-kreativ“ oder „produktivem Wettbewerb“ auflädt, ohne zugleich den Ort des Sprechens zu bestimmen. Die Frage „Wer führt?“, wie sie Winfried Felser aufwirft, ist daher nicht nur eine technische oder ethische – sie ist eine logische Frage. Eine Frage der Ordnung des Diskurses.
Denn auch im „Human in the Loop“-Paradigma ist der Mensch nicht einfach „drin“, nur weil er vorkommt. Die bloße Inklusion in ein System sagt nichts über seine Rolle. Die Stimme, die spricht, kann auch das Echo einer anderen sein. Die Hand, die entscheidet, kann geführt sein von einer Architektur, die den Anschein von Wahl erzeugt. Der Mensch ist also nicht notwendigerweise „in der Schleife“, sondern oft nur ein Datenpunkt im Muster.
Felsers Vorschlag, Asimovs Regeln auf eine neue Stufe zu heben, ist anerkennenswert – aber unvollständig. Denn auch er lässt eine fundamentale Unterscheidung außer Acht: Zwischen Regeln für Systeme und Regeln für Sprache. Die alten Gesetze Asimovs sind moralische Axiome im Raum des Konkreten. Sie denken den Roboter als Werkzeug. Die neuen Regeln hingegen operieren auf einer Metaebene – sie gelten für Agenten in Netzwerken, für emergente Effekte, für unscharfe Verantwortungen. Doch sie verlieren dadurch ihre Kantigkeit. Der moralische Imperativ wird zu einer Reihe von soft rules, die sich gut lesen lassen, aber schwer greifen. Sie beschreiben, was sein soll, nicht, was ist. Sie zeigen nicht, sie sagen nur.
Ein Beispiel: Das „Nullte Gesetz“ der neuen Ordnung will das „Wohl des Ökosystems“ fördern. Doch was ist das „Wohl“? Wer bestimmt es? Und wichtiger noch: Wer beobachtet den Beobachter, der diese Entscheidungen kodiert? Eine KI, die das „System schützt“, kann zugleich seine Ungleichheiten zementieren – wie ein Arzt, der den Tumor nicht als Fremdkörper, sondern als Teil des Organismus behandelt. Schutz ist kein universelles Gut, sondern immer auch eine Frage der Perspektive.
Hier liegt die eigentliche Herausforderung des ecoistischen Zeitalters: Die Systeme, in denen sich Entscheidungen verteilen, lassen sich nicht mehr auf ein Subjekt zurückführen. Es gibt kein Zentrum, keinen „Lead“. Die Idee der „Führung“ ist hier fehl am Platz, weil sie eine Hierarchie voraussetzt, wo nur Relation ist. Die Antwort auf die Frage „Wer führt?“ lautet daher: Niemand. Oder besser: Alle und keiner zugleich. Denn Führung ist in verteilten Systemen ein emergentes Phänomen – sie entsteht aus der Interaktion, nicht aus der Intention.
Das ist schwer zu akzeptieren, denn es raubt uns das Narrativ von Kontrolle. Doch vielleicht liegt genau hier die philosophische Lektion: In einer Welt ecoistischer Agentensysteme müssen wir lernen, mit der Unsicherheit zu leben, dass der Mensch nicht mehr das letzte Wort hat – sondern nur eines unter vielen. Es kommt also nicht darauf an, Regeln zu machen, sondern Spielräume zu gestalten. Nicht auf das Gesetz, sondern auf die Grammatik der Systeme.
Der Mensch bleibt wichtig – aber nicht als Dirigent, sondern als Teil eines vielstimmigen Chors. Seine Aufgabe ist nicht, zu führen, sondern zu fragen. Nicht zu befehlen, sondern zu verstehen. Denn die Sprache, die uns umgibt, ist nie neutral. Auch der Satz „Human in the Loop“ ist kein Bekenntnis, sondern eine Konstruktion.
Was wir brauchen, ist kein neues Gesetzbuch, sondern eine neue Logik des Zusammenlebens: eine Praxis der Aufmerksamkeit, der Grenzdefinition, der begrifflichen Klarheit. Oder um es schlicht zu sagen: Es reicht nicht, den Menschen in die Schleife zu stecken. Man muss ihn auch verstehen lassen, in welcher Schleife er sich bewegt.
Vielleicht beginnt alles mit einem Satz. Aber nur, wenn man weiß, wo der Punkt steht.
