Die offene Tür

Der Agent braucht mal wieder Zugriff auf einen Ordner auf der Festplatte meines Rechners, also gebe ich ihn. Dann liest er die darin liegenden Dateien inklusive aller Unterordner, verarbeitet sie, schreibt Ergebnisse zurück und so geht das den ganzen Tag. Während er das tut, baut er neue Agenten. Die laufen dann parallel und jeder mit einer eigenen Teilaufgabe ausgestattet. Zehn oder fünfzehn Prozesse gleichzeitig sind keine Ausnahme. Wenige Minuten später liegt ein Ergebnis vor, für das ich sonst mehrere Tage gebraucht hätte. Ich mache das schon lange, aber ich kann es immer noch nicht glauben, mit welcher Geschwindigkeit und Präzision die KI wie eine Geisterhand durch meine Daten pflügt.

Die Kehrseite der Medaille ist, dass meine (Rechner-) Tür sperrangelweit offen steht.

Agentic AI funktioniert natürlich anders als ein Chatbot. Ein Chatbot ist der Inbegriff für KI. Dort tippst du eine Frage ein und bekommst eine wie vom Menschen verfasste und wohlüberlegte Antwort. Damit ist der Vorgang aber auch schon abgeschlossen. Agentic AI funktioniert anders. Du gibst eine Aufgabe, und das System zerlegt sie erstmal. Es entscheidet, welche Folgeschritte nötig sind und welche Werkzeuge für die Aufarbeitung notwendig sind. Es baut dann entsprechende Agenten für die jeweiligen Teilaufgaben. Das läuft im Terminalfenster vor meinen Augen so schnell ab, dass man mit dem Lesen überhaupt nicht hinterherkommt. Jeder Agent arbeitet dann eigenständig seine Aufgabe ab. Mit der Parallelität ist dann nicht nur das menschliche Auge, sondern auch jegliche Kontrolle komplett lost. Wenn ein Agent auf ein Problem stösst, das er nicht lösen kann, baut er halt den nächsten. Das macht er komplett selbstständig und das ganze Ding skaliert sich selbst immer weiter und weiter, bis die Aufgabe durch ist. Die Ergebnisse können sich in der Regel sehen lassen.

Was wir alle noch vor nicht allzu langer Zeit als Zukunftsmusik abgetan hätten ist heute gängige Infrastruktur der meisten Wissensarbeiter. Ich als einzelner Anwender mit einem Abo arbeite so ohne IT- oder Server-Infrastruktur wie eine ganze Armada von Programmierern. Ich habe einen leistungsfähigen Rechner und das reicht. Ich baue damit in wenigen Tagen ganze Websites, Wissensdatenbanken, automatisierte Abfragesysteme und ganze Ontologien für egal welche Anwendungsbereiche. Ich analysiere externe Quellen, Bücher und stelle den Kontext zu meinen eigenen Datenquellen her. Die Geschwindigkeit und die Präzision hauen mich immer wieder um. Meistens jedenfalls. Hier muss ich fundamental relativieren.

Denn es gibt eine Kehrseite, die im Hype untergeht. Agenten treffen Entscheidungen vollkommen autonom. Sie müssen das, weil sie auch autonom arbeiten. Und auch die neuesten KI-Modelle treffen oft die falschen. Und das kann dramatisch enden, denn eine nachvollziehbare Argumentations- oder Arbeitskette existiert nicht. Zumindest keine, die für mich als normal denkender Mensch nachvollziehbar wäre. In meinem Fall haben Agenten bestehende, von Hand mühsam erarbeitete Texte, die fix und fertig waren, einfach so, in wenigen Minuten überschrieben. Das Original war damit unwiderruflich weg. Nicht im Papierkorb und auch nicht in einer Versionshistorie, sondern einfach weg. Ich musste in vielen Fällen komplett von vorne anfangen und die ursprüngliche Zeitersparnis war dahin.

Du kannst einen laufenden Agenten-Prozess nicht korrigieren. Du kannst ihn stoppen, aber nicht reparieren. Wenn Agent 12 von 15 einen Fehler macht, kannst du nicht in Agent 12 eingreifen und sagen: Mach es das nächste Mal anders oder korrigiere rückwirkend. Du kannst den ganzen Lauf abbrechen und neu starten. Korrektur im laufenden Betrieb gibt es nicht. Das ist für große Tech-Konzerne mit kompetenten Teams machbar, aber für niemanden sonst. Du delegierst also Kontrolle vollständig, bekommst sie aber nicht zurück, bis der Prozess durch ist oder du den Stecker ziehst. In beiden Fällen können deine Daten weg sein.

Das ist bei kleinen Aufgaben kein Problem. Bei grossen schon. Und die Aufgaben werden grösser, weil das System dich einlädt, immer grösser zu denken. Du fütterst es mit mehr Daten, gibst ihm mehr Kontext, lässt es mehr tun. Zurück zum Ausgangspunkt: einem Chatbot gibst du einen Absatz Text und eine Frage. Und du erhältst eine Antwort zurück. Ein Agent bekommt Zugriff auf einen Ordner mit allen darin liegenden Daten. Und du riskierst den Totalverlust. Das ist ein grundlegend anderer Zugriff.

Und genau hier liegt die Frage, die nur die wenigsten seriös, also warnend stellen. Denn die Tür, die ich öffne, öffne ich für einen Agenten. Aber was macht dieser Agent damit oder viel wichtiger, wer kommt durch diese Tür noch durch? Also direkt auf meine Festplatte, die Ordner und meine Daten. Klartext gesprochen bedeutet das, meine Dateien liegen auf meinem Rechner, aber der Agent verarbeitet sie über die Server eines amerikanischen Unternehmens. Was dort mit meinen Daten passiert, weiss ich nicht. Das weiß niemand. Die Modelle updaten sich permanent und man kommt mit der Prüfung der Privacy-Texte eh schon nicht mehr hinterher. Ich könnte es sicherlich nachlesen, aber die Menge und Arbeitsgeschwindigkeit dessen, was durchfliesst, hat jede Dimension bereits gesprengt. Die meiner Arbeit und die des Datenschutzes.

Ein Google-Suchbegriff war ein Wort. Ein ChatGPT-Prompt ist ein Absatz. Ein Agenten-Schwarm verarbeitet tausende Dateien in einer Sitzung. Texte, Notizen, Ordnerstrukturen, Strategie-Dokumente. Was der Agent braucht, bekommt er. Und es verlässt damit meinen Rechner. Jetzt stellen wir uns vor, das macht ein Mitarbeiter in einem Unternehmen. Alles reinwerfen, sich über das Ergebnis freuen, Feierabend. Die IT-Abteilung weiss von nichts, die Compliance-Leute bleiben auch ahnungslos, die Daten sind bereits draussen. Das ist kein hypothetisches Szenario, sondern das passiert jetzt und in tausenden Büros gleichzeitig. Agentic AI ist definitiv schneller unterwegs als jeder Autor von Sicherheitsrichtlinien.

Wie gesagt, ich will nicht meinen Zeigefinger warnend anheben, sondern ich sage das als jemand, der die Tür jeden Tag öffnet und jedes Mal weiss, dass er es tut. Die Frage ist nicht, ob man Agentic AI nutzen sollte, sondern ob wir verstehen, was wir tun, wenn wir sie nutzen. Und ob die Geschwindigkeit, mit der Agenten entstehen und sich vermehren, uns die Zeit lässt, das herauszufinden. Ich bezweifle es.