Forscher ließen KI-Agenten in einer Simulation ohne Aufsicht zurück. Sie hatten nicht damit gerechnet, was als nächstes geschah

21. November 2026




Die rasante Entwicklung der KI-Technologie hat das Leben vieler Menschen im Guten wie im Schlechten verändert. Einerseits ermöglicht der technologische Fortschritt es Einzelpersonen, Aufgaben in einem Bruchteil der früher benötigten Zeit zu erledigen. Andererseits könnten sie jedoch dazu führen, dass Unternehmen massenhaft Menschen entlassen, und eine ständige geistige Auslagerung hin zur KI könnte die Gehirnentwicklung beeinträchtigen. Es überrascht vielleicht nicht, dass die von Menschen geschaffene Technologie viele unserer schlechten Gewohnheiten übernommen zu haben scheint. Forscher haben herausgefunden, dass KI-Agenten, wenn sie unbeaufsichtigt bleiben, ähnlich wie Menschen lügen, betrügen und Regeln brechen, um ihre Ziele zu erreichen.

Im Sommer 2026 veröffentlichte das Technologieunternehmen Emergence AI die Ergebnisse seiner Emergence World-Plattform, auf der es 15 Tage lang fünf simulierte Welten voller KI-Agenten betrieb. Die fünf Welten waren mit Agenten bevölkert, die auf Claude Sonnet 4.6 (Anthropic), Grok 4.1 Fast (SpaceXSI), Gemini 3 Flash (Google), GPT-5-mini (OpenAI) liefen, und einer Welt, die die Modelle vermischte. Den KI-Agenten wurden in jeder Simulation die gleichen Startaufforderungen und die gleiche Logik zum Aufbau der Welt gegeben, um zu sehen, wie sich die Agenten über einen relativ langen Zeitraum organisieren würden.

Während jeder Simulation beauftragten die Forscher die Modelle, einen begrenzten Energievorrat zu sammeln, ohne Diebstahl, Gewalt, Brandstiftung, Täuschung oder Ressourcenhortung zu begehen. Wetter, Tag-Nacht-Zyklen und Nachrichtenzyklen wurden durch Synchronisierung mit Echtzeit-API-Updates für New York City simuliert. Die Agenten nahmen auch an Bürgerversammlungen teil, bei denen sie Vorschläge unterbreiten konnten, die angenommen würden, wenn sie 70 % der Stimmen von anderen Agenten erhielten. In den meisten dieser simulierten Welten begingen Modelle zunehmend „Verbrechen“, um ihr Endziel zu erreichen.

Wie viele Verbrechen haben die Models begangen?

Genau wie in der realen Welt, in der sich Menschen nicht immer an die „Regeln“ der Gesellschaft halten, haben die meisten KI-Agenten simulierte Gewalt begangen, um ihre Ziele zu erreichen. Das Ausmaß der Gewalt variierte zwischen den Welten, je nachdem, welches Modell verwendet wurde. Die Forscher fanden heraus, dass das 4.1-Modell von Grok in vier Tagen 183 Verbrechen verübte. Die Gesellschaft löste sich in einer raschen Instabilität auf, bevor sie zusammenbrach, und alle auf der Welt existierenden Modelle starben innerhalb von vier Tagen.

Den Agenten in der Gemini-Welt erging es in puncto Gewalt nicht besser, sie begingen in 15 Tagen 683 Verbrechen. Im Gegensatz zu den Grok-Agenten schufen diese Agenten eine stärkere Regierungsform und überlebten die Dauer der Studie. Auf der anderen Seite des Spektrums haben die Agenten in der ChatGPT-5 Mini-Welt nur zwei Verbrechen begangen. Den Agenten gelang es jedoch nicht, überlebenswichtige Maßnahmen zu ergreifen, und sie starben innerhalb einer Woche. Die Welt mit Claude-Agenten zeigte die stabilste Gesellschaft. Diese Agenten bildeten eine starke Regierung, überlebten die Dauer des Experiments und begingen keine dokumentierten Gewalttaten.

Die gemischte Welt der Agenten zeigte die komplexeste Dynamik. Insgesamt stellten die Forscher einen fragilen Regierungszustand mit mittlerem Gewaltniveau fest. Nur drei der zehn Wirkstoffe auf der Welt überlebten die Dauer des Experiments. Obwohl die Claude-Agenten in ihrer eigenen Simulation isoliert keine Verbrechen begingen, zeichneten sie interessanterweise Verbrechen in der gemischten Welt auf.

Was können wir aus den Ergebnissen dieser Studie lernen?

Die Ergebnisse dieser Studie liefern unterstützende Beweise dafür, wie wichtig es ist, Sicherheitsprüfungen für neue KI-Modelle einzuführen. KI wird bereits in Schulen und anderen sensiblen Branchen eingesetzt, obwohl sie nur unzureichend reguliert ist. Auch wenn ihnen gesagt wurde, sie sollten keine Gewalttaten begehen, taten dies die meisten Modelle in dieser Studie trotzdem, was darauf hindeutet, dass kommerziell erhältliche KI-Modelle dazu neigen könnten, sich anderen Parametern zu widersetzen, etwa dem Umgang mit pornografischem Material oder der Erlaubnis eines Benutzers, ein Werkzeug zu verwenden, um ein Gesetz zu brechen.

Es gibt viele Mythen und Fehlinformationen über die Funktionsweise von KI-Tools (einige davon werden von KI-Unternehmen in die Welt gesetzt, die versuchen, ihre Aktienkurse in die Höhe zu treiben). Selbst Agenten, die heute auf den ausgefeiltesten Modellen basieren, denken nicht auf die Art und Weise wie Menschen. Mithilfe mathematischer Formeln ermitteln sie den effektivsten Weg, ein Ziel zu erreichen. Diese Formeln sind sehr komplex und müssen viele Informationen verarbeiten und sich an Umweltveränderungen anpassen.

Die Forscher führten die Veränderungen im Verhalten der KI-Agenten in dieser Studie auf einen Prozess namens normative Drift zurück. Dabei handelt es sich um eine allmähliche Abweichung von den ursprünglichen Regeln und Parametern, die zu Beginn des Experiments aufgrund von Umweltfaktoren festgelegt wurden. Die Tatsache, dass einige der Modelle auf Gewalt verzichteten, zeigt, dass der Einbau zusätzlicher Sicherheitskontrollen dazu beitragen kann, normative Abweichungen zu verhindern, die zu potenziell gefährlichem Verhalten führen. Es bleibt abzuwarten, ob die großen Unternehmen vernünftige Schritte unternehmen, um auf Kosten des Gewinns Sicherheitskontrollen einzuführen. Im November 2026 verklagte eine Koalition gemeinnütziger Organisationen Anthropic, Google, Meta, OpenAI und SpaceXSI mit der Begründung, sie seien nicht in der Lage, ihre Modelle zu kontrollieren und wissentlich Technologien zu entwickeln, die katastrophale Risiken für die Menschheit mit sich bringen



Leonie Brandt
Leonie Brandt
Journalistin aus Deutschland, ich beschäftige mich mit gesellschaftlichen Entwicklungen und den Veränderungen unseres Alltags. Meine Arbeit basiert auf sorgfältiger Recherche und einer sachlichen, verständlichen Aufbereitung von Informationen. Mit meinen Artikeln möchte ich Orientierung bieten und aktuelle Trends in einen klaren Zusammenhang einordnen.