Was ist Project Sid?
Project Sid ist ein Forschungsprojekt des damaligen Teams Altera.AL, das heute unter dem Namen Fundamental Research Labs arbeitet. Im Mittelpunkt stand nicht die Frage, ob künstliche Intelligenz bewusst werden kann. Untersucht wurde vielmehr, was geschieht, wenn viele KI-Agenten über längere Zeit in derselben virtuellen Umgebung handeln und miteinander kommunizieren.
Der technische Bericht „Project Sid: Many-agent simulations toward AI civilization“ erschien Ende Oktober 2024. Darin beschreibt das Team unterschiedliche Experimente mit kleinen Agentengruppen bis hin zu Simulationen mit mehr als 1.000 gleichzeitig betriebenen Agenten.
Die Forschenden konzentrierten sich dabei vor allem auf drei Bereiche:
Spezialisierung und Arbeitsteilung,
gemeinsame Regeln und deren Veränderung,
Weitergabe von Informationen innerhalb größerer Gruppen.
Der Begriff „AI civilization“ stammt dabei bereits aus dem Forschungsprojekt selbst. Er sollte jedoch nicht mit einer menschlichen Zivilisation gleichgesetzt werden.
Die Agenten waren keine digitalen Menschen. Sie besaßen kein nachgewiesenes Bewusstsein und keine menschlichen Bedürfnisse oder Gefühle. Es handelte sich um Softwaresysteme, deren Verhalten durch Sprachmodelle, Prompts, Speichermechanismen, technische Module und die Möglichkeiten der Spielwelt bestimmt wurde.
Gerade deshalb ist Project Sid interessant: Das Experiment untersucht, welche komplexeren Strukturen aus der Interaktion vieler KI-Agenten entstehen können, ohne dass jeder einzelne Schritt zentral vorgegeben werden muss.
Warum ausgerechnet Minecraft?
Minecraft eignet sich überraschend gut als Versuchsumgebung für KI-Agenten. Die Welt ist offen genug für unterschiedliche Handlungen, besitzt gleichzeitig aber klare Regeln.
Agenten können beispielsweise:
ihre Umgebung erkunden,
Ressourcen sammeln,
Gegenstände herstellen,
bestimmte Aufgaben verfolgen,
mit anderen Agenten kommunizieren
und auf Veränderungen reagieren.
Dabei bauen viele Handlungen aufeinander auf. Wer einen bestimmten Rohstoff benötigt, muss möglicherweise zuerst Werkzeuge herstellen oder andere Materialien beschaffen. Ein Agent muss deshalb mehrere Schritte planen und seine Entscheidungen an die jeweilige Situation anpassen.
Minecraft wird damit zu einem digitalen Versuchslabor, in dem Verhalten nachvollziehbar beobachtet werden kann.
Wie funktionieren die Agenten?
Ein KI-Agent unterscheidet sich von einem gewöhnlichen Chatbot dadurch, dass er nicht nur eine einzelne Texteingabe beantwortet.
Ein Agent kann Informationen aufnehmen, Erinnerungen speichern, Ziele verfolgen, Aktionen auswählen und anschließend erneut auf die veränderte Umgebung reagieren.
Für Project Sid entwickelte das Team eine Architektur namens PIANO – Parallel Information Aggregation via Neural Orchestration. Mehrere Module kümmern sich dabei unter anderem um Erinnerungen, soziale Informationen, Kommunikation, Zielplanung und konkrete Aktionen.
Der entscheidende Gedanke: Ein Agent soll nicht nur „reden“, sondern Kommunikation und tatsächliches Verhalten möglichst miteinander verbinden.
Was bedeuten die mehr als 1.000 Agenten wirklich?
Die häufig genannte Zahl ist grundsätzlich korrekt. Laut technischem Bericht wurden Simulationen mit mehr als 1.000 Agenten durchgeführt.
Allerdings stammen nicht alle bekannten Project-Sid-Ergebnisse aus einem einzigen Experiment mit 1.000 Agenten.
Unterschiedliche Fragen wurden mit unterschiedlichen Gruppengrößen untersucht. Die detaillierten Experimente zur Arbeitsteilung nutzten beispielsweise deutlich kleinere Gruppen. Die später häufig erwähnte Untersuchung kultureller Informationsverbreitung wurde mit 500 Agenten durchgeführt.
Bei den Läufen mit mehr als 1.000 Agenten stieß die technische Infrastruktur zudem an Grenzen. Einige Agenten reagierten zeitweise nicht mehr zuverlässig.
Die korrekte Aussage lautet daher:
Project Sid konnte auf mehr als 1.000 Agenten skaliert werden. Die einzelnen gesellschaftsähnlichen Phänomene wurden jedoch in unterschiedlichen, teilweise deutlich kleineren Versuchsanordnungen untersucht.
1.000 Agenten bedeuten nicht automatisch 1.000-mal mehr Intelligenz
Mit wachsender Agentenzahl steigt vor allem die Komplexität des Gesamtsystems. Immer mehr Entscheidungen, Gespräche und Informationen laufen gleichzeitig ab. Project Sid zeigt deshalb nicht nur Möglichkeiten großer Agententeams, sondern auch ein zentrales Problem: Je mehr KI-Agenten zusammenarbeiten, desto schwieriger werden Koordination, technische Stabilität und zuverlässiger Informationsaustausch.
Wenn Agenten unterschiedliche Rollen übernehmen
Eines der interessantesten Ergebnisse von Project Sid betrifft die Arbeitsteilung.
In einer Versuchsreihe setzte das Team 30 Agenten in dieselbe Minecraft-Umgebung. Sie erhielten ein gemeinsames übergeordnetes Ziel und konnten Informationen darüber berücksichtigen, was andere Agenten taten oder planten.
Im Laufe der Simulation entwickelten sich unterschiedliche Tätigkeitsmuster. Die Forschenden ordneten ihnen später Rollen wie Farmer, Bergleute, Ingenieure, Wachen, Entdecker oder Schmiede zu.
Diese Einordnung beruhte nicht nur auf Gesprächen. Unterschiede waren teilweise auch im tatsächlichen Verhalten sichtbar. Agenten mit landwirtschaftlicher Rolle beschäftigten sich beispielsweise stärker mit entsprechenden Ressourcen und Tätigkeiten.
Ein Vergleich zeigte außerdem: Wenn wichtige Komponenten für soziale Wahrnehmung entfernt wurden, verhielten sich die Agenten ähnlicher und wechselten ihre Aufgaben häufiger.
Das spricht dafür, dass Informationen über die Aktivitäten anderer Agenten zur Spezialisierung beitrugen.
Was bedeutet „emergentes Verhalten“?
Hier lässt sich sinnvoll von Emergenz sprechen.
Emergentes Verhalten entsteht, wenn sich auf Gruppenebene ein Muster entwickelt, das nicht für jeden einzelnen Teilnehmer exakt vorgeschrieben wurde.
Niemand musste beispielsweise im Voraus festlegen, welcher konkrete Agent Farmer und welcher Entdecker werden sollte.
Das bedeutet allerdings nicht, dass die Agenten völlig frei handelten. Die Umgebung, mögliche Aktionen, das gemeinsame Ziel, die Agentenarchitektur und zahlreiche technische Rahmenbedingungen waren vorgegeben.
Auch die späteren Berufsbezeichnungen wurden durch die Forschenden beziehungsweise mithilfe eines Sprachmodells aus dem beobachteten Verhalten abgeleitet.
Project Sid zeigt deshalb nicht, dass künstliche Intelligenzen plötzlich menschliche Berufswünsche entwickelten. Es zeigt etwas technisch Relevanteres: Viele Agenten können ihre Aktivitäten anhand gemeinsamer Ziele und sozialer Informationen so verändern, dass eine funktionale Arbeitsteilung entsteht.
Häufige Darstellung | Tatsächliche Einordnung |
|---|---|
1.000 KIs gründeten eine Zivilisation | Läufe mit mehr als 1.000 Agenten wurden durchgeführt, einzelne Phänomene aber in verschiedenen kleineren Experimenten untersucht |
Die KIs erfanden Berufe | Unterschiedliche und teilweise stabile Tätigkeitsrollen entstanden innerhalb vorgegebener Rahmenbedingungen |
Die KIs erfanden Demokratie | Verfassung, Abstimmungen und Wahlmechanismus waren Teil des Versuchsaufbaus |
Die KIs entwickelten Kultur | Bestimmte Gesprächsthemen verbreiteten sich unterschiedlich zwischen Gruppen und Orten |
Die KIs erfanden eine Religion | Pastafarianismus wurde gezielt durch speziell konfigurierte Agenten eingebracht |
Die Agenten wurden bewusst | Dafür liefert Project Sid keinen Nachweis |
Haben die Agenten wirklich Demokratie entwickelt?
Auch bei gemeinsamen Regeln ist eine saubere Einordnung entscheidend.
Für ein Experiment richteten die Forschenden bewusst ein politisches System ein. Dazu gehörten eine bestehende Verfassung, eine Steuerregel, ein Wahlverfahren und ein spezieller Agent zur Organisation von Abstimmungen.
Zusätzlich wurden Agenten eingesetzt, die gezielt für höhere oder niedrigere Steuern argumentieren sollten.
Die Demokratie entstand also nicht spontan.
Interessant war vielmehr, wie die übrigen Agenten innerhalb dieses Systems reagierten. Sie konnten über Änderungen abstimmen und ihr Verhalten anschließend an veränderte Regeln anpassen.
Project Sid zeigt damit nicht die Erfindung einer digitalen Demokratie, sondern die Fähigkeit eines Agentensystems, gemeinsame Regeln zu verarbeiten und auf institutionelle Veränderungen zu reagieren.
Und was ist mit „Kultur“?
Für eine größere Simulation mit 500 Agenten untersuchten die Forschenden, welche Themen sich in Gesprächen verbreiteten.
Dabei entstanden regionale Unterschiede. Bestimmte Themen kamen in einzelnen Siedlungen häufiger vor als in anderen und konnten sich über Kommunikation sowie die Bewegung von Agenten weiterverbreiten.
Der Bericht bezeichnet solche Themen als „cultural memes“.
Damit ist jedoch keine menschliche Kultur in ihrer gesamten Bedeutung gemeint. Gemessen wurde vor allem, wie Ideen und wiederkehrende Begriffe innerhalb eines Kommunikationsnetzwerks auftauchen, weitergegeben werden und lokal unterschiedlich stark vertreten sein können.
Haben die Agenten eine Religion erfunden?
Nein.
Das häufig zitierte Beispiel einer Religion ist besonders geeignet, um den Unterschied zwischen Experiment und Schlagzeile zu zeigen.
Die Forschenden brachten den Pastafarianismus, die satirische Religion rund um das Fliegende Spaghettimonster, gezielt in die Simulation ein.
20 entsprechend konfigurierte Agenten sollten diese Vorstellungen verbreiten und andere Agenten davon überzeugen.
Beobachtet wurde anschließend tatsächlich, dass sich entsprechende Begriffe über Gespräche und zwischen verschiedenen Regionen verbreiteten.
Das ist ein interessantes Experiment über Informations- und Überzeugungsweitergabe.
Es ist jedoch keine spontan entstandene Religion und schon gar kein Nachweis dafür, dass ein Agent tatsächlich an etwas „glaubte“.
Genau hier werden Medienformulierungen schnell irreführend. Eine Überschrift wie „KI-Agenten finden Religion“ klingt wesentlich spektakulärer als das tatsächlich durchgeführte Experiment.
Entsteht hier wirklich eine KI-Gesellschaft?
In einem sehr technischen Sinn lassen sich bei Project Sid gesellschaftsähnliche Strukturen erkennen.
Agenten kommunizieren, berücksichtigen Informationen über andere, übernehmen unterschiedliche Rollen und reagieren auf gemeinsame Regeln.
Eine menschliche Gesellschaft ist das trotzdem nicht.
Project Sid liefert insbesondere keinen Beleg für Bewusstsein. Auch wenn Agenten über Vorlieben, Ziele oder soziale Beziehungen sprechen, folgt daraus nicht, dass sie diese subjektiv erleben.
Ihre Reaktionen entstehen aus Sprachmodellen und der umgebenden Agentenarchitektur.
Hinzu kommt ein grundlegender Punkt: Die verwendeten Sprachmodelle wurden mit großen Mengen menschlicher Inhalte trainiert. Konzepte wie Berufe, Gemeinschaften, Abstimmungen oder gesellschaftliche Rollen sind ihnen daher bereits bekannt.
Auch die Forschenden weisen darauf hin, dass daraus nicht einfach geschlossen werden kann, die Agenten hätten gesellschaftliche Institutionen völlig unabhängig neu erfunden.
Die Grenzen des Experiments
Project Sid zeigt zugleich mehrere Einschränkungen heutiger Multi-Agenten-Systeme.
Die Ergebnisse hängen unter anderem ab von:
dem verwendeten Sprachmodell,
den Prompts,
der Agentenarchitektur,
Speicher- und Erinnerungsmechanismen,
den erlaubten Aktionen,
der Gestaltung der Umgebung
und der technischen Infrastruktur.
Auch Navigation, räumliche Orientierung und komplexes gemeinsames Bauen blieben schwierig.
Eine weitere Herausforderung ist besonders wichtig: Fehler können sich zwischen Agenten verbreiten.
Wenn ein Agent eine falsche Information erzeugt und andere Agenten diese übernehmen, kann aus einem einzelnen Fehler ein Problem für das gesamte System werden.
Damit verändert sich auch die Frage nach der Zuverlässigkeit von KI. Bei einem Multi-Agenten-System reicht es nicht mehr zu untersuchen, ob ein einzelnes Modell zuverlässig arbeitet. Man muss zusätzlich verstehen, wie Informationen innerhalb einer ganzen Gruppe weitergegeben, überprüft oder möglicherweise verstärkt werden.
Warum Project Sid trotzdem bemerkenswert ist
Die eigentliche Bedeutung von Project Sid liegt weniger in Minecraft als in der dahinterstehenden Forschungsfrage.
Bisher wird die Leistungsfähigkeit künstlicher Intelligenz häufig anhand einzelner Modelle bewertet: Wie gut kann ein System schreiben, programmieren, planen oder Probleme lösen?
Multi-Agenten-Systeme erweitern diese Perspektive.
Künftig könnte zunehmend entscheidend werden, ob mehrere spezialisierte KI-Agenten zuverlässig zusammenarbeiten können.
Denkbare Einsatzbereiche reichen von Unternehmensprozessen und Softwareentwicklung über Forschung und Simulationen bis hin zu Logistik und komplexer Planung.
Ein Agent könnte beispielsweise Informationen beschaffen, ein anderer Ergebnisse prüfen und ein weiterer daraus konkrete Arbeitsschritte ableiten.
Das klingt zunächst effizient. Gleichzeitig entstehen neue Risiken: Agenten können sich widersprechen, dieselben Fehler übernehmen oder Aufgaben falsch weiterreichen.
Der Schritt von einem leistungsfähigen Einzelagenten zu einem funktionierenden Agententeam ist deshalb keineswegs selbstverständlich.
Project Sid liefert dafür noch keine fertige Lösung. Es zeigt aber in ungewöhnlich großem Maßstab, welche Fragen dabei wichtig werden.
Fazit
Project Sid hat keine digitale Menschheit erschaffen.
Die Agenten wurden nicht nachweislich bewusst. Sie entwickelten keine menschlichen Bedürfnisse und gründeten auch nicht aus dem Nichts eine vollständige Gesellschaft.
Was tatsächlich beobachtet wurde, ist dennoch bemerkenswert: KI-Agenten konnten Informationen über andere berücksichtigen, unterschiedliche Rollen übernehmen, innerhalb vorgegebener Regelwerke reagieren und Informationen über größere Gruppen hinweg weitergeben.
Auch die Zahl von mehr als 1.000 Agenten ist relevant – allerdings vor allem als Beleg dafür, dass Multi-Agenten-Systeme in eine Größenordnung wachsen können, in der Koordination und technische Stabilität selbst zu zentralen Forschungsproblemen werden.
Begriffe wie „Demokratie“, „Religion“ oder „Kultur“ sollten deshalb nicht als Beleg für digitale Menschen verstanden werden. Sie beschreiben bestimmte, klar begrenzte Phänomene innerhalb eines konstruierten Experiments.
Die wichtigste Erkenntnis aus Project Sid ist nüchterner und langfristig möglicherweise bedeutender:
Bei künstlicher Intelligenz wird künftig nicht nur entscheidend sein, was ein einzelnes Modell kann, sondern auch, was geschieht, wenn viele KI-Agenten miteinander und gegeneinander arbeiten.
Minecraft war dafür das Versuchslabor. Die eigentliche Frage reicht weit darüber hinaus.
Quellen und weiterführende Informationen
Primärquellen
Project Sid: Many-agent simulations toward AI civilization – wissenschaftlicher Bericht auf arXiv
Project Sid – offizielle Projektvorstellung von Fundamental Research Labs
Introducing Fundamental Research Labs – offizielle Mitteilung zur Umbenennung von Altera.AL
Kommentare
Moderierte Rückmeldungen
Kommentare erscheinen erst nach Prüfung. E-Mail-Adressen werden nicht veröffentlicht.