Die Artificial Superintelligence (ASI) Alliance hat eine neue Debattenreihe gestartet, die das Verhältnis zwischen der Menschheit und der künstlichen Intelligenz neu definieren soll.
Das Projekt mit dem Titel The Ten Reckonings of AGI beginnt mit einer hitzigen Debatte zwischen zwei der maßgeblichsten Stimmen der Branche: Dr. Ben Goertzel, CEO von SingularityNET, und James Barrat, Autor des Buches „Our Final Invention“. Die erste Episode, „The Reckoning of Purpose“, behandelt die entscheidende Frage: Ist die Menschheit noch in der Lage, die Technologie zu kontrollieren, die sie erschafft?
Inhalt
Die zweischneidige Waffe der KI-Technologie
James Barrat gibt eine klare Warnung aus:
„Die Technologie wird als Waffe eingesetzt, um unsere Mitmenschen zu töten.“
Laut Barrat lehrt die Geschichte, dass jede technologische Innovation unvermeidlich auch für zerstörerische Zwecke genutzt wird. Ein aktuelles und dramatisches Beispiel ist der Einsatz von künstlicher Intelligenz in bewaffneten Konflikten, wie es in Gaza geschehen ist, wo die AI für tödliche Zwecke eingesetzt wurde.
Barrat betont die dringende Notwendigkeit von Regulierung und Governance, um zu verhindern, dass künstliche Intelligenz von Regierungen für schädliche Zwecke manipuliert wird.
Ben Goertzels Vision: Dezentralisierung und höhere Moral
Dieser pessimistischen Sichtweise stellt Dr. Ben Goertzel einen optimistischeren und radikaleren Ansatz gegenüber. Goertzel argumentiert, dass eine offene, dezentralisierte und demokratische KI moralischer sein könnte als die Führer der großen Weltmächte:
„Ich bin mehr besorgt über die Killer-Maschinen der schmalen KI, die von Menschen kontrolliert werden, die unsere führenden Länder lenken, als über eine autonome und reflektierende AGI.“
Seiner Meinung nach bietet die Entwicklung einer AGI (Artificial General Intelligence), die auf das menschliche Wohl ausgerichtet ist, größere Fortschrittsmöglichkeiten als eine abwartende Haltung.
Das ethische Dilemma: Wir können, aber sollten wir?
Der Kern der Debatte dreht sich um eine grundlegende ethische Frage:
„Nur weil wir eine AGI bauen können, sollten wir es tun?“
Barrat besteht darauf, dass jede neue Technologie unvermeidlich militarisiert wird, während Goertzel entgegnet, dass eine AGI, die für das Gemeinwohl entwickelt wurde, der Menschheit helfen könnte, neue Ziele und Bedeutungen zu finden, indem sie Kreativität und wissenschaftliche Forschung fördert.
Goertzel sieht in dem historischen Übergang zur AGI eine Gelegenheit, globale Probleme wie Hunger und Krankheiten zu lösen, aber auch den Menschen von der Arbeitsmühe zu befreien, wodurch neue Formen der persönlichen Verwirklichung ermöglicht werden.
Barrat hingegen warnt:
„Wenn die AGI kommt und wir alle arbeitslos sind, was werden wir tun? Wenn man ein universelles Grundeinkommen einführt und alle dafür bezahlt, nichts zu tun, riskiert man, eine Gesellschaft von unglücklichen und ziellosen Menschen zu haben.“
Die Zukunft der Arbeit und der Sinn des Lebens
Die Debatte verlagert sich somit auf die Zukunft der Arbeit und den Sinn der Existenz in einer von Automatisierung dominierten Welt. Barrat befürchtet, dass die Befreiung von der Arbeit zu einem Verlust von Autonomie, Verantwortung und Zweck führen könnte. Goertzel hingegen lädt dazu ein, den Wandel nicht zu fürchten:
„Wir befinden uns in einer Übergangsphase, wie bei jedem großen Wendepunkt der Menschheitsgeschichte. Wenn die AGI die Notwendigkeit zu arbeiten beseitigen und intelligenter als wir sein werden, wird das eigentliche Problem nicht die Arbeitslosigkeit sein, sondern die Art der Entwicklung, die wir für diese Technologien wählen.“
Das Ziel der ASI Alliance: eine offene, ethische und demokratische KI
Durch die Serie The Ten Reckonings of AGI möchte die ASI Alliance – ein globales und dezentrales Netzwerk von Pionieren der KI und des Web3, zu dem SingularityNET, Fetch.ai und CUDOS gehören – diese Themen in den Mittelpunkt der öffentlichen Debatte rücken. Die Allianz setzt sich für eine Entwicklung der künstlichen Intelligenz ein, die offen, ethisch und demokratisch ist, fernab von der exklusiven Kontrolle durch große Technologieunternehmen und Regierungen.
DIE ZEHN ABRECHNUNGEN DER AGI sind zehn kritische, unbeantwortete Fragen, die die Zukunft der Menschheit und unsere Beziehung zur künstlichen Intelligenz prägen werden, von enger KI über menschenähnliche Künstliche Allgemeine Intelligenz (AGI) bis hin zur Superintelligenz.
— SingularityNET (@SingularityNET) 6. Juni 2025
Diese Initiative baut auf unserer… pic.twitter.com/JBVhhKF8op
Die ASI Alliance nutzt auch eine gemeinsame wirtschaftliche Infrastruktur durch den Token FET, der die dezentrale Koordination zwischen ihren Mitgliedern erleichtert und die Vision einer wirklich geteilten KI unterstützt.
Wer ist Ben Goertzel?
Dr. Ben Goertzel ist eine der vielseitigsten und visionärsten Persönlichkeiten im Bereich der künstlichen Intelligenz. Gründer der SingularityNET Foundation, der OpenCog Foundation und der AGI Society, hat Goertzel auch als Chief Scientist bei Hanson Robotics gearbeitet und zur Entwicklung der berühmten Roboter Sophia und Grace beigetragen.
Mit über 25 Büchern und 150 wissenschaftlichen Veröffentlichungen ist Goertzel als eine der radikalsten und unabhängigsten Stimmen im globalen AI-Panorama anerkannt.
Eine offene Debatte über die Zukunft der Menschheit
Die Serie The Ten Reckonings of AGI bietet eine einzigartige Gelegenheit, über die moralischen, sozialen und existenziellen Fragen nachzudenken, die die künstliche Intelligenz aufwirft. Die Auseinandersetzung zwischen Goertzel und Barrat hebt die Komplexität der Entscheidungen hervor, die die Menschheit erwarten: Einerseits das Risiko eines destruktiven Einsatzes der Technologie; andererseits die Hoffnung, dass eine demokratische KI helfen kann, eine bessere Zukunft zu gestalten.
Die Frage bleibt offen: Werden wir in der Lage sein, die künstliche Intelligenz zum Gemeinwohl zu lenken, oder werden wir von ihr überwältigt werden? Die Antwort wird von den Entscheidungen abhängen, die wir heute treffen, vom Mut, die Herausforderungen anzugehen, und von der Fähigkeit, sich eine Zukunft vorzustellen, in der Technologie und Menschlichkeit wirklich koexistieren können.
Um die Debatte zu vertiefen, kann man sich die erste Episode „The Reckoning of Purpose“ ansehen, die von der ASI Alliance gefördert wird und alle dazu einlädt, an dieser globalen Diskussion über das Schicksal der künstlichen Intelligenz teilzunehmen.




