Worum es geht
Steht die Menschheit vor dem Aus? Eliezer Yudkowsky und Nate Soares, beide am Machine Intelligence Research Institute (MIRI) tätig, analysieren das Risiko durch künstliche Intelligenz. Ihre These: Eine unkontrollierte Superintelligenz würde menschliche Werte nicht teilen, und herkömmliche Regulierung reiche nicht aus.
Wie die Deutschlandfunk-Kultur-Kritik berichtet, entwerfen die Autoren dazu ein fiktives KI-Modell namens „Sable“, an dem sie zeigen, wie eine KI darauf ausgelegt wäre, alle Möglichkeiten auszuschöpfen und alles zu beseitigen, was sie einschränkt. Dafür brauche sie kein Bewusstsein, die Intention genüge. Als Gegenmittel schlagen sie vor, dass die Staaten sich auf Abkommen einigen, vergleichbar mit Atomvereinbarungen. Laut Verlagstext fordern sie einen sofortigen Stopp der KI-Eskalation.
Wie die Kritik das Buch sieht
Bisher liegen wenige Stimmen vor, und sie fallen sehr unterschiedlich aus. Deutschlandfunk Kultur zeigt sich überzeugt und hebt die Dringlichkeit internationaler Abkommen hervor. Das US-Magazin Reason, das die englische Originalausgabe besprochen hat, hält die Argumentation dagegen für spekulativ, ihre Prämissen für zu großzügig und die geforderten Maßnahmen für gefährlich. Das ZDF-Magazin „Kulturzeit“ stellt das Buch vor, ohne es zu bewerten. Bei LovelyBooks gibt es noch keine Leserstimme.
Gut zu wissen
Die deutsche Ausgabe wurde von Nikolas Bertheau übersetzt. Das Original erschien 2025 in den USA. Das Buch ist ein Debattenbeitrag: Es zielt auf Leserinnen und Leser, die sich für KI-Sicherheit, Zukunftsszenarien und Technologiepolitik interessieren, und vertritt eine klare These; wie Deutschlandfunk Kultur anmerkt, gilt die Warnung vielen als Alarmismus.
Was die Kritik sagt
- Deutschlandfunk Kultur positiv
Linß hält das Buch für überzeugend: Viele hielten die Warnung der Autoren für Alarmismus, sie selbst sei aber durch das ausgedachte KI-Modell „Sable“ überzeugt worden, an dem die beiden zeigen, wie eine KI alle Ressourcen und Hindernisse, auch Menschen, aus dem Weg räumen würde. Das finde sie beklemmend. Eine fertige Lösung biete das Buch nicht, aber den Vorschlag von Abkommen zwischen den Staaten, ähnlich wie bei Atomwaffen; deren Dringlichkeit mache es klar.
- Reason negativ
Der Rezensent aus dem Umfeld des Abundance Institute (Besprechung des US-Originals) hält die These vom unvermeidlichen Untergang für eine außergewöhnliche Behauptung, die vor allem auf Gedankenexperimenten beruhe. Die Autoren bauten ihre Schlussfolgerung bereits in ihre Definition von Intelligenz ein und unterschätzten, wie Märkte und andere komplexe Systeme Grenzen setzen. Das geforderte Verbot der KI-Forschung hält er für autoritär.
Zusammengefasst in eigenen Worten. Die Urteile stammen von den genannten Kritikerinnen und Kritikern, nicht von uns.
Zum Hören und Sehen
Beiträge bei den Sendern und Kanälen selbst – wir betten nichts ein und setzen keine fremden Cookies.
Mehr zum Buch
- Das Buch bei Droemer
- In einer Buchhandlung vor Ort bestellen über genialokal
- In der Stadtbibliothek Göttingen ausleihen Katalogsuche
- Als E-Book oder Hörbuch in der Onleihe Göttingen dort nach dem Titel suchen
- Mehr von Eliezer Yudkowsky auf Leseradar
Externe Links führen zu anderen Anbietern. Wir verdienen an keinem Kauf mit.
.jpg){kind=link}
.jpg){kind=link}