KI-Aussterberisiko: KI-Experten über den Anthropic-Alarm

Das KI-Aussterberisiko beschreibt die Gefahr, dass sehr fähige KI-Systeme die Menschheit auslöschen. Der Ex-Anthropic-Forscher Jacob Coxon hält sie bis 2030 für real. Im VORSPRUNG-Podcast von DIDACTED AI ordnen Prof. Dr. Pero Mićić, Prof. Dr. Andreas Moring, Kim Isenberg und Robert Lange von Sakana AI diese Warnung ein.

Die Runde nimmt dabei GPT-6 Astra, den KI-Beweis zu Navier-Stokes und Chinas Open-Source-Offensive auseinander. Wir bündeln die Fakten der Folge. Danach folgt die Einordnung aus der Beratungs-Praxis.

GPT-6 Astra verschiebt den Zeithorizont

Nvidia-Chef Jensen Huang und OpenAI-Präsident Greg Brockman rufen die AGI-Ära aus. GPT-6 Astra trainierte auf über 100.000 Nvidia-Chips. Weitere 400.000 GPUs gehen als nächstes ans Netz. Die ARC Prize Foundation prüft nach und widerspricht. Im neutralen Aufbau erreicht Astra 62,7 Prozent, mit OpenAIs eigener Software 99,9 Prozent.

Klarer zeigt es der gemessene Zeithorizont. Astra löst Aufgaben von rund 16 Stunden Länge mit 80 Prozent Erfolgsquote. Der Vorgänger schaffte 4,6 Stunden. o3 lag vor einem Jahr bei 30 Minuten, GPT-4 bei 53 Sekunden. Setzt sich die Kurve fort, stehen bis Jahresende rund 160 Stunden im Raum. Pero Mićić hält den Streit um das Label AGI für müßig.

Qualität, Zeit und Kosten verbessern sich messbar. Robert Lange von Sakana AI setzt einen Kontrapunkt. Im Alltag schrumpfen die Unterschiede zwischen den Modellen. Benchmark-Werte steigen, ein Sprung auf jeder Ebene bleibt aus.

Navier-Stokes fällt nach fast 200 Jahren

Ein neues OpenAI-Modell löste das Millennium-Problem Navier-Stokes. 10.000 Agenten arbeiteten 88 Stunden parallel. Umgerechnet auf die API-Preise von Astra kostet dieser Lauf rund 6,5 Millionen Dollar. Der Beweis umfasst 166 Seiten und ist in Lean verifiziert.