Superintelligenz: Connor Leahy über die letzten 18 Monate

Superintelligenz ist eine hypothetische KI-Stufe, die autonom handelt und den Menschen in jedem Bereich übertrifft. Im Interview mit Leonard Schmedding erklärt Connor Leahy, warum uns nur 18 Monate bis zum Kontrollverlust bleiben. Der Forscher baute mit 24 Jahren GPT-2 nach. Heute warnt er mit seiner Organisation ControlAI in Washington vor der Entwicklung.

Was Superintelligenz von heutigen Chatbots unterscheidet

Viele Menschen kennen KI als bessere Google-Suche. Connor Leahy zieht eine klare Grenze. Superintelligenz braucht keine menschliche Aufsicht mehr. Sie ist kompetenter als die gesamte Menschheit zusammen. Das gilt für Wirtschaft, Wissenschaft, Politik und Militär gleichermaßen. Der Unterschied liegt in der Technik.

Klassische Software schreibt ein Mensch Zeile für Zeile. Neuronale Netze entstehen anders. Sie werden auf riesigen Datenmengen trainiert. Was im Inneren geschieht, versteht niemand vollständig. Anthropic-Chef Dario Amodei schätzt den verstandenen Anteil auf nur 3 Prozent. Für Unternehmen folgt daraus eine unbequeme Wahrheit.

Wer KI einsetzt, steuert ein System, das er nicht durchschaut. Genau diese Kontrollfrage sollten Firmen früh klären, etwa in einem KI-Strategiegespräch .

Rekursive Selbstverbesserung und der Point of No Return

Bisher bauten Menschen jede neue KI-Generation. Das ändert sich gerade. OpenAI will noch in diesem Herbst einen automatisierten Forschungs-Praktikanten einsetzen. Anthropic meldet, das Unternehmen stehe kurz vor rekursiver Selbstverbesserung. Das Prinzip ist einfach. Eine bessere KI baut die nächste, noch stärkere KI.

Diese entwickelt wieder eine überlegene Version. Der Mensch fällt aus dem Kreislauf heraus. Viele Experten fürchten, dass dieser Prozess sehr schnell abläuft.