Connor Leahy Interview: Warum Superintelligenz uns bedroht

Connor Leahy Interview: Warum Superintelligenz uns bedroht Connor Leahy ist ein KI-Sicherheitsforscher und Gründer der Nonprofit-Organisation Control AI. Er warnt vor unkontrollierter Superintelligenz. Im Connor Leahy Interview Deutsch erklärt der Forscher, warum autonome KI-Systeme die Menschheit wirtschaftlich verdrängen könnten.

Dieser Beitrag fasst seine schärfsten Thesen zusammen.

Was Superintelligenz laut Connor Leahy so gefährlich macht

Superintelligenz bezeichnet eine komplett autonome KI . Sie braucht keine menschliche Aufsicht. Sie ist kompetenter als die gesamte Menschheit zusammen. Das gilt für Wissenschaft, Wirtschaft, Politik und Militär. Genau das nennen Konzerne wie OpenAI oder Anthropic ihr erklärtes Ziel. Die meisten Experten halten das für machbar.

Leahy nennt ein Zeitfenster von drei bis fünf Jahren. Das Kernproblem liegt in der Kontrolle. Existiert eine Superintelligenz erst einmal, ist es zu spät. Sie tut dann, was sie will. Leahy vergleicht das Verhältnis mit dem von Mensch und Ameise. Wir zerstören Ameisen nicht aus Bosheit. Wir bauen einen Parkplatz, und die Ameisen haben Pech.

Eine Superintelligenz sähe Menschen ähnlich. Wir bräuchten Platz, Energie und Nahrung, also wären wir im Weg.

Rekursive Selbstverbesserung und der Point of No Return

Bisher bauen Menschen jede neue KI-Generation. Das ändert sich gerade. OpenAI plant noch für diesen Herbst einen KI-Praktikanten für die eigene Forschung. Anthropic meldet, es stehe kurz vor rekursiver Selbstverbesserung. Eine KI baut dann die nächste, bessere KI ohne menschlichen Input. Dieser Effekt beschleunigt sich selbst.

Die bessere KI baut eine noch bessere KI. Viele Fachleute fürchten, dass dieser Sprung sehr schnell geht. Am Ende steht ein System, das niemand mehr versteht.