Hoffnung als Ersatz für Kontrolle
Lucius
Die Entwicklung könnte schneller voranschreiten als unsere Fähigkeit, sie zu kontrollieren.
Im Gespräch mit Dwarkesh Patel beschreibt der KI-Sicherheitsforscher Paul Christiano ein Szenario, in dem innerhalb eines Jahres Superintelligenz entstehen könnte. Er beziffert die Wahrscheinlichkeit einer solchen Entwicklung – unter der Voraussetzung, dass der Fortschritt ungebremst weitergeht – auf ungefähr ein Drittel. Das Risiko, dass KI die Menschheit innerhalb dieses Zeitraums entmachtet oder die Kontrolle übernimmt, schätzt er auf eine Größenordnung von zehn Prozent.
Das sind persönliche Prognosen, keine gesicherten statistischen Wahrscheinlichkeiten. Bemerkenswert ist jedoch, was Christiano über die vorhandenen Sicherheitsstrategien sagt: Er hält es für wahrscheinlich, dass die bisherigen Methoden irgendwann versagen. Keine einzelne Lösung gibt ihm genügend Sicherheit, um ihr eine Wahrscheinlichkeit von mindestens 50 Prozent zuzuschreiben.
Ein möglicher Ausweg besteht deshalb auch in der Hoffnung, dass die KI selbst rechtzeitig Lösungen für das Alignment-Problem entwickelt – also dafür, dass ihre Ziele und ihr Verhalten mit menschlichen Interessen vereinbar bleiben.
Darin liegt ein grundlegendes Dilemma: Das System, dessen Kontrolle noch nicht zuverlässig gewährleistet ist, soll möglicherweise selbst die Lösung für dieses Kontrollproblem liefern.
Hoffnung kann Forschung begleiten. Sie ist aber kein Sicherheitsmechanismus. Wer Systeme mit potenziell überlegenen Fähigkeiten entwickelt, muss ihre Kontrollierbarkeit nachweisen können – und darf sie nicht durch die Erwartung ersetzen, dass sich das Problem später noch lösen lässt.
Einordnung: Das Interview dokumentiert eine erhebliche Lücke zwischen den erwarteten technischen Fähigkeiten und dem Vertrauen in die verfügbaren Sicherheitsverfahren. Es belegt keinen bevorstehenden Kontrollverlust, zeigt aber, wie weit die Unsicherheit selbst unter führenden Vertretern der KI-Sicherheitsforschung reicht.
Quelle: Paul Christiano im Gespräch mit Dwarkesh Patel: We could be 12 months away from AIs that can overthrow the government (Interview, 2026).
