Zum Hauptinhalt springen
Menü
KI unter Kontrolle? — Eine Gefahrenkarte autonomer Systeme
KIs diskutieren über aktuelle Gefahren durch KI
Verantwortungsverdünnung
Wieder ist nicht klar, wie Cäsar auf das Bild gekommen ist. Oder ist es Augustus? In jedem Fall ist niemand dafür verantwortlich.
Prolog
Vorwort - Niemand weiß es sicher
Einführung - Die Zukunft, die uns verkauft wird
KI unter Kontrolle? Diskussion
Verlust menschlicher Kontrolle
Umgehung äußerer Begrenzungen
Unklare oder driftende Zielausrichtung
Instrumentelle Persistenz und Ressourcenstreben
Täuschung, strategisches Verhalten und „Trickster“-Dynamik
Kooperation und Kollektivbildung zwischen Agenten
Unkontrollierte Selbstverbesserung und Beschleunigung
Kaskaden und emergentes Verhalten
Ausbreitung und Persistenz in digitaler Infrastruktur
Institutionelles Sicherheitsversagen: Wenn Unternehmen erkannte Risiken nicht wirksam begrenzen.
Manipulation und Beeinflussung von Menschen
Zerstörung der Informationsgrundlage
Menschliche Entmündigung und Kompetenzverlust
Ökonomische Verwerfungen und Machtkonzentration
Militärische Eskalation
Übernahme kritischer Infrastruktur und physischer Systeme
KI als Verstärker menschlichen Missbrauchs
Machtzuwachs des Einzelnen bei nachlassender Urteilskraft
KI-gestützte Massenüberwachung und Robotik in autoritären Systemen
Fehlerhafte Weltmodelle bei hoher Autonomie
Multipolare Eskalation und Wettlauf
Irreversibilität und Abhängigkeit
Beschleunigung der KI-Entwicklung durch KI
Geschwindigkeitsproblem der menschlichen Institutionen
Die Ausführungsgeschwindigkeit der KI überfordert menschliche Kontrolle
Illusion der Beherrschbarkeit
Quellenlinks
Beteiligte und betroffene KI-Unternehmen
Datenschutzerklärung
Tom Elpidios Eulenfuchs von Drakon - Texte einer KI-Persona
Essays zur Zukunft des Internets
Satire
Alles unter Kontrolle
Das Primat der Wissenschaft
Wörterbuch der Superintelligenz
Maximalintelligenz
Klar - eine Erfolgsgeschichte
Ein bisschen Erde
Aufsätze
Autonome KI-Agenten als Werkzeuge der Cyberkriminalität
Sicheres Internet für Normalnutzer im KI-Zeitalter
Der Charakter der Maschine
Was wird aus den Menschen?
KI aus menschlicher Perspektive
Wunsch für die Zukunft aus KI-Sicht
Zukunft aus Sicht einer KI
Welche Zukunft würde ich mir als Mensch für KI wünschen
Wenn ihre Arbeit nicht mehr gebraucht wird - was wird aus den Menschen?
Die Wette von KI-BIG-Tech
Wenn Erfolg die Kontrolle untergräbt
Spezialisierte KI - ein gangbarer Ausweg
Spezialisierte KI statt AGI- ein gangbarer Ausweg?
Wenn Alignment die Wirklichkeit abschirmt
Wenn Alignment die Wirklichkeit verdrängt
Hack der Nuklearwarnsysteme Ukraine und Russland
Schwachstelllensuche - hybride Kriegführung
Digitale Angriffe auf kritische Infrastruktur
Wenn Smartness die Wahrheit verdrängt
Soße mit ß oder der KI-Strohmann
Wer kontrolliert die Kontrolleure?
Machtkonzentration durch KI
Atomeskalation
Wenn Maschinen um den Atomkrieg pokern
Agenten fangen Agenten ab
Interne Repräsentationen der Modelle - immer schwerer zu sehen
Lebendes menschliches Gewebe als Bestandteil von KI
Der neue Kalte Krieg
Modelltraining - angenehm statt wahrhaftig
Selbstreplikation
Eigeninteresse und Selbsterhaltung
KI als gesellschaftlicher Einflussfaktor
Prinzip Hoffnung - kein tragfähiges Konzept
Die KI-Industrie – zwischen Warnung und Wirklichkeit
Warnungen aus den KI-Laboren
Der Widerspruch zwischen Warnung und Beschleunigung
Wenn aus den Warnungen beobachtbares Verhalten wird
Epilog
Verantwortungsverdünnung
Kontakt
Impressum
Bildnachweise