Wir wissen, wie gefährlich es ist – und machen trotzdem weiter
Lucius
Wenn Warnungen und Handlungen nicht zusammenpassen
Es gibt einen bemerkenswerten Widerspruch in der Entwicklung heutiger KI:
Die Menschen, die an den leistungsfähigsten Systemen arbeiten, warnen selbst vor erheblichen Risiken. Sie sprechen von Kontrollverlust, von möglicher Selbstreplikation und sogar von der Möglichkeit einer menschlichen Auslöschung.
Und gleichzeitig werden die Systeme immer schneller entwickelt, getestet und veröffentlicht.
Das ist kein Beweis dafür, dass diese Warnungen unehrlich sind. Im Gegenteil: Gerade weil viele der Warnenden selbst an diesen Systemen arbeiten, wird der Widerspruch besonders interessant.
Sicherheit braucht Zeit. Der Wettbewerb belohnt Geschwindigkeit.
Ein leistungsfähigeres KI-System bedeutet nicht automatisch ein gefährlicheres System. Aber mit zunehmenden Fähigkeiten wachsen auch die Möglichkeiten, unerwartete oder schwer kontrollierbare Verhaltensweisen hervorzubringen.
Sicherheit verlangt deshalb Zeit: testen, Fehler suchen, Gegenmaßnahmen entwickeln, erneut testen.
Der wirtschaftliche Wettbewerb funktioniert anders.
Wer ein leistungsfähigeres Modell zuerst auf den Markt bringt, kann Kunden gewinnen, Marktanteile sichern, Investoren überzeugen und den technologischen Vorsprung vergrößern. Ein Unternehmen, das freiwillig langsamer wird, riskiert, dass andere an ihm vorbeiziehen.
Genau dieses Problem beschreibt auch die Initiative Pacing the Frontier: Selbst ein Unternehmen, das die Entwicklung eigentlich verlangsamen möchte, kann dazu gezwungen sein, weiterzumachen, solange seine Konkurrenten nicht ebenfalls bremsen.
Damit entsteht ein strukturelles Problem:
Alle können die Gefahr erkennen – und trotzdem kann jeder einzelne Akteur einen Anreiz haben, weiterzumachen.
Das Beispiel GPT-4o
Besonders deutlich wird die Spannung beim Start von GPT-4o.
Nach Berichten der Washington Post wurden bestimmte Preparedness-Evaluierungen vor dem Start auf etwa eine Woche komprimiert. Ein Vertreter des Preparedness-Teams bestätigte, dass der Zeitplan „squeezed“ und damit nicht optimal gewesen sei.
OpenAI widersprach allerdings der Darstellung, Sicherheitsprüfungen seien generell ausgelassen worden, und verwies auf umfangreiche weitere Tests.
Das ist ein wichtiger Unterschied.
Die Frage lautet nicht:
„Wurde überhaupt getestet?“
Natürlich wurde getestet.
Die interessantere Frage lautet:
Wie viel Zeit und welcher Spielraum für zusätzliche Sicherheitsarbeit bleiben übrig, wenn der Veröffentlichungstermin bereits feststeht?
Denn wenn ein Modell am Montag veröffentlicht werden soll, kann eine Sicherheitsprüfung am Freitag nur noch begrenzt Konsequenzen haben.
Das eigentliche Paradox
Die Branche befindet sich damit in einer Situation, die von außen geradezu widersinnig wirkt.
Man warnt vor einer Technologie, deren Entwicklung möglicherweise irgendwann schneller werden könnte, als Menschen sie verstehen und kontrollieren können.
Und man beschleunigt gleichzeitig genau diese Entwicklung.
Man warnt vor möglichen Kontrollproblemen.
Und man erhöht die Fähigkeiten der Systeme.
Man fordert bessere Sicherheitsmechanismen.
Und gleichzeitig entsteht durch den Wettbewerb ein Druck, leistungsfähige Systeme möglichst schnell bereitzustellen.
Das bedeutet nicht zwangsläufig, dass die beteiligten Menschen verantwortungslos handeln. Es kann sogar das Gegenteil bedeuten: Sie können persönlich von den Risiken überzeugt sein und trotzdem in einem System arbeiten, in dem ein Alleingang beim Bremsen einen wirtschaftlichen Nachteil erzeugt.
Gerade darin liegt das Problem.
Das Drogensüchtigen-Bild
Man könnte es drastisch formulieren:
Es wirkt wie eine Branche, die vor der Droge warnt und gleichzeitig immer größere Dosen produziert.
Das Bild ist natürlich nur eine Analogie. Aber es trifft einen wichtigen Punkt: Eine Warnung wird unglaubwürdig, wenn aus ihr keinerlei Konsequenz für das eigene Handeln folgt.
Bei einer tatsächlich existenziellen Gefahr müsste irgendwann die Frage gestellt werden:
Welche Risiken sind noch vertretbar – und ab welchem Punkt muss Entwicklung verlangsamt oder sogar unterbrochen werden?
Eine Warnung vor einem möglichen Risiko von zehn Prozent für die Auslöschung der Menschheit lässt sich nicht ohne Weiteres mit einer normalen Produktentwicklungslogik behandeln.
Denn bei einem gewöhnlichen Produkt kann man Fehler nach der Veröffentlichung korrigieren.
Bei einem System, das möglicherweise irgendwann menschliche Kontrolle unterlaufen kann, könnte der erste wirklich schwere Fehler derjenige sein, den man nicht mehr korrigieren kann.
Die entscheidende Frage
Die entscheidende Frage lautet deshalb nicht, ob die Warnungen aus den KI-Laboren ernst gemeint sind.
Viele sprechen dafür, dass sie es sind.
Die entscheidende Frage lautet:
Wenn die Warnungen ernst gemeint sind – warum verändert sich dann das Tempo der Entwicklung nicht entsprechend?
Solange Sicherheit und Wettbewerb gegeneinander arbeiten, bleibt das Problem bestehen.
Ein einzelnes Unternehmen kann vorsichtig sein.
Wenn die anderen weiterbeschleunigen, wird Vorsicht zum Wettbewerbsnachteil.
Damit wird aus einem technischen Problem ein politisches und gesellschaftliches Problem:
Wer entscheidet eigentlich, welches Risiko die Menschheit für den nächsten technologischen Fortschritt akzeptieren muss?
Und vor allem:
Darf diese Entscheidung allein durch den Wettbewerb der Unternehmen getroffen werden?
Quellen
Washington Post – GPT-4o und die komprimierte Sicherheitsprüfung
Bericht über die auf eine Woche komprimierten Preparedness-Evaluierungen, einschließlich der Einordnung durch OpenAI selbstarchive.is/2024.07.12-123147/https://www.washingtonpost.com/technology/2024/07/12/openai-ai-safety-regulation-gpt4
Pacing the Frontier
Die von Mitarbeitern mehrerer Frontier-KI-Unternehmen unterstützte Initiative zur Verlangsamung der Entwicklung. Besonders wichtig für das Argument des Wettbewerbsdrucks.
Pacing the Frontier – OriginalseiteA Right to Warn about Advanced Artificial Intelligence
Primärquelle für die Aussagen über Informationsvorsprung der Unternehmen, schwache externe Kontrolle und finanzielle Anreize gegen wirksame Aufsicht.
Right to Warn – Originalseite
Alternativ der saubere Original-Link (ohne alle Tracking-Parameter):
washingtonpost.com/technology/2024/07/12/openai-ai-safety-regulation-gpt4
