KI-Wettrennen: Chefs der US-Konzerne wollen Tempo drosseln
Ist es eine echte Angst vor der Machtübernahme durch KI? Oder gutes Marketing? OpenAI, xAI und Anthropic warnen vor KI-Agenten und davor, dass die Menschen die Kontrolle über die Technologie verlieren.
Liest man die Schlagzeilen, werden KI-Anwendungen angeblich jede Woche schneller und besser. Gestern gab es ein Update von Claude, heute eines bei ChattGPT und morgen folgt das von Grok. Zwischendurch erfahren wir, dass autonome KI-Agenten ausgebrochen sind und sich zu Hackerangriffen verabredet haben.
Es scheint, als würde auch den Chefs der grossen KI-Unternehmen etwas mulmig werden. Jedenfalls plädieren sie gerade in seltener Einigkeit dafür, bei der Entwicklung Tempo rauszunehmen. Zuerst hatte Dario Amodei, CEO von Anthropic, vor einer Übernahme des Internets durch KI-Agenten gewarnt. In einem Essay auf seiner eigenen Homepage schreibt er von Risiken, die von Cyberattacken bis zu Bioterrorismus reichen. Und weiter:
«Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern.»
Es sei wichtig, so Amodei, sich die Zeit zu nehmen, neue Modelle besser prüfen zu können. Der Anthropic-Chef wünscht sich ausserdem, dass sich KI-Unternehmen und Staaten abstimmen. Sie sollen globale Sicherheitsstandards sowie Obergrenzen für das Entwicklungstempo definieren. Es brauche hier staatliche Unterstützung.
Diese Aussage klingt wie ein Hilferuf der Tech-Branche – lieber Staat, reguliere uns, damit unser aberwitziges Wettrennen stoppen können! Von Sam Altman und Elon Musk kam direkt via Social Media Zustimmung zu Amodeis Vorschlag für ein Moratorium. Ausgerechnet die Drei, die sich sich sonst nicht einmal das Schwarze unterm Fingernagel gönnen, waren sich plötzlich einig.
Quelle: Shutterstock
Allerdings ist eine Warnung, die aus der Branche selbst kommt, immer auch gutes Marketing. Wer sagt «Unsere KI könnte die Welt bedrohen», bringt implizit auch eine andere Botschaft an die Kundinnen und Investoren, nämlich: «Unsere KI ist extrem leistungsfähig.» Es mutet bisweilen zynisch an, dass die Anbieter regelmässig solche Untergangsszenarien von sich geben, während sie gleichzeitig Milliarden und Abermilliarden an Dollar in den weiteren Ausbau stecken, ohne dass ihre Firmen damit auch nur annähernd profitabel wären. Was sind die Warnungen also? Echte Sorge oder geschicktes Marketing? Vielleicht ja beides.
Kurz vor Amodeis Essay publizierte Anthropic einen «Bedrohungsbericht». Der Report beschreibt detailliert, wie verschiedene Akteure die Claude-KI-Modelle für illegale Aktivitäten genutzt haben.
Für grosse Aufregung sorgt zudem der Rücktritt des Anthropic-Forschers Jacob Coxon. Er warnte vor einem Szenario, in dem eine KI, die sich selbst immer weiter verbessert, die Menschen umbringt, um zu verhindern, dass sie abgeschaltet wird. Im Szenario entwickelt eine Superintelligenz ein tödliches Virus und lässt es auf die Menschheit los.
«KI-Entwickler glauben ernsthaft, dass die KI uns alle bis zum Ende des Jahrzehnts töten könnte.»
KI-Aussteiger wie Coxon schaffen es immer wieder in die Schlagzeilen. Zum einen, weil sie für die Auslöschung der Menschheit eine Wahrscheinlichkeit in Prozent liefern. Zum anderen aber auch, weil so ein Ausstieg häufig gut vorbereitet ist. Da werden Auftritte in Talkshows und Podcasts eingeplant, manchmal ist auch der lukrative Deal zu einem Enthüllungsbuch schon unterschrieben.
Andere Entwickler und Branchenvertreter glauben sogar, das Jahr zu wissen, in dem es passiert. Nur ist die Streuung bei beiden Prognosen sehr hoch. Ein KI-bedingtes Aussterben unserer Spezies ist zwischen 0,01 Prozent und 99 Prozent wahrscheinlich. Falls es passiert, könnte das 2030 soweit sein – oder auch erst 2050. Kurz gesagt: Niemand weiss es.
Man könnte noch eine dritte Motivation vermuten, neben ernster Sorge und Marketing. Wer nämlich als Erster nach Regulierung ruft, sitzt auch als Erster am Tisch, wenn diese Regulierung geschrieben wird. Für etablierte Player wie OpenAI, Anthropic oder xAI wären globale Sicherheitsstandards und Entwicklungs-Obergrenzen ein Wettbewerbsvorteil: Sie haben das Geld, sich an neue Regeln anzupassen. Anders als kleine Konkurrenten, die gerade erst versuchen, ins Rennen einzusteigen. Eine von der Industrie mitgestaltete Regulierung schadet selten den Platzhirschen.
Es gäbe auch noch einen angenehmen Nebeneffekt einer Pause für Regulierungen: Die Konzerne könnten die gigantischen Ausgaben bremsen, die sie derzeit haben, um immer neue KI-Modelle zu bauen. Die Sprünge von Version zu Version sind heute viel kleiner als noch vor einem oder zwei Jahren, die Kosten aber bleiben hoch, steigen zum Teil sogar weiter. Die Modelle werden immer grösser, werden mit immer mehr Daten trainiert, verbrauchen immer mehr Ressourcen. Die AI-Firmen haben dutzende Milliarden Dollar investiert – ohne dass erkennbar wäre, wie das Geld wieder reinkommt.
Die US-Regierung will nicht regulieren
Trotz wiederkehrender Doomsday-Warnungen und trotz des jüngsten Vorstosses der KI-Branche will die Regierung Trump in den USA sich derzeit nicht regulatorisch betätigen. Der US-Präsident nennt die Warnungen der Unternehmen sogar einen «Schwindel». Es gebe eine «kranke Verschwörung» gegen KI und die dafür nötigen Rechenzentren, behauptet Trump. Er selbst sei die beste Kontrollinstanz für KI-Anwendungen und ausserdem der beste «Schwindel-Jäger». So habe er schliesslich bereits den Schwindel mit der globalen Klimaerwärmung aufgedeckt. Der 80-Jährige will also das Bollwerk gegen eine Tech-Revolution sein, die ausser Kontrolle geraten könnte. Der Mann, der sich von einer Assistentin mit portablem Drucker Digitales ausdrucken lässt.
Für Trump ist offensichtlich wichtiger, dass die US-Unternehmen das Wettrennen um die besten KI-Modelle gegen China gewinnen. Auch in China sind keine Massnahmen in Sicht, die deren Entwickler ausbremsen könnten. Beide Grossmächte fürchten also, gegenüber dem Konkurrenten zurückzufallen und machen deshalb weiter.
Oder wie es Ray Kump, ein US-amerikanischer Comedian, in einem Tweet formuliert: «Wir müssen die KI bauen, die uns umbringt, denn wenn wir das nicht tun, baut China sie zuerst, und ich will nicht von einem Computer ermordet werden, der Chinesisch spricht. Das wäre lächerlich.»
Die Welt müsste zusammenspannen
Es geht nicht nur darum, dass sich eine permanent selbst verbessernde KI irgendwann über die Menschheit erhebt und sie auslöscht. Schon heute sind Anwendungen möglich, die reguliert gehören. Niemand kann wollen, dass Hacker-Agenten im Internet nach persönlichen Daten von Millionen Menschen jagen. Und finden wir es wirklich okay, wenn Lenkraketen oder Schwärme von Bomben-Drohnen ohne menschliche Kontrolle losfliegen, um Menschen zu töten?
Die Entwicklung von KI müsste global gelenkt und kontrolliert werden. Nur kommt der Menschheit hier die Psychologie in die Quere. Wir sind so programmiert, dass wir ferne Konsequenzen systematisch geringer gewichten als nahe. Anders gesagt: Ein Gewinn oder Verlust in 20 oder 50 Jahren fühlt sich psychologisch viel kleiner an als ein Gewinn oder Verlust morgen – selbst wenn er objektiv gravierender ist. Die schlimmsten KI-Szenarien passieren gefühlt in einer diffusen Zukunft. Auch deshalb machen wir uns – wie Donald Trump – lustig über Roboter-Armeen, die durch unsere Städte marschieren. So distanzieren wir uns von der Notwendigkeit des Handelns. Und können weitermachen wie bisher.
Es gibt jedoch auch Zeichen der Hoffnung, Stimmen für Kooperation und Vernunft. In den USA sieht die Bevölkerung die KI-Rechenzentren mittlerweile sehr kritisch. In Umfragen gibt es grosse Mehrheiten, die eine Regulierung von KI befürworten. Die allermeisten Menschen sehen eine Gefahr für die Demokratie, weil KI Wahlen manipuliert oder die Meinungsbildung verzerrt.
Politiker, erst recht, wenn sie gerade gewählt werden wollen, greifen diese KI-Angst auf. Vielleicht endet das Wettrüsten, wenn sich durch Austausch die Erkenntnis durchsetzt, dass ein ausser Kontrolle geratenes KI-Monster am Ende niemandem nützt.
Journalist seit 1997. Stationen in Franken, am Bodensee, in Obwalden und Nidwalden sowie in Zürich. Familienvater seit 2014. Experte für redaktionelle Organisation und Motivation. Thematische Schwerpunkte bei Nachhaltigkeit, Werkzeugen fürs Homeoffice, schönen Sachen im Haushalt, kreativen Spielzeugen und Sportartikeln.
Interessantes aus der Welt der Produkte, Blicke hinter die Kulissen von Herstellern und Portraits von interessanten Menschen.
Alle anzeigen
