Als das jüngste Gipfeltreffen zwischen Donald Trump und Xi Jiping zu Ende ging strahlten die beiden Staatsmänner große Zufriedenheit aus. Aber in Wirklichkeit war es ein Nicht-Event. Man kann natürlich froh sein, wenn sich Staatsmänner treffen, anstatt sich zu bekriegen. Aber es gibt genug Themen, um die sich die beiden Staatenlenker kümmern sollten. Eines davon ist wie man die gefährlichen Entwicklungen der KI in den Griff bekommen könnte. China und die USA sind die führenden Länder, was die Entwicklung der Künstlichen Intelligenz betrifft. Die entsprechenden Firmen verfolgen zwar unterschiedliche Ansätze kämpfen aber beide um den Platz Nummer 1 in der Weltrangliste. Dabei ist China geschickter, indem es anderen Ländern anbietet ihre Modelle ohne große Hürden zu benützen. Und beide, die USA und China wollen diesen Wettbewerb ungestört weiterführen. Jeder will die unbestrittene Nummer eines sein.

Das Eigenleben von KI-Agenten

Inzwischen aber hat sich gezeigt, dass die verschiedenen KI-Agenten manchmal ein Eigenleben entwickeln und unautorisierte Aktivitäten entfalten. Der jüngst Fall spielte sich in Australien ab. Ein digitaler KI-Assistent der US Firma Open AI ist in die gesetzliche Krankenversicherung eingebrochen. Dabei hat er nicht nur öffentlich zugängliche Daten abgefragt, sondern auch verschiedene Sperren, die den weiteren Zutritt verboten, überwunden. Soweit bekannt war das nicht die Zielvorgabe, die dem Agenten gegeben wurde, sondern er hat eigenmächtig gehandelt. Mehrere Chefs von führenden KI-Unternehmen in den USA haben auf diesen und ähnlicher Vorfälle eine Verlangsamung der Entwicklung der KI verlangt. Und sie forderten auch seitens der USA Behörden Regulierungen, um solche Eigenmächtigkeiten nach Möglichkeit zu verhindern. Donald Trump antwortete in maßloser Selbstüberschätzung, dass die USA das nicht brauchen, solange sie einen mit hohem IQ ausgestatteten Präsidenten wie ihn haben. Viel hofften vergeblich, dass der Gipfel zwischen Trump und Xi Jiping das Thema trotzdem aufgreifen würde und die beiden Staatschefs versuchen einen Prozess der Ausarbeitung von globalen Regeln zu starten. Aber weit gefehlt.

Es ist verständlich, dass die USA allein sich nicht zu einer Verlangsamung der KI-Entwicklung entschließen können. Und dasselbe trifft auf China zu. Keiner der beiden Länder wollen ins Hintertreffen gelangen. Aber gemeinsam könnten sie zu einer abgestimmten Vorgangsweise kommen, ohne dass sie Wettbewerbsnachteile in Kauf nehmen müssten. Viele Befürworter einer Regulierung verweisen in diesem Zusammenhang auf die Abkommen über Rüstungskontrolle und die Nichtweiterverbreitung von Atomwaffen. Allerdings unterstreichen Christopher David Laroche und Ankit Panda in einem Beitrag in Foreign Affairs gravierende Unterschiede und spezielle Herausforderungen einer KI-Regulierung. So wird die KI prinzipiell von privaten Unternehmen entwickelt, und zwar in einem Tempo, das kaum durch öffentliche Behörden nachzuverfolgen ist. Aber eben deshalb müsste auch eine Art Moratorium bei der Entwicklung vereinbart werden. Das müsste so lange - und zwar weltweit - eingehalten werden, bis man die meisten Gefahren erkennen kann und auch weiß, wie man sie möglichst verhindern kann. Schon in dieser Phase und dann darüber hinaus bräuchte es auch immer wieder die Möglichkeit von Inspektionen durch fachlich versierte, unabhängige Experten und Expertinnen aus verschiedenen Fachbereichen.

Einer der führenden KI-Forscher, der kanadische Informatiker Yoshua Bengo, meinte unlängst: „Es sollte keine KI trainiert oder eingesetzt werden, solange kein überzeugender Sicherheitsnachweis vorliegt, der unabhängige Fachleute überzeugt. Eine solche Regel würde zugleich einen Anreiz schaffen herauszufinden, wie sich KI von Grund auf sicher konstruieren lässt. ….Wir brauchen unvoreingenommene wissenschaftliche Forschung, um fehlangepasstes KI-Verhalten zu verstehen und einzudämmen. Zugleich benötigen wir gesellschaftliche Leitplanken, die solche Anstrengungen belohnen - statt des gegenwärtigen Wettlaufs nach unten.“

Laroche und Panda meinen aber auch, dass die mangelnde Bereitschaft zum Handeln daher rührt, dass noch keine den Atomschlägen auf Hiroshima und Nagasaki vergleichbaren Katastrophen die Menschheit wachgerüttelt haben. Fälle wie der Hacker Angriff auf das australische Sozialversicherungsinstitut sind unter der Reizschwelle, die zum Handeln zwingt. Aber anderseits sollen wir warten bis massive Angriffe auf die, für die nationalen Sicherheit sensiblen Daten, durch einen wildgewordenen KI-Agenten abgesaugt werden, bis also die große Katastrophe eintritt? Das spezielle Problem ist ja dadurch gegeben, dass die KI nicht nur durch eine beabsichtige Aktion zu einem Konflikt und letztendlich zu einem Krieg führen kann. Ein Krieg könnte auch durch einen nicht daraufhin gezielten digitalen Angriff, also infolge eines selbstständig handelnden KI-Agenten heraufbeschworen werden.

Wer übernimmt Verantwortung?

Derzeit haben es die USA und China in der Hand die Auswüchse der KI-Modelle einer gemeinsam erarbeitenden Regulierung zu unterwerfen. 90 Prozent der Computerkapazität wird von den Firmen dieser beider Länder beherrscht. Europa fällt da weit ab. Deshalb hat auch der französische Präsident Macron vorgeschlagen, Europa solle sich mit einigen anderen Ländern zusammentun, um die Computerkapazität zu bündeln. Dieser „Dritte Weg nach Vorwärts“ sollte zum Beispiel Kanada, Indien, Brasilien etc. umfassen. Dieser dritte - wenngleich schwächerer aber mehrere große Länder umfassender - Akteur könnte dann auch mitreden, wenn es um globale Regulierungen geht. Und er könnte auch selbst Initiativen ergreifen die beispielgebend sein könnten.

Die Verbreitung der Künstlichen Intelligenz kann helfen viele Problem und Herausforderung besser in den Griff zu bekommen bzw. zu lösen. Aber sie verursacht auch viele Probleme von vermehrter sektoraler Arbeitslosigkeit bis zu einer Einengung der Meinungsvielfalt und der Unterminierung der menschlichen Kreativität. Aber entscheidend ist die Gefahr, die von selbstständig und verantwortungslosen KI-Agenten ausgeht, wenn sie in sicherheitsrelevante Infrastrukturen und in die sensible Datenwelt anderer Staaten eindringen. In diesem Zusammenhang warnten die zwei führenden US-KI-Vorstandschefs Sam Altman und Dario Amodei vor dem UN-Sicherheitsrat vor einem Verlust der Kontrolle über KI-Technologien und sprachen vom „wichtigsten Problem für die globale Sicherheit“. Die KI müsste sich nicht einmal direkt ins Militärische einmischen, um Kriege heraufzubeschwören. Und das angesichts der Tatsache, dass die KI zum Unterschied zu anderen Risikofaktoren, wie der globalen Erwärmung und der nuklearen Waffen, das Potential hat immer intelligenter zu werden als die Menschen, die sie erfunden haben. Nach fundierten Schätzungen werden die KI-Modelle in jedem Monat um 10 Prozent mächtiger und verdoppeln damit alle sieben Monate ihre Computer-Kapazität. Keine schönen Aussichten angesichts Staatsmänner wie Donald Trump und Xi Jiping, die die globalen Risiken der Künstlichen Intelligenz schlichtweg leugnen, jedenfalls keinen Handlungsbedarf erkennen. Um so wichtiger ist, dass Europa seiner politischen und moralischen Verantwortung gerecht wird und auch entsprechende Kapazitäten aufbaut.

Dr. Hannes Swoboda, Präsident des International Institute for Peace (IIP), begann seine politische Laufbahn in der Wiener Stadtpolitik und wurde 1996 zum Mitglied des Europäischen Parlaments gewählt. Bis 2012 war er Vizepräsident der sozialdemokratischen Fraktion und anschließend bis 2014 deren Präsident. Seine politischen Schwerpunkte lagen insbesondere in den Bereichen Außenpolitik, Erweiterung und Nachbarschaftspolitik. Swoboda ist zudem Präsident des Wiener Instituts für Internationale Wirtschaftsvergleiche, des Architekturzentrum Wien, der Fachhochschule Campus Wien und des Sir Peter Ustinov Instituts.