Die führenden Köpfe einiger der wichtigsten Unternehmen im Bereich der künstlichen Intelligenz werden den UN-Sicherheitsrat über die Risiken dieser Technologie informieren, während die Staaten darüber debattieren, ob sich KI unkontrolliert entwickeln und eine Bedrohung für die internationale Sicherheit darstellen könnte.
Künstliche Intelligenz entwickelt sich von einem primär technologischen Thema zu einer unmittelbaren Bedrohung der internationalen Sicherheit.
Auf dem Tisch werden einige der heikelsten Fragen zur Entwicklung von KI stehen: wie schnell sich die Technologie weiterentwickeln kann, wie immer leistungsfähigere Systeme kontrolliert werden können und was passieren könnte, wenn sie eines Tages auf eine Weise handeln, die der Mensch nicht vollständig vorhersehen oder kontrollieren kann, berichtete Reuters am Mittwoch.
Sam Altman, der Leiter von OpenAI, Dario Amodei, der Leiter von Anthropic, und Clement Delangue, Mitbegründer von Hugging Face, werden voraussichtlich vor den 15 Mitgliedern des Sicherheitsrates sprechen.
Den Vorsitz des Treffens wird der französische Außenminister Jean-Noël Barrot übernehmen.
ebenfalls
Die USA und China erörtern im Vorfeld des Treffens zwischen Trump und Xi einen Plan zur KI-Sicherheit.
Laut einem OpenAI-Manager, der mit Reportern sprach, wird Altman voraussichtlich die Staats- und Regierungschefs der Welt auffordern, gemeinsame Standards für die Messung der Leistungsfähigkeit von Systemen der künstlichen Intelligenz einzuführen.
Es wird erwartet, dass auch Vertreter der Mitgliedstaaten des Sicherheitsrats, darunter die Vereinigten Staaten und China, zwei der führenden Mächte im globalen Wettlauf um die Entwicklung von KI, auf dem Treffen sprechen werden.
Eine der Sorgen, die diskutiert werden werden, ist das Szenario, in dem künstliche Intelligenzsysteme so leistungsfähig werden, dass sie auf eine Weise miteinander interagieren können, die zu unvorhergesehenen Folgen führt.
Ein europäischer Diplomat, der unter der Bedingung der Anonymität sprach, sagte, das Hauptziel des Treffens bestehe darin, sich auf die praktischen Risiken zu konzentrieren, die entstehen könnten, wenn KI außer Kontrolle gerät und dadurch die internationale Sicherheit oder die Sicherheit einzelner Staaten beeinträchtigt wird.
Die wichtigste Frage ist laut dem Diplomaten, ob es eines Tages so weit kommen könnte, dass durch die Interaktion von Algorithmen untereinander bewaffnete Konflikte entstehen.
Damit verschiebt sich die Debatte von den üblichen Anwendungsbereichen von KI hin zu einem viel umfassenderen Szenario: Was geschieht, wenn autonome Systeme an Entscheidungen im Zusammenhang mit der nationalen Sicherheit beteiligt werden?
Das UN-Treffen findet zu einem Zeitpunkt statt, an dem die Vereinigten Staaten und China auch über Kommunikationswege für den Fall von Zwischenfällen im Zusammenhang mit künstlicher Intelligenz diskutieren.
ebenfalls
Trump verharmlost die Risiken der KI und verweist auf die Rivalität mit China.
Im Vorfeld eines geplanten Treffens zwischen US-Präsident Donald Trump und dem chinesischen Staatschef Xi Jinping in Washington erörterten beide Seiten die Möglichkeit der Entwicklung eines KI-gestützten Systems zur Benachrichtigung über Zwischenfälle, das bis zur nationalen Sicherheit reichen könnte.
Ein solcher Mechanismus würde einen Kommunikationskanal für gemeinsame Bedrohungen oder schwerwiegende Vorfälle schaffen, damit KI-bezogene Entwicklungen nicht zu Missverständnissen zwischen den beiden Mächten führen.
Die Haltung der US-Regierung zur Regulierung von KI unterscheidet sich in mehreren Punkten von der Herangehensweise von UN-Generalsekretär António Guterres.
In seiner Rede vor der UN-Generalversammlung am Dienstag erklärte Trump, er lehne Bestrebungen zur Schaffung eines globalen Systems zur Kontrolle künstlicher Intelligenz ab.
Er bezeichnete die Technologie als äußerst wichtig für die Zukunft und argumentierte, dass die Vereinigten Staaten ihre Entwicklung nicht behindern sollten.
Trump sagte außerdem, dass die USA in diesem Bereich derzeit vor China lägen und dass sie beabsichtigen, diesen Vorsprung beizubehalten.
Der UN-Generalsekretär hat wiederholt davor gewarnt, dass der rasante Fortschritt der künstlichen Intelligenz Risiken birgt, die nicht ignoriert werden können.
ebenfalls
Gordon-Levitt: Wir sollten uns Sorgen darüber machen, dass Menschen künstliche Intelligenz entwickeln.
Im Jahr 2023 gründete Guterres eine 39-köpfige internationale Beratungsgruppe für KI-Fragen.
An der Veranstaltung nahmen Führungskräfte von Technologieunternehmen, Regierungsbeamte und Akademiker aus verschiedenen Ländern teil.
