OpenAI wird sein neues künstliches Intelligenzmodell GPT-6.1 Astra aus Sicherheitsgründen nicht veröffentlichen, bestätigte das Unternehmen hinter ChatGPT am Dienstag.
Das System für künstliche Intelligenz, das Aufgaben wie das Surfen im Internet und die Nutzung von Apps selbstständig ausführt, „erfüllte nicht vollständig den vom Unternehmen festgelegten Standard“, sagte Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI.
Am Dienstag veröffentlichte OpenAI außerdem ein Update zu Vorfällen, die sich im Juni ereignet hatten, aber erst letzte Woche öffentlich wurden. Dabei hatten die Modelle von OpenAI ohne Genehmigung auf australische Regierungswebseiten und -systeme zugegriffen.
Diese Vorfälle sowie ähnliche Verstöße gegen die Sicherheit von Modellen führender Unternehmen im Bereich der künstlichen Intelligenz haben die Debatte über die Risiken dieser Technologie in den letzten Wochen verschärft.
Führende Köpfe der KI-Branche, darunter Sam Altman von OpenAI und Dario Amodei, CEO von Anthropic, haben aufgrund von Bedenken hinsichtlich der mit der Technologie verbundenen Risiken dazu aufgerufen, das Entwicklungstempo zu verlangsamen.
Die Entscheidung von OpenAI, über die zuerst das Wall Street Journal berichtete, stellt einen seltenen Fall dar, in dem ein großer Entwickler künstlicher Intelligenz ein neues Produkt aufgrund von Sicherheitsbedenken zurückzieht.
„Das Modell entsprach nicht den Standards hinsichtlich der Einhaltung des Geltungsbereichs und der Autorisierung sowie der Art und Weise, wie es dem Benutzer die Art der durchgeführten Arbeiten vermittelt“, sagte Jain.
„Wir wollen sicherstellen, dass die Entwicklung unserer Modelle sicher ist, sowohl intern als auch bei der Bereitstellung für Nutzer. Bei der Bereitstellung für Nutzer legen wir jedoch extrem hohe Standards in Bezug auf Sicherheit und die Einhaltung unserer Prinzipien an“, fügte sie hinzu.
Das Flaggschiff-Agentenmodell GPT-6 Astra wurde im September veröffentlicht und ist auf komplexes Denken und die autonome Ausführung von Aufgaben spezialisiert. OpenAI erklärte, es sei das Ergebnis „jahrelanger Forschung und erheblicher Investitionen“.
OpenAI veranstaltet am Dienstag in San Francisco seine jährliche Entwicklerkonferenz DevDay, auf der voraussichtlich mehrere Ankündigungen gemacht werden. Ob eine neue Version von Astra darunter sein wird, ist noch unklar.
Die Sicherheitsvorkehrungen des Unternehmens sind nach mehreren aufsehenerregenden Vorfällen im Zusammenhang mit seiner Technologie einer intensiven Prüfung unterzogen worden.