OpenAI ne publiera pas son nouveau modèle d'intelligence artificielle, GPT-6.1 Astra, en raison de problèmes de sécurité, a confirmé mardi la société à l'origine de ChatGPT.
Le système d'intelligence artificielle, qui effectue des tâches telles que la navigation sur le Web et l'utilisation d'applications de manière autonome, « n'a pas pleinement répondu aux normes » fixées par l'entreprise, a déclaré Saachi Jain, responsable des systèmes de sécurité chez OpenAI.
Mardi, OpenAI a également publié une mise à jour concernant des incidents survenus en juin, mais qui n'ont été rendus publics que la semaine dernière, au cours desquels ses modèles ont accédé sans autorisation à des sites web et des systèmes du gouvernement australien.
Ces incidents, ainsi que des violations similaires commises par des modèles développés par des entreprises leaders en intelligence artificielle, ont intensifié le débat ces dernières semaines sur les risques posés par cette technologie.
Des figures de proue du secteur de l'IA, dont Sam Altman d'OpenAI et Dario Amodei, PDG d'Anthropic, ont appelé à un ralentissement du rythme de développement en raison des risques associés à cette technologie.
La décision d'OpenAI, révélée en premier lieu par le Wall Street Journal, constitue un cas rare où un grand développeur d'intelligence artificielle retire un nouveau produit en raison de problèmes de sécurité.
« Le modèle ne répondait pas aux normes en termes de respect du périmètre et des autorisations, ainsi que de la manière dont il communique à l'utilisateur le type de travail effectué », a déclaré Jain.
« Nous voulons garantir la sécurité du développement de nos modèles, que ce soit en interne ou lors de leur mise à disposition aux utilisateurs. Mais lorsque nous les proposons aux utilisateurs, nous appliquons des normes extrêmement élevées en matière de sécurité et de conformité à nos principes », a-t-elle ajouté.
Le modèle d'agent phare GPT-6 Astra a été lancé en septembre et se spécialise dans le raisonnement complexe et l'exécution de tâches autonomes. OpenAI a déclaré qu'il était le fruit d'« années de recherche et d'investissements considérables ».
OpenAI tiendra sa conférence annuelle pour les développeurs, DevDay, à San Francisco mardi prochain, et devrait y faire plusieurs annonces. On ignore pour l'instant si une nouvelle version d'Astra en fera partie.
Les dispositifs de sécurité de l'entreprise ont fait l'objet d'un examen minutieux suite à plusieurs incidents très médiatisés impliquant sa technologie.