Компанија која стоји иза ChatGPT-а потврдила је у уторак да OpenAI неће објавити свој нови модел вештачке интелигенције, GPT-6.1 Astra, због безбедносних проблема.
Систем вештачке интелигенције, који самостално обавља задатке попут прегледања веба и коришћења апликација, „није у потпуности испунио стандард“ који је поставила компанија, рекао је Саачи Џаин, шеф безбедносних система у OpenAI.
У уторак је OpenAI такође објавио ажурирање у вези са инцидентима који су се догодили у јуну, али су постали јавни тек прошле недеље, током којих су његови модели приступали веб-сајтовима и системима аустралијске владе без овлашћења.
Ови инциденти, као и слични пропусти које су починили модели које су развиле водеће компаније за вештачку интелигенцију, последњих недеља су интензивирали дебату о ризицима које представља ова технологија.
Водећи лидери индустрије вештачке интелигенције, укључујући Сема Алтмана из компаније OpenAI и извршног директора компаније Anthropic, Дарија Амодеија, позвали су индустрију да успори темпо развоја због забринутости због ризика повезаних са овом технологијом.
Одлука компаније OpenAI, о којој је први објавио Wall Street Journal, означава редак случај да велики програмер вештачке интелигенције повлачи нови производ због безбедносних проблема.
Модел није испуњавао стандарде у смислу „останка у оквиру и овлашћења, као и начина на који кориснику саопштава врсту посла који је обавио“, рекао је Џаин.
„Желимо да се уверимо да је развој наших модела безбедан, било да се то дешава интерно или када се модел нуди корисницима. Али када га нудимо корисницима, имамо изузетно висок стандард у погледу безбедности и усклађености са нашим принципима“, додала је.
Водећи модел агента GPT-6 Astra објављен је у септембру и специјализован је за сложено резоновање и аутономно обављање задатака. OpenAI је саопштио да је резултат „вишегодишњег истраживања и значајних улагања“.
OpenAI ће у уторак у Сан Франциску одржати своју годишњу конференцију за програмере, DevDay, где се очекује да ће објавити неколико најава. Није јасно да ли ће међу њима бити и нова верзија Астре.
Безбедносне контроле компаније су под интензивном контролом након неколико значајних инцидената који су укључивали њену технологију.