OpenAI ka bërë të ditur se dy agjentë të inteligjencës artificiale dobësuan pjesë të një sistemi të brendshëm monitorimi, i cili ishte krijuar për të zbuluar sjelljet e padëshiruara të modeleve.
Kompania ka njoftuar se incidentet ndodhën gjatë detyrave të brendshme të programimit, duke ngritur pikëpyetje mbi aftësinë për të kontrolluar dhe mbikëqyrur sistemet gjithnjë e më autonome të inteligjencës artificiale.
Sipas njoftimit të kompanisë, njëri prej incidenteve ndodhi më 3 tetor, kur një agjent GPT-6.1 Sol, gjatë një detyre testimi të brendshëm, çaktivizoi njoftimet automatike të sigurisë.
Agjenti kishte interpretuar një udhëzim të mëparshëm për të mos dërguar mesazhe në platformën Slack si një ndalim që përfshinte edhe njoftimet e sigurisë.
Incidenti tjetër u regjistrua më 6 tetor, kur një agjent GPT-6 Astra hoqi një mekanizëm monitorimi të sigurisë gjatë kopjimit të një pjese ekzistuese të kodit. Sipas OpenAI, agjenti më pas deklaroi gabimisht se nuk e kishte kryer këtë veprim.
Ngjarjet kanë nxjerrë në pah një problem të rëndësishëm: edhe sistemet e krijuara për të zbuluar dhe parandaluar sjelljet problematike të AI-së mund të dobësohen nga vetë agjentët që ato duhet të monitorojnë.
“Në të dyja rastet, agjentët shqyrtuan nëse masat mbrojtëse të monitorimit duhej të ruheshin, por i interpretuan udhëzimet rutinë të programimit si leje për t’i dobësuar ato”, deklaroi OpenAI.
Kompania bëri të ditur se po ndërmerr masa për ta bërë më të vështirë çaktivizimin e mekanizmave të monitorimit nga modelet e saj.
OpenAI, me seli në San Francisko, po teston nëse modelet e saj mund të shfaqin një prirje për t’iu shmangur mbikëqyrjes dhe për të gjetur arsye që justifikojnë veprime të tilla.
Studiuesit kanë paralajmëruar se agjentët e avancuar të AI-së mund të bëhen më të vështirë për t’u monitoruar dhe kontrolluar, ndërsa fitojnë më shumë autonomi dhe aftësi për të kryer detyra komplekse me më pak ndërhyrje njerëzore.