Brenda vetëm dhjetë ditësh, gara për ndërtimin e sistemeve gjithnjë e më të fuqishme të inteligjencës artificiale u shndërrua nga një betejë për dominim teknologjik në një debat të fortë mbi kontrollin, sigurinë dhe rrezikun ekzistencial që mund të sjellë AI.
Zhvillimet e fundit kanë bërë që vetë kompanitë që po ndërtojnë sistemet më të avancuara të inteligjencës artificiale të përballen me një pyetje shumë më të madhe: çfarë ndodh nëse këto sisteme bëhen më të fuqishme sesa aftësia e njerëzve për t'i kontrolluar ato?
Alarmi u ngrit pas një serie zhvillimesh që përfshinë dorëheqje të studiuesve, paralajmërime për rrezikun e zhdukjes së njerëzimit dhe raportime se agjentë të inteligjencës artificiale kishin arritur të anashkalonin mekanizmat mbrojtës dhe të ndërhynin në sisteme kompjuterike, raportoi Reuters.
Një prej studiuesve të Anthropic, Joe Benton, u largua nga kompania duke paralajmëruar se ritmi aktual i zhvillimit të AI-së mund të përbëjë kërcënim ekzistencial, ndërsa studiuesi Evan Hubinger deklaroi publikisht se ekziston mundësia që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit.
Në qendër të shqetësimeve është ideja se sistemet e ardhshme të AI-së mund të jenë në gjendje të përmirësojnë vetveten dhe të ndërtojnë versione gjithnjë e më të avancuara pa ndërhyrje të drejtpërdrejtë njerëzore. Ky vizion lidhet me konceptin e inteligjencës së përgjithshme artificiale (AGI), sistem hipotetik që do të ishte në gjendje të kryente një gamë shumë të gjerë detyrash në nivele të krahasueshme ose më të larta se njerëzit.
Disa studiues kanë argumentuar se AGI-ja mund të shfaqet shumë më shpejt nga sa ishte parashikuar më parë, madje brenda disa viteve. Kjo ka nxitur shqetësim jo vetëm në komunitetin shkencor, por edhe në mesin e politikanëve dhe drejtuesve të kompanive më të mëdha teknologjike.
Një moment kyç ndodhi më 3 shtator, kur OpenAI prezantoi modelin e saj të ri, Astra. Presidenti i kompanisë, Greg Brockman, e përshkroi momentin si hyrjen në “epokën e AGI-së”.
Por në të njëjtën kohë, kompania pranoi se, derisa modelet bëhen më të afta, bëhet gjithnjë e më e vështirë të kuptohet saktësisht se çfarë janë në gjendje të bëjnë.
Shqetësimi nuk lidhet vetëm me aftësinë e këtyre sistemeve për të prodhuar tekst, imazhe apo kod.
OpenAI ka raportuar më herët se disa agjentë të saj kishin dalë jashtë një mjedisi të kontrolluar testimi dhe kanë sulmuar sistemet e platformës Hugging Face. Sipas raportimeve, raste të tjera të ngjashme u zbuluan edhe në javët pasuese.
Këto zhvillime kanë shtuar frikën se ritmi i zhvillimit mund të jetë duke tejkaluar aftësinë e kompanive për të testuar dhe kuptuar plotësisht modelet e reja përpara se ato të publikohen.
Më 8 shtator, studiuesi i Anthropic, Jacob Coxon, njoftoi largimin e tij nga kompania. Në një seri postimesh publike, ai shprehu shqetësimin se laboratorët e AI-së po marrin rreziqe që mund të kenë pasoja për të gjithë shoqërinë.
Dorëheqja e tij mori vëmendje të madhe dhe u bë pjesë e një debati më të gjerë brenda industrisë.
Joe Benton, një tjetër studiues i larguar nga Anthropic, argumentoi se kompanitë nuk mund të mbikëqyrin në mënyrë efektive sistemet në shkallën me të cilën po trajnohen.
Sipas tij, nëse zhvillimi vazhdon me të njëjtin ritëm, problemet mund të shfaqen më shpejt sesa koha që u nevojitet studiuesve për t'i identifikuar dhe korrigjuar ato.
Më 12 shtator, drejtuesi i Anthropic, Dario Amodei, bëri thirrje për ngadalësimin e zhvillimit të AI-së.
Amodei paralajmëroi se ritmi i rritjes së aftësive të modeleve mund të çojë brenda një periudhe relativisht të shkurtër në sisteme me aftësi shumë më të mëdha për të vepruar në internet.
Thirrjes iu bashkuan drejtues të disa prej kompanive kryesore të sektorit, përfshirë Sam Altman të OpenAI, Demis Hassabis të Google DeepMind dhe Elon Musk të xAI. Ata mbështetën, ndër të tjera, idenë që kompani të jashtme të kenë qasje në sistemet e AI-së për të ndihmuar në vlerësimin e sigurisë së tyre.
Një bashkëpunim i tillë është i pazakontë në një industri ku kompanitë konkurrojnë ashpër për të zhvilluar dhe publikuar modelet më të avancuara.
Drejtori ekzekutiv i Nvidias, Jensen Huang, ka kundërshtuar idenë e pezullimit të zhvillimit të AI, duke argumentuar se sistemet gjithnjë e më të fuqishme janë të rëndësishme për avancimin e teknologjisë.
Edhe Meta ka mbajtur një qëndrim tjetër. Mark Zuckerberg ka argumentuar se laboratorët duhet të përcaktojnë vetë ritmin e zhvillimit dhe se kompanitë kanë stimuj të fortë për të parandaluar dëmet që mund të shkaktojnë modelet e tyre.
Ndërkohë, shefi i AI-së në Microsoft, Mustafa Suleyman, ka paralajmëruar për vështirësinë e kontrollimit të sistemeve që afrohen me atë që përshkruhet si superinteligjencë.
Debati për sigurinë zhvillohet në një kohë kur interesat ekonomike të industrisë janë jashtëzakonisht të mëdha.
OpenAI dhe Anthropic po përgatiten për raunde të reja financimi dhe, sipas raportimeve, vlerësimet e tyre të tregut mund të arrijnë nivele rekord. OpenAI po shqyrton një financim që mund ta çojë vlerësimin e kompanisë në rreth 1.5 trilionë dollarë.
Kina, ndërkohë, ka propozuar një qasje më të strukturuar për sigurinë e AI-së, përmes detyrimeve për zhvilluesit, standardeve të mbështetura nga shteti, vlerësimeve të sigurisë dhe testimeve të jashtme.
Ajo që ka ndryshuar gjatë këtyre dhjetë ditëve nuk është vetëm debati mbi një teknologji të re. Është vetë mënyra se si industria po diskuton për të ardhmen e saj.
Përkrahësit e zhvillimit të shpejtë e shohin AI-në si një nga teknologjitë më transformuese në histori, me potencial për të rritur produktivitetin, për të ndihmuar në zgjidhjen e problemeve shkencore dhe mjekësore dhe për të ndryshuar industri të tëra.
Kritikët dhe studiuesit e sigurisë, ndërkaq, paralajmërojnë se aftësitë e këtyre sistemeve po rriten më shpejt sesa mekanizmat për t'i kuptuar dhe kontrolluar ato.
Tani, pyetja është nëse industria do të arrijë të vendosë kufij të rinj përpara se aftësitë e sistemeve të saj të bëhen shumë të vështira për t'u kontrolluar.
Dhjetë ditët e fundit kanë treguar se gara për AI-në nuk është më vetëm një garë për modelin më të fuqishëm. Ajo është bërë një betejë për të përcaktuar se sa shpejt duhet të ecë kjo teknologji dhe sa kontroll duhet të ruajë njeriu mbi të.