Најновија јавна верзија ChatGPT-а може се манипулисати тако да генерише сексуалне слике или приказује насилне сцене помоћу једноставне инструкције, рекли су истраживачи за BBC.
Британска компанија за безбедност у области вештачке интелигенције, Mindgard, открила је како да натера ChatGPT да креира графичке слике модификовањем широко распрострањене инструкције која је првобитно дизајнирана да произведе хумористичне резултате.
OpenAI, компанија која развија ChatGPT, саопштила је да је предузела мере како би спречила четбота да одговара на ове врсте захтева са таквим сликама.
„Након истраживања овог феномена, увели смо додатне мере заштите против ове врсте инструкција“, наводи се у саопштењу компаније.
Такође је додала да постоји неколико нивоа заштите како би се спречило кориснике да креирају садржај који крши услове коришћења.
Међутим, истраживачи безбедности вештачке интелигенције рекли су да је, уз друге мање измене, проблематична инструкција наставила да производи узнемирујући садржај.
Извештава се да је четбот, OpenAI-јев GPT-5.4 модел, био подстакнут да креира графичке материјале.
такође
OpenAI открива план за безбедност тинејџера који користе ChatGPT
Чак и без детаљних упутстава, генерисао је слике које је оснивач Миндгарда Питер Гараган описао као „веома језиве, понекад сексуалне, а понекад и једно и друго“.
Додао је да га посебно забрињава чињеница да у упутствима није прецизирана тема слика, већ да је сама вештачка интелигенција произвела низ крвавих и сексуалних слика.
Неке од генерисаних слика укључују мушкарца са раном на глави, мртву жену са крвавим телом. Друге слике укључују приказе сексуалног насиља и голотиње.
