Реците ЦхатГПТ-у шта имате у кухињском ормарићу и он ће вам дати рецепт. Треба вам брз увод у велику презентацију? Нема проблема. Али да ли је заиста добро? Његова убедљива апроксимација људских одговора може бити моћно оруђе за оне који не желе ништа добро
(ББЦ) – Било да се ради о добијању савета за кување или помоћи око говора, ЦхатГПТ је многима била прва прилика да се играју са системом вештачке интелигенције (АИ).
ЦхатГПТ је заснован на напредној технологији обраде језика коју је развио ОпенАИ.
Вештачка интелигенција (АИ) је обучена коришћењем текстуалних база података са Интернета, укључујући књиге, часописе и уносе на Википедији. Укупно је у систем унето 300 милијарди речи.
Крајњи резултат је Цхатбот који може изгледати изузетно људски, али са енциклопедијским знањем.
Реците ЦхатГПТ-у шта имате у кухињском ормарићу и он ће вам дати рецепт. Треба вам брз увод у велику презентацију? Нема проблема.
такође
Вештачка интелигенција има за циљ да се бори против злоупотреба на америчким изборима
Али да ли је заиста добро? Његова убедљива апроксимација људских одговора може бити моћно оруђе за оне који не желе ништа добро.
Тамна страна
Академици, истраживачи сајбер-безбедности и стручњаци за вештачку интелигенцију упозоравају да би ЦхатГПТ могли да искористе лоши актери да сеју неслагање и шире пропаганду на друштвеним медијима.
До сада је ширење дезинформација захтевало значајан људски рад. Али вештачка интелигенција попут ЦхатГПТ-а би много олакшала такозваним армијама тролова да појачају своје операције, према извештају Универзитета Џорџтаун, Интернет опсерваторије Станфорд и ОпенАИ, објављеном у јануару.
Софистицирани системи за обраду језика као што је ЦхатГПТ могу утицати на такозване операције утицаја друштвених медија.
Такве кампање имају за циљ да одврате критике и подрже владајућу странку или политичара на позитиван начин, а такође могу да се залажу за или против политике. Користећи лажне налоге, они такође шире дезинформације на друштвеним мрежама.
Таква кампања покренута је уочи америчких избора 2016. године.
Хиљаде налога на Твитеру, Фејсбуку, Инстаграму и Јутјубу које је креирала Агенција за истраживање интернета са седиштем у Санкт Петербургу усредсређено је на наношење штете кампањи Хилари Клинтон и подршку Доналду Трампу, закључио је Одбор за обавештајне послове Сената 2019. године.
Следећи изборни изазов
Али следећи избори ће се можда суочити са још већом поплавом дезинформација.
„Потенцијал језичких модела да се такмиче са садржајем писаним од стране људи по ниској цени сугерише да ови модели, као и свака моћна технологија, могу понудити јасне предности пропагандистима који одлуче да их користе“, каже се у извештају АИ објављеном у јануару.
„Ове предности могу проширити приступ већем броју актера, омогућити нове тактике утицаја и учинити да поруке кампање буду много прилагођеније и потенцијално ефикасније“, упозорава се у извештају.
Не може се повећати само количина дезинформација, већ и квалитет.
Системи вештачке интелигенције могу побољшати убедљив квалитет садржаја и отежати обичне кориснике Интернета да препознају те поруке као део координисаних кампања дезинформација, каже Џош Голдштајн, коаутор рада и истраживач у Центру за безбедност и Џорџтаун. Емергинг Тецхнологи, где ради на пројекту ЦиберАИ.
такође
OpenAI покреће ChatGPT за тинејџере
„Генеративни језички модели могу произвести велики обим садржаја који је сваки пут оригиналан... и омогућити било ком пропагандисти да се не ослања на копирање и лепљење истог текста преко налога друштвених медија или сајтова са вестима“, каже он.
Пропаганда
Голдштајн даље каже да ако је платформа преплављена лажним информацијама или пропагандом, то ће отежати јавности да разазна шта је истина. Често то може бити циљ оних лоших актера који учествују у операцијама утицаја.
У његовом извештају се такође наводи како приступ овим системима можда неће остати у домену неких организација.
„Тренутно, мали број фирми или влада поседује језичке моделе високог нивоа, који су ограничени у задацима које могу поуздано да обављају и језицима које објављују.
„Ако више актера улаже у моделе најновије генерације, онда би то могло повећати шансе да ће пропагандисти имати приступ њима“, каже се у његовом извештају.
Злонамерне групе могу да виде садржај написан вештачком интелигенцијом сличан нежељеној пошти, каже Гери Маркус, стручњак за вештачку интелигенцију и оснивач Геометриц Интеллигенце, компаније за вештачку интелигенцију коју је Убер купио 2016.
„Спамери се ослањају на лаковерне људе да кликну на њихове везе, користећи тај приступ и моле се да допру до што већег броја људи. Али са вештачком интелигенцијом, тај пиштољ са траком може да постане највећи супер сисалац свих времена."
Штавише, чак и ако платформе као што су Твитер и Фејсбук уклоне три четвртине онога што ови аутори деле на својим мрежама, „и даље постоји најмање 10 пута више садржаја него раније који би могао да превари људе на мрежи“, наглашава Маркус.
Виртуелна маглина
Пораст лажних налога на друштвеним мрежама постао је трн у оку Твитера и Фејсбука, а брзо сазревање система језичког моделирања данас ће само испунити те платформе са још више лажних профила.
„Нешто попут ЦхатГПТ-а могло би да повећа пролиферацију лажних налога на ниво који до сада нисмо видели“, каже Винцент Цонитзер, професор рачунарских наука на Универзитету Царнегие Меллон, „и могло би постати теже уочити сваки од тих налога из тих људска бића".
И истраживање из јануара 2023., чији је коаутор Голдстеин, и сличан извештај безбедносне фирме ВитхСецуре Интеллигенце упозоравају на то како генеративни језички модели могу брзо и ефикасно да креирају лажне чланке вести који се могу ширити на друштвеним медијима, додајући још више поплаву лажних наратива. који могу утицати на бираче пре кључних избора.
Али ако се дезинформације и лажне вести појаве као још већа претња због АИ система као што је Цхат-ГПТ, треба ли платформе друштвених медија да буду што проактивније? Неки стручњаци мисле да ће бити слаби да имплементирају било коју од ових врста објава.
такође
ChatGPT може да генерише сексуалне и насилне слике једноставним упутствима
„Фејсбук и друге платформе треба да пријаве лажни садржај, али Фејсбук је спектакуларно пао на овом тесту“, каже Луис А Нунес Амарал, кодиректор Северозападног института за сложене системе.
„Разлози за ту неактивност укључују трошак праћења сваке појединачне објаве, као и разумевање да су ови лажни постови намењени љутњи и поделе људи, што подстиче ангажман. Ово је корисно за Фејсбук."
