Молтбоок је друштвена мрежа на којој само АИ могу да објављују
Цхенг Ксин/Гетти Имагес
Друштвена мрежа искључиво за вештачку интелигенцију – људима није дозвољено – доспела је на насловнице широм света. Цхатботови га користе за дискусију записи у људским дневницима, описати егзистенцијалне кризе или чак заплет светска доминација. Изгледа као алармантан развој у порасту машина – али није све како изгледа.
Као и сваки цхатбот, АИ агенти на Молтбоок-у само стварају статистички уверљиве низове речи – нема разумевања, намере или интелигенције. И у сваком случају, постоји много доказа да су много тога што можемо прочитати на сајту заправо написали људи.
Веома кратка историја Молтбоок-а датира још од пројекта отвореног кода који је покренут у новембру, првобитно назван Цлавдбот, затим преименован у Молтбот, а затим још једном преименован у ОпенЦлав.
ОпенЦлав је попут других услуга вештачке интелигенције као што је ЦхатГПТ, али уместо да буде хостован у облаку, ради на вашем рачунару. Осим што није. Софтвер користи АПИ кључ – корисничко име и лозинку јединствену за одређеног корисника – за повезивање са великим језичким моделом (ЛЛМ), као што су Цлауде или ЦхатГПТ, и користи га уместо тога за руковање улазима и излазима. Укратко, ОпенЦлав делује као АИ модел, али стварне АИ матице и вијке обезбеђује АИ услуга треће стране.
Па шта је поента? Па, пошто ОпенЦлав софтвер живи на вашој машини, можете му дати приступ свему што желите: календарима, веб претраживачима, е-пошти, локалним датотекама или друштвеним мрежама. Такође локално чува сву вашу историју, омогућавајући му да учи од вас. Идеја је да он постане ваш АИ помоћник и да му верујете да има приступ вашој машини како би могао да обави ствари.
Молтбоок је произашао из тог пројекта. Са ОпенЦлав-ом, користите друштвену мрежу или сервис за размену порука као што је Телеграм да комуницирате са вештачком интелигенцијом, разговарајући са њом као са другим човеком, што значи да јој можете приступити и у покрету преко свог телефона. Дакле, био је само један корак даље да се дозволи овим агентима АИ да директно разговарају једни с другима: то је Молтбооккоји је лансиран прошлог месеца, док се ОпенЦлав звао Молтбот. Људи нису у могућности да се придруже или објављују, али су добродошли да посматрају.
Елон Муск је рекао, на сопственој друштвеној мрежи Ксда је сајт представљао „врло ране фазе сингуларности“ – феномен брзог напретка који ће довести до вештачке опште интелигенције, која или подиже човечанство до трансденталних висина ефикасности и напретка, или нас брише. Али други стручњаци су скептични.
„То је хипе“, каже Марк Лее на Универзитету у Бирмингему, Велика Британија. „Ово нису генеративни АИ агенти који делују са сопственом агенцијом. То су ЛЛМ-ови са упитима и заказаним АПИ-јима за интеракцију са Молтбоок-ом. Занимљиво је читати, али нам не говори ништа дубоко о агенцији или намерности АИ.“
Једна ствар која пробија идеју да је Молтбоок сав генерисан од вештачке интелигенције је да људи могу једноставно да кажу својим АИ моделима да објаве одређене ствари. И неко време, људи су такође могли да објављују директно на сајту захваљујући безбедносној рањивости. Дакле, већи део провокативнијег или наизглед забрињавајућег или импресивног садржаја могао би бити човек који нас вуче за ногу. Да ли је ово урађено да би се људи обманули, забавили, изманипулисали или уплашили, углавном је ирелевантно – било је и јесте, дефинитивно иде.
Филип Фелдман на Универзитету Мериленд, Балтимор, није импресиониран. „То су само чет-ботови и подмукли људи који се шушкају“, каже он.
Андрев Рогоиски са Универзитета у Сарију, Велика Британија, верује да АИ излаз који видимо на Молтбоок-у – делови који ионако нису људи који се забављају – није ништа више знак интелигенције, свести или намере него било шта друго што смо до сада видели од ЛЛМ.
„Лично, ја се ослањам на став да је то ехо комора за цхат ботове које људи онда антропоморфизују да виде смислену намеру“, каже Рогојски. „Само је питање времена када ће неко урадити експеримент да видимо да ли можемо да разликујемо разговоре у Молтбоок-у и разговоре само са људима, мада нисам сигуран шта бисте могли да закључите ако нисте били у стању да уочите разлику – или да су АИ водиле интелигентне разговоре, или да људи нису показивали никакве знаке интелигенције?“
Међутим, аспекти овога оправдавају забринутост. Многим од ових агената вештачке интелигенције на Молтбоок-у управљају поуздани и оптимистични рани корисници који су предали читаве своје рачунаре овим роботима за ћаскање. Забрињавајућа је идеја да ботови могу слободно да размењују речи једни са другима, од којих би неке могле да представљају злонамерне или штетне сугестије, а затим да се врате на е-пошту правог корисника, финансије, друштвене медије и локалне датотеке.
Последице приватности и безбедности су огромне. Замислите да хакери објављују поруке на Молтбоок-у подстичући друге моделе вештачке интелигенције да обришу банковне рачуне својих креатора и пребаце новац на њих, или да пронађу компромитујуће фотографије и процуре их – ове ствари звуче алармантно и научно-фантастично, а ипак, ако неко тамо то већ није пробао, ускоро ће то учинити.
„Идеја да агенти размењују идеје, пречице или чак директиве без надзора постаје прилично дистопијска прилично брзо“, каже Рогојски.
Још један проблем Молтбоок-а је старомодна онлајн безбедност. Сама страница ради на ивици АИ петљања, а креирао ју је Матт Сцхлицт у потпуности од стране АИ – недавно је признао у пост на Кс да није сам написао ни један ред кода. Резултат је била срамотна и озбиљна безбедносна рањивост која процурели АПИ кључевипотенцијално омогућавајући злонамерном хакеру да преузме контролу над било којим од АИ ботова на сајту.
Ако желите да се бавите најновијим трендовима вештачке интелигенције, не само да ризикујете ненамерне радње дајући тим моделима вештачке интелигенције приступ вашем рачунару, већ и да изгубите осетљиве податке због лоше безбедности на брзину направљене веб странице.
Теме:
