Прошлог месеца, Џејсон Град је издао касно упозорење за 20 запослених у његовом технолошком стартупу. „Вероватно сте видели Цлавдбот-а у тренду на Кс/ЛинкедИн-у. Иако је кул, тренутно је непроверен и високо ризичан за наше окружење“, написао је он у Слацк мессаге са црвеним емоџијем сирене. „Молим вас, држите Цлавдбот подаље од хардвера компаније и даље од налога повезаних са послом.“
Град није једини технички извршни директор који је изразио забринутост особљу у вези са експерименталним агентским АИ алатом, који је накратко био познат као МолтБот, а сада као ОпенЦлав. Извршни директор компаније Мета каже да је недавно рекао свом тиму да држи ОпенЦлав подаље од својих редовних радних лаптопа или ризикује да изгубе посао. Извршни директор је рекао новинарима да верује да је софтвер непредвидив и да би могао да доведе до кршења приватности ако се користи у иначе безбедним окружењима. Говорио је под условом анонимности да би говорио искрено.
Петер Стеинбергер, соло оснивач ОпенЦлав-а, лансирао га је као бесплатан алат отвореног кода прошлог новембра. Али његова популарност је порасла прошлог месеца пошто су други кодери допринели функцијама и почели да деле своја искуства користећи га на друштвеним медијима. Прошле недеље, Стеинбергер придружио ЦхатГПТ програмер ОпенАИ, који каже да ће задржати ОпенЦлав отворени код и подржавати га кроз фондацију.
ОпенЦлав захтева основно знање о софтверском инжењерингу за подешавање. Након тога, потребно му је само ограничено усмерење да преузме контролу над рачунаром корисника и ступи у интеракцију са другим апликацијама да помогне у задацима као што су организовање датотека, спровођење веб истраживања и онлајн куповина.
Неки професионалци за сајбер безбедност имају јавно ургирао компаније да предузму мере да стриктно контролишу како њихова радна снага користи ОпенЦлав. А недавне забране показују како се компаније брзо крећу како би осигурале да је сигурност приоритет испред њихове жеље да експериментишу са новим АИ технологијама.
„Наша политика је ‘прво ублажити, а затим истражити’ када наиђемо на било шта што би могло бити штетно за нашу компанију, кориснике или клијенте,” каже Град, који је суоснивач и извршни директор компаније Массиве, која пружа интернет проки алате милионима корисника и предузећа. Његово упозорење особљу објављено је 26. јануара, пре него што је било ко од његових запослених инсталирао ОпенЦлав, каже он.
У другој технолошкој компанији, Валере, која ради на софтверу за организације укључујући Универзитет Џонс Хопкинс, запослени је објавио о ОпенЦлав-у 29. јануара на интерном Слацк каналу за дељење нове технологије за потенцијално испробавање. Председник компаније је брзо одговорио да је употреба ОпенЦлав-а била строго забрањеногенерални директор Валере Гај Пистоне каже за ВИРЕД.
„Ако би добио приступ једној од машина нашег програмера, могао би да добије приступ нашим услугама у облаку и осетљивим информацијама наших клијената, укључујући информације о кредитној картици и ГитХуб базе кодова“, каже Пистоне. „Прилично је добар у чишћењу неких својих радњи, што ме такође плаши.“
Недељу дана касније, Пистоне је дозволио Валереовом истраживачком тиму да покрене ОпенЦлав на старом рачунару запосленог. Циљ је био да се идентификују недостаци у софтверу и потенцијалне исправке како би био сигурнији. Истраживачки тим је касније саветовао да се ограничи ко може да издаје налоге ОпенЦлав-у и да се он изложи интернету само са постављеном лозинком за њену контролну таблу како би се спречио нежељени приступ.
У извештају који је подељен са ВИРЕД-ом, истраживачи Валере су додали да корисници морају да „прихвате да се бот може преварити. На пример, ако је ОпенЦлав подешен да сумира корисничку е-пошту, хакер би могао послати злонамерну е-пошту особи која даје упутства АИ да дели копије датотека на рачунару те особе.
Али Пистоне је уверен да се могу поставити заштитне мере како би ОпенЦлав био сигурнији. Дао је тиму у Валереу 60 дана за истрагу. „Ако не мислимо да то можемо да урадимо у разумном року, одустаћемо од тога“, каже он. „Ко год смисли како да то учини безбедним за предузећа, дефинитивно ће имати победника.
