Пратите ЗДНЕТ: Додајте нас као жељени извор на Гоогле-у
ЗДНЕТ-ови кључни закључци
- Хакери користе брзу ињекцију да украду приватне податке које користите у АИ.
- ЦхатГПТ-ов нови режим закључавања има за циљ да спречи ове нападе.
- Ознаке са повишеним ризиком упозоравају вас на АИ алате и садржај који би могао бити ризичан.
Напади брзе ињекције представљају озбиљну претњу за свакога ко користи АИ алате, али посебно за професионалце који се на њих ослањају на послу. Искоришћавањем рањивости која утиче на већину АИ, хакер може да убаци злонамерни код у текстуални одзивник, који онда може да промени резултате или чак украсти поверљиве податке.
Такође: 5 прилагођених ЦхатГПТ инструкција које користим да бих добио боље АИ резултате – брже
Сада је ОпенАИ увео функцију под називом Лоцкдовн Моде да боље спречи ове врсте напада.
Режим закључавања
Режим закључавања побољшава заштиту од брзих ињекција и других напредних претњи. Са омогућеном овом поставком, ЦхатГПТ је ограничен на начине на које може да комуницира са спољним системима и подацима, чиме се ограничава могућност нападача да ексфилтрира осетљиве датотеке.
Опционо безбедносно подешавање, Режим закључавања није неопходан за већину корисника ЦхатГПТ-а, рекао је ОпенАИ у саопштење за јавност у петак. Уместо тога, ова функција је више усмерена на кориснике који мисле на безбедност, као што су руководиоци или професионалци за безбедност у истакнутим организацијама. Имајући то на уму, режим закључавања је доступан за ЦхатГПТ Ентерприсе, ЦхатГПТ Еду, ЦхатГПТ за здравство и ЦхатГПТ за наставнике.
Такође: Ове 4 критичне АИ рањивости се експлоатишу брже него што браниоци могу да реагују
Режим закључавања функционише тако што одређује који алати и могућности у ЦхатГПТ-у су најугроженији. Циљ је ограничити приступ свим осетљивим подацима у разговору или из повезане апликације који би могли да се искористе брзим убризгавањем.
(Откривање: Зифф Давис, ЗДНЕТ-ова матична компанија, поднела је тужбу у априлу 2025. против ОпенАИ, наводећи да је прекршила ауторска права Зифа Дејвиса у обуци и управљању својим системима вештачке интелигенције.)
Као један пример, прегледање веба у режиму закључавања ограничава приступ кешираном садржају тако да ниједан захтев уживо не напушта мрежу ОпенАИ. Остале функције су потпуно онемогућене осим ако ОпенАИ не може да потврди да су подаци безбедни. Овде је идеја да се спречи нападач да украде податке путем прегледања веба.
ЦхатГПТ пословни планови већ нуде безбедносну заштиту на нивоу предузећа, коју администратори могу да контролишу преко подешавања радног простора. Режим закључавања додаје додатни слој одбране. Администратори радног простора такође могу да бирају које апликације и радње контролише Режим закључавања.
Ознаке повишеног ризика
Али то није све. ОпенАИ ће сада такође приказивати ознаку повишеног ризика када приступате одређеним функцијама које би могле бити ризичне. Доступне у ЦхатГПТ-у, ЦхатГПТ Атлас претраживачу и Цодек-овом помоћнику за кодирање, ове ознаке су дизајниране да вам дају паузу пре него што почнете да радите са алатком или садржајем који би могли да се искористе.
Такође: Тајна сигурности посла АИ? Престаните са стресом и окрените се на посао сада – ево како
На пример, програмери који користе Цодек могу дати алату приступ мрежи тако да може да тражи помоћ на вебу. Када је овај приступ омогућен, ознака повишеног ризика ће вас упозорити на потенцијалне ризике, промене до којих може доћи и када је такав приступ оправдан.
Ознаке за повишени ризик су дизајниране као краткорочно решење да вас барем обавесте о потенцијалним опасностима. Гледајући у будућност, ОпенАИ је рекао да планира да дода више безбедносних функција широм света како би се позабавио додатним ризицима и претњама, и на крају отклонио потребу за таквим ознакама.
