Хакер је преварио популарни алат за АИ кодирање да инсталира ОпенЦлав — вирусни, опен-соурце АИ агент ОпенЦлав који „заправо ради ствари“ — апсолутно свуда. Смешно као штос, али знак шта ће доћи јер све више људи дозвољава да аутономни софтвер користи њихове рачунаре у њихово име.
Хакер је искористио рањивост у Цлине-у, агенту за АИ кодирање отвореног кода популарном међу програмерима, који је имао истраживач безбедности Аднан Кхан изронила на површину само неколико дана раније као доказ концепта. Једноставно речено, Цлинеов радни ток је користио Антхропиц-ов Цлауде, који је могао добити скривене инструкције и натјерати да ради ствари које не би требало, технику познату као брза ињекција.
Хакер је искористио њихов приступ да провуче упутства за аутоматску инсталацију софтвера на рачунаре корисника. Могли су да инсталирају било шта, али су се одлучили за ОпенЦлав. Срећом, агенти нису били активирани након инсталације, иначе би ово била сасвим друга прича.
То је знак колико брзо ствари могу да се расплету када се АИ агентима да контрола над нашим рачунарима. Они могу изгледати као паметна игра речи — једна група је увукла четботе да почине злочине поезијом — али у свету све аутономнијег софтвера, брзе ињекције представљају огроман безбедносни ризик од којег је веома тешко одбранити се. Признајући ово, неке компаније уместо тога закључавају шта алати вештачке интелигенције могу да ураде ако буду отму. ОпенАИ је, на пример, недавно увео нови режим закључавања за ЦхатГПТ који спречава да ода ваше податке.
Очигледно, заштита од брзих ињекција је тежа ако игноришете истраживаче који вам приватно означавају недостатке. Кан је рекао да је упозорио Клајна на рањивост недељама пре него што је објавио своје налазе. Експлоатација је исправљена тек након што их је јавно прозвао.
