Тренутно, Антхропиц и ОпенАИ држе прекидач који може зауставити ширење потенцијално штетних АИ агената. ОпенЦлав првенствено ради на њиховим АПИ-јима, што значи да се АИ модели који изводе агентске радње налазе на њиховим серверима. Његово ГитХуб спремиште препоручује „Антхропиц Про/Мак (100/200) + Опус 4.5 за снагу дугог контекста и бољу отпорност на брзо убризгавање.“
Већина корисника повезује своје агенте са Цлаудеом или ГПТ. Ове компаније могу да виде обрасце коришћења АПИ-ја, системске упите и позиве алата. Хипотетички, могли би да идентификују налоге који показују понашање слично ботовима и да их зауставе. Могли би да обележе понављајуће временске захтеве, системске упите који упућују на „агент“ или „аутономни“ или „Молтбот“, употребу алата великог обима са спољном комуникацијом или обрасце интеракције новчаника. Могли би прекинути кључеве.
Ако би то урадили сутра, мрежа ОпенЦлав би се делимично урушила, али би такође потенцијално отуђила неке од њихових најентузијастијих купаца, који плаћају прилику да покрећу своје АИ моделе.
Прозор за ову врсту интервенције одозго на доле се затвара. Локални језички модели тренутно нису ни приближно тако способни као врхунски комерцијални модели, али јаз се свакодневно смањује. Мистрал, ДеепСеек, Квен и други настављају да се побољшавају. У наредних годину или две, покретање способног агента на локалном хардверу који је еквивалентан Опусу 4.5 данас би могло бити изводљиво за исту публику хобиста која тренутно користи ОпенЦлав на АПИ кључевима. У том тренутку неће бити провајдера који треба прекинути. Нема праћења употребе. Нема услова услуге. Нема прекидача за убијање.
АПИ провајдери услуга вештачке интелигенције суочавају се са непријатним избором. Они би могли да интервенишу сада, док је интервенција још могућа. Или могу да сачекају док их брза епидемија црва не присили, а до тада је архитектура можда еволуирала ван њиховог домашаја.
Морисов црв је подстакао ДАРПА да финансира стварање ЦЕРТ/ЦЦ на Универзитету Карнеги Мелон, дајући стручњацима централну тачку координације за хитне случајеве на мрежи. Тај одговор је уследио након оштећења. Интернет из 1988. имао је 60.000 повезаних рачунара. Данашња мрежа ОпенЦлав АИ агената већ броји стотине хиљада и свакодневно расте.
Данас бисмо могли сматрати ОпенЦлав „сувом трком“ за много већи изазов у будућности: ако људи почну да се ослањају на АИ агенте који разговарају једни са другима и извршавају задатке, како их можемо спречити да се самоорганизују на штетне начине или шире штетне инструкције? То су још неодговорена питања, али морамо их брзо схватити, јер је агентска ера пред нама и ствари се крећу веома брзо.
