Људи и институције се боре са последицама Текст написан АИ. Наставници желе да знају да ли рад ученика одражава њихово сопствено разумевање; потрошачи желе да знају да ли је рекламу написао човек или машина.
Писање правила за управљају употребом садржаја генерисаног вештачком интелигенцијом је релативно лако. Њихово спровођење зависи од нешто много теже: поуздано откривање да ли је део текста генерисан вештачком интелигенцијом.
Проблем детекције АИ текста
Основни ток рада иза детекције АИ текста је лако описати. Почните са делом текста чије порекло желите да утврдите. Затим примените алатку за детекцију, често сам систем вештачке интелигенције, који анализира текст и производи резултат, обично изражен као вероватноћа, што указује на то колико је вероватно да је текст генерисан АИ. Користите резултат да бисте информисали о доношеним одлукама, као што је да ли да изрекнете казну за кршење правила.
Овај једноставан опис, међутим, крије велику сложеност. Он прекрива бројне позадинске претпоставке које је потребно експлицитно изразити. Да ли знате који алати вештачке интелигенције су вероватно коришћени за генерисање текста? Какав приступ имате овим алатима? Можете ли их сами покренути или прегледати њихов унутрашњи рад? Колико текста имате? Да ли имате један текст или збирку списа прикупљених током времена? Шта алати за откривање вештачке интелигенције могу, а шта не могу да вам кажу, у великој мери зависи од одговора на оваква питања.
Постоји још један детаљ који је посебно важан: да ли је систем вештачке интелигенције који је генерисао текст намерно уградио маркере како би касније откривање било лакше?
Ови индикатори су познати као водени жигови. Текст са воденим жигом изгледа као обичан текст, али су маркери уграђени на суптилне начине који се не откривају случајном прегледу. Неко са правим кључем може касније да провери присуство ових маркера и да провери да ли је текст дошао из извора генерисаног са воденим жигом. Овај приступ се, међутим, ослања на сарадњу добављача вештачке интелигенције и није увек доступан.
Како функционишу АИ алати за откривање текста
Један очигледан приступ је коришћење саме вештачке интелигенције за откривање текста написаног АИ. Идеја је јасна. Почните тако што ћете прикупити велики корпус, што значи збирку писаних, примера који су означени као писани од људи или генерисани вештачком интелигенцијом, а затим обучите модел да разликује ово двоје. У ствари, детекција АИ текста се третира као стандардни проблем класификације, сличан по духу филтрирању нежељене поште. Једном обучен, детектор испитује нови текст и предвиђа да ли више личи на примере које је генерисала вештачка интелигенција или на оне које је писао човек.
Приступ наученог детектора може да функционише чак и ако мало знате о томе који алати вештачке интелигенције су могли да генеришу текст. Главни захтев је да корпус обуке буде довољно разноврстан да укључи резултате из широког спектра АИ система.
Али ако имате приступ АИ алатима који вас брину, другачији приступ постаје могућ. Ова друга стратегија се не ослања на прикупљање великих означених скупова података или обуку засебног детектора. Уместо тога, тражи статистичке сигнале у тексту, често у вези са начином на који специфични АИ модели генеришу језик, да би проценио да ли је вероватно да ће текст бити генерисан АИ. На пример, неке методе испитују вероватноћу коју АИ модел додељује делу текста. Ако модел тачном низу речи додељује необично велику вероватноћу, то може бити сигнал да је текст, у ствари, генерисан тим моделом.
Коначно, у случају текста који генерише АИ систем који уграђује водени жиг, проблем се помера са детекције на верификацију. Користећи тајни кључ који је обезбедио АИ продавац, алатка за верификацију може да процени да ли је текст у складу са генерисањем система са воденим жигом. Овај приступ се ослања на информације које нису доступне само из текста, а не на закључке извучене из самог текста.
Ватцх Он
Свака породица алата долази са своја ограничењашто отежава проглашење јасног победника. Детектори засновани на учењу, на пример, осетљиви су на то колико блиско нови текст подсећа на податке на којима су обучени. Њихова тачност опада када се текст значајно разликује од корпуса за обуку, који може брзо да застари како се пуштају нови модели вештачке интелигенције. Континуирано прикупљање свежих података и поновна обука детектора су скупи, а детектори неизбежно заостају за системима које треба да идентификују.
Статистички тестови се суочавају са другачијим скупом ограничења. Многи се ослањају на претпоставке о томе како специфични АИ модели генеришу текст, или на приступ дистрибуцијама вероватноће тих модела. Када су модели власнички, често ажурирани или једноставно непознати, ове претпоставке се распадају. Као резултат тога, методе које добро функционишу у контролисаним поставкама могу постати непоуздане или неприменљиве у стварном свету.
Водени жиг помера проблем са откривања на верификацију, али уводи сопствене зависности. Ослања се на сарадњу добављача вештачке интелигенције и примењује се само на текст генерисан са омогућеним воденим жигом.
У ширем смислу, детекција текста АИ је део ескалирајуће трке у наоружању. Алати за детекцију морају бити јавно доступни да би били корисни, али та иста транспарентност омогућава избегавање. Како генератори АИ текста постају све способнији, а технике избегавања све софистицираније, мало је вероватно да ће детектори добити трајну предност.
Тешка стварност
Проблем детекције АИ текста је једноставан за навођење, али га је тешко поуздано решити. Институције са правилима која регулишу употребу текста написаног вештачком интелигенцијом не могу се ослањати само на алате за откривање за спровођење.
Како се друштво прилагођава генеративној вештачкој интелигенцији, вероватно ћемо побољшати норме у вези са прихватљивом употребом текста генерисаног вештачком интелигенцијом и побољшати технике детекције. Али на крају, мораћемо да научимо да живимо са чињеницом да такви алати никада неће бити савршени.
Овај уређени чланак је поново објављен од Тхе Цонверсатион под лиценцом Цреативе Цоммонс. Прочитајте оригинални чланак.
