Сервери препринта као што је Псиаркив се супротстављају сумњивим садржајем који су написали АИ системи.Кредит: Природа
Наслов Препринта – ‘Самоекспериментални извештај: Појачање генеративних АИ интерфејса у Дреам Статес-у’ Роусид психолог Оливиа Киртлеи’с сумња.
Кад је кликнула, њена упорност је расла. Рукопис, који је објављен у јулу у Псиаркив, сајт за не-рецензирано истраживање у психолошким наукама, било је само неколико страница дугачко и навело само једног аутора, чија припадност није укључена. А експеримент вештачке интелигенције (АИ) описани у тексту „био је прилично тамо“, каже Киртлеи, на Католичком универзитету у Леувен у Белгији.
Тако је означила то прерађивање и сличне психичким менаџерима Псиаркива, који их је уклонио. Рукопис држава Дреам-а користио је АИ у његовим методама, али није јасно изјавио како је АИ коришћен или да ли је коришћен у другим елементима рада, што значи да је прекршио услове коришћења производа, каже Дермот Линотт, шеф ПСИАРКСИВ-овог научног саветодавног одбора и психолога на Маиноотх универзитету у Ирској.
Као одговор на питања из ПриродаПорука са е-маил адресе наведених аутора, Јиазхенг Лиу, рекла је да је АИ одиграо ограничен део у генерацији препринта.
Борба против фабрика лажних папира која испуштају Схам науку
Псиаркив је само један од многих сервера препринта – и часописи – који се суочавају са сумњивим поднесцима. Неки папири носе отиске прстију папирних млина, који су услуге које производе научне радове на захтев. Други показују доказе о садржају које су написали АИ системи, као што су лажне референце, које могу бити знак АИ ‘халуцинација’.
Такав садржај представља конум за услуге препринта. Многе су непрофитне организације посвећене томе да научници олакшавају да објаве свој рад, а скрининг за ниски квалитет садржаја захтева ресурсе и може успорити прераду поднесака. Такав скрининг такође поставља питања о којима рукописи који омогућавају дозволу. А овај прилив додирног садржаја има своје ризике.
„Како радите осигурање квалитета док чувате ствари релативно лаганим додиром, тако да се систем не сруши на себе?“ Каже Катие Цоркер, веза из Извршног одбора Друштва за унапређење психолошких наука на научно саветодавни одбор Псиаркијева. „Нико не жели свет у којем појединачни читалац мора да схвати да ли је нешто легитимно стипендија.“
АИ раст напада
Услуге препринта приближавају се Природа Рекао је да релативно мали удео њихових поднесака носи знакове генерисања великим језичким моделом (ЛЛМ), попут оног који вози ОпенАи-ове ЦхатГпт. Оператори Арксива препринт арксива, на пример, процењују да се отприлике 2% њихових поднесака одбацује за што су производи од АИ, папирних млинова или обоје.
Рицхард Север, шеф ОпенРКСИВ-а, који управља животној науци Предпринт Сервер Биоркив и Биомедицин Сервер Медркинг, са седиштем у Њујорку, каже да су два комбинована престала више од десет рукописа дневно који изгледају формулаички и могло би се створити. Услуге добијају отприлике 7.000 поднесака месечно.
АИ је повезан са експлозијом нискоквалитетних биомедицинских истраживачких радова
Али неки кажу да се чини да се ситуација погоршава. Модератори Аркив приметили су убрзани садржај у АИ-окупију убрзо након покретања Цхатггпт крајем 2022. године, али „Заиста смо почели да мислим да је постојала криза негде у последња три месеца“, каже Стеинн СигурðСсон, научни директор у Аркиву и астрофизицистичком Државном универзитету у Универзитету.
У саопштењу објављеном 25. јула, Центар за отворене науке, непрофитна организација у Васхингтону ДЦ који је домаћин Псиаркива, рекао је да је „видјети приметан пораст достављених радова који ће изгледати да се стварају или снажно помажу АИ АИ-у“. Линотт потврђује да је на сајту „мали пораст“ и да сервер ради на минимизирању таквог садржаја.
Изазови модерирајућих претходника приказали су рукопис државе Дреам-а означени од стране Киртлеи: Убрзо након што је прецизан прецизник, прерађивач са готово идентичном титулом и сажетком објављен је на веб локацији. Е-маил са адресе повезане са аутором рекао је да је „АИ-ова улога ограничена на математичке деривације, симболичке рачунаре, састављање и примену постојећих математичких алата, верификације формуле“ и још осам задатака. Писац е-поште описао се као „независни истраживач са седиштем у Кини“ без степена високог образовања и чији је „само алат“ Смартпхоне „. Друга верзија препринта је такође срушена.
Цхатбот Хелперс
Студија1 Објављено прошле недеље у Људско понашање природе Процјењује да је у септембру 2024. године, скоро две године након откотрљања ЦхатГГПТ-а, произвела 22% садржаја у сажеткима на Аркиву и отприлике 10% текста у биолошкој сажети објављене на Биоркиву (види „Гриз“). За поређење, анализа2 Биомедицинске сажетке објављене у часописима 2024. године откривено је да је 14% у њиховим сажецима добило текст генерисано.
Извор: Реф 1.
Неки од АИ текста који су известили у студију могли би их створити научници који би се иначе борили да напишу рукопис на енглеском језику, каже Јамес Зоу, рачунарског научника на Универзитету Станфорд у Калифорнији и коаутор Људско понашање природе Папир.
