Понекад желите да нешто препишете, али не желите да то виси на интернету да би било који хакер могао да га види. Можда је то разговор са вашим доктором или адвокатом. Можда сте новинар, а то је осетљив интервју. Приватност и контрола су важни.
Та жеља за приватношћу је један од разлога зашто је француски програмер Мистрал АИ направио своје најновије моделе транскрипције да буду довољно мали да покренути на уређајима. Могу да раде на вашем телефону, на лаптопу или у облаку.
Воктрал Мини Транскрипција 2један од нових модела који је објављен у среду, је „супер, супер мали“, рекао ми је Пјер Сток, Мистралов потпредседник за научне операције. Још један нови модел, Воктрал Реалтиме, може да уради исту ствар, али уживо, попут титлова.
Приватност није једини разлог зашто је компанија хтела да гради мале модели отвореног кода. Покретањем директно на уређају који користите, ови модели могу радити брже. Нема више чекања да датотеке пронађу пут преко интернета до дата центра и назад.
„Оно што желите је да вам се транскрипција догоди супер, супер близу“, рекао је Сток. „А најближе што вам можемо пронаћи је било који ивични уређај, на пример, лаптоп, телефон, носиви попут паметног сата.
Мала латенција (читај: велика брзина) је посебно важна за транскрипцију у реалном времену. Модел Воктрал Реалтиме може да генерише са латенцијом мањом од 200 милисекунди, рекао је Стоцк. Може да транскрибује речи говорника онолико брзо колико можете да их прочитате. Нема више чекања две или три секунде да се титлови сустигну.
Гледај ово: иПхоне који утиче на недостатак чипа, улагање у ОпенАИ заустављено, оптужбе за цензуру ТикТок-а | Тецх Тодаи
Воктрал Реалтиме модел је доступан преко Мистралов АПИ и на Хуггинг Фацезаједно са а демо где можете да га испробате.
У неком кратком тестирању, открио сам да се генерише прилично брзо (иако не тако брзо као што бисте очекивали да је на уређају) и успео сам да тачно ухватим оно што сам рекао на енглеском са мало шпанског умешаног. Тренутно је способан да рукује са 13 језика, према Мистралу.
Воктрал Мини Трансцрибе 2 је такође доступан преко АПИ-ја компаније, или можете да се играте са њим Мистралов АИ Студио. Користио сам модел да препишем свој интервју са Стоцком.
Сматрао сам да је брз и прилично поуздан, иако се борио са правим именима као што су Мистрал АИ (који је назвао Мр. Лаи Еие) и Воктрал (ВокТролл). Да, АИ модел је погрешно назвао. Али Сток је рекао да корисници могу да прилагоде модел како би боље разумели одређене речи, имена и жаргон ако га користе за одређене задатке.
Изазов изградње малих, брзих АИ модела је да они такође морају бити тачни, рекао је Стоцк. Компанија је рекламирала перформансе модела на референтним вредностима показујући побољшане стопе грешака у поређењу са конкурентима.
„Није довољно рећи, ОК, направићу мали модел“, рекао је Сток. „Оно што вам треба је мали модел који има исти квалитет као већи модели, зар не?“
