Постоји једноставан начин на који можемо драстично смањити употребу енергије вештачке интелигенције


АИ се ослањају на центре података који користе огромне количине енергије
Џејсон Алден/Блумберг/Гети
Ако будемо разборитији у којим моделима вештачке интелигенције које користимо за задатке, то би потенцијално могло да уштеди 31,9 терават-сати енергије само ове године – што је еквивалентно производњи пет нуклеарних реактора.
Тиаго да Силва Баррос са Универзитета Азурна обала у Француској и његове колеге су размотрили 14 различитих задатака за које људи користе генеративне АИ алате, у распону од генерисања текста до препознавања говора и класификације слика.
Затим су испитали јавне табеле са лидерима, укључујући и оне које је хостовало средиште за машинско учење Хуггинг Фаце, како различити модели раде. Енергетска ефикасност модела током закључивања – када АИ модел даје одговор – измерена је помоћу алата који се зове ЦарбонТрацкер, а укупна потрошња енергије тог модела израчуната је праћењем преузимања корисника.
„На основу величине модела, проценили смо потрошњу енергије и на основу тога можемо да покушамо да урадимо наше процене“, каже да Силва Барос.
Истраживачи су открили да је, у свих 14 задатака, прелазак са модела са најбољим учинком на енергетски најефикаснији за сваки задатак смањио потрошњу енергије за 65,8 одсто, док је резултат био мање користан за само 3,9 одсто – компромис који они сматрају да би могао бити прихватљив за јавност.
Пошто неки људи већ користе најекономичније моделе, ако би људи у стварном свету прешли са модела високих перформанси на енергетски најефикаснији модел, могли би да доведу до смањења укупне потрошње енергије за 27,8 одсто. „Били смо изненађени колико се може уштедети“, каже члан тима Фредерик Жироар из Француског Националног центра за научна истраживања.
Међутим, то би захтевало промене и од корисника и од АИ компанија, каже да Силва Барос. „Морамо размишљати у правцу покретања малих модела, чак и ако изгубимо неке од перформанси“, каже он. „А компаније, када развијају моделе, важно је да деле неке информације о моделу које омогућавају корисницима да разумеју и процене да ли модел троши много енергије или не.“
Неке компаније са вештачком интелигенцијом смањују потрошњу енергије својих производа кроз процес који се зове модел дестилација, где се велики модели користе за обуку мањих модела. Ово већ има значајан утицај, каже Цхрис Преист са Универзитета у Бристолу у Великој Британији. На пример, Гоогле је недавно тврдио да је у Близанцима 33 пута повећана енергетска ефикасност током прошле године.
Међутим, навођење корисника да изаберу најефикасније моделе „мало је вероватно да ће довести до ограничавања повећања енергије из центара података, као што аутори сугеришу, барем у тренутном балону вештачке интелигенције“, каже Преист. „Смањење енергије по промпту ће једноставно омогућити бржем опслуживању већег броја купаца уз софистицираније опције расуђивања“, каже он.
„Коришћење мањих модела дефинитивно може довести до мање потрошње енергије у кратком року, али постоји толико много других фактора које треба узети у обзир када правите било какву значајну пројекцију у будућност“, каже Сасха Луцциони из Хуггинг Фаце. Она упозорава да се повратни ефекти попут повећане употребе „морају узети у обзир, као и шири утицаји на друштво и економију“.
Лучони истиче да се свако истраживање у овом простору ослања на екстерне процене и анализе због недостатка транспарентности појединих компанија. „Оно што нам је потребно, да бисмо урадили ове врсте сложенијих анализа, је већа транспарентност компанија за вештачку интелигенцију, оператера центара података, па чак и влада“, каже она. „Ово ће омогућити истраживачима и креаторима политике да доносе информисане пројекције и одлуке.“
Теме:



