ОпенАИ је најавио ново Сигурносне карактеристике тинејџера за ЦхатГГПТ у уторак у уторак, као део текућег напора да одговори на забринутости о томе како се малолетници баве котачима. Компанија гради систем предвиђања средстава који идентификује ако је корисник стар млађи од 18 година и усмерава их на систем „одговарајући“ који блокира графички сексуални садржај. Ако систем открије да корисник разматра самоубиство или самоповреду, контактираће родитеље корисника. У случајевима непосредне опасности, ако су родитељи корисника недоступни, систем се може обратити властима.
У блогу пост о најави, директор Сам Алтман је написао да компанија покушава да уравнотежи слободу, приватност и тинејџерску сигурност.
„Схватамо да су ови принципи у сукобу, а не ће се сви сложити са начином на то како решавамо тај сукоб“, написао је Алтман. „То су тешке одлуке, али након разговора са стручњацима, то је оно што мислимо да је најбоље и желимо да будемо транспарентни у нашим намерама.“
Док ОпенАИ обично одређује приоритет приватности и слободе за одрасле кориснике, за тинејџере, компанија каже да прво поставља сигурност. До краја септембра компанија ће преврнути родитељским контролама тако да родитељи могу да повежу свој рачун свог детета на свој начин, омогућавајући им да управљају разговорима и онемогућим функцијама. Родитељи такође могу примати обавештења када „систем открије да је њихов тинејџер у тренутку акутне невоље“, према блогу у блогу предузећа и постављене границе у доба дана њихова деца могу да користе ЦхатГтпт.
Креће долазе што дубоко забрињавајуће наслове и даље настављају да људи умиру самоубиство или почине насиље над члановима породице након што су се укључили у дуготрајне разговоре са АИ Цхатботс-ом. Посланици су приметили, а и Мета и ОпенАИ су под надзором. Раније овог месеца, Федерална комисија за трговину питала је Мета, ОпенАи, Гоогле и друге АИ фирме да пређу информације о томе како њихове технологије утичу на децу, у складу са Блоомбергом.
У исто време, ОпенАИ је још увек под судским налогом којим се мандат да сачува шине потрошача у недоглед, чињеницу да је компанија изузетно несрећна о томе, према изворима са којима сам разговарао. Данашње вести су и важан корак ка штитињу малолетника и савви ПР да бисте ојачали идеју да су разговори са Цхатботс-ом тако лични да би приватност потрошача требала бити прекршена само у најекстремним околностима.
„А Аватар СекБот у Цхатгпт“
Из извора сам разговарао у ОпенАИ-у, терет заштите корисника тешко тежи многим истраживачима. Желе да створе корисничко искуство које је забавно и ангажовање, али може брзо да се прекрива да постане катастрофално сикофантичан. Позитивно је да компаније попут ОпенАи-а предузимају кораке за заштиту малолетника. Истовремено, у недостатку савезне регулативе, још увек нема ништа присиљавање ових фирми да раде праву ствар.
У недавном интервјуу Туцкер Царлсон је гурнуо Алтман да тачно одговори СЗО Да ли је ове одлуке донео да утичу на остале нас. Шеф ОпенАИ указао је на тим понашања модела, који је одговоран за подешавање модела за одређене атрибуте. „Особа за коју мислим да би требало да будете одговорни за оне позиве су ја,“ додао је Алтман. „Као, ја сам јавно лице. На крају, ја сам тај који могу да надјача једну од тих одлука или наша плоча.“
