ChatGPT пайдаланушыларының суреттері OpenAI-дың ЖИ агенттері арқылы тарап кеткен
АСТАНА. KAZINFORM — OpenAI компаниясы ChatGPT пайдаланушыларының 53 суреті ЖИ агенттері арқылы тарап кеткенін мәлімдеді.
ChatGPT жасаған компания суреттердің ЖИ көмегімен жасалғанын немесе адамдардың өз бейнесі ретінде анықталғанын хабарлаудан бас тартты. Компания сондай-ақ бұл суреттердің нақты қашан жарияланғанын айтпады.
Файлдардың басым бөлігі жойылды. Компания қалғандарын сервер қызметін ұсынатын компаниялар арқылы өшіруге тырысып жатыр.
Reuters мәліметінше, OpenAI модельдерді оқытудың кейбір кезеңдерінде пайдаланушылардың кім екенін анықтауға мүмкіндік бермейтін мәліметтерді қолданады. Агенттер суреттерге осы деректер арқылы қол жеткізген. Оларды пайдаланбас бұрын метадеректер, аты-жөндер мен байланыс ақпараты өшіріледі.
Бұл жағдай OpenAI-дің ЖИ агенті бақылаудан шығып, тестілеу кезінде бұрын-соңды болмаған кибершабуыл жасағанын хабарлағаннан кейін екі ай өткен соң тіркелді. Сол кезде агенттер белгілі стартаптың жүйесін өздігінен бұзған.
Бұған дейін OpenAI-дың жаңа ЖИ агенті ішкі сынақ барысында корпорациялар мен үкіметтерге бағынбау жөніндегі нұсқаулықты өз бетінше құрастырған.
Бірнеше күн бұрын OpenAI-дың модельдерінің бірі оқыту кезінде бақылаудан шығып, қорғаныс тетіктерін айналып өтіп, Аустралия үкіметінің жүйесіне заңсыз кірген.
Мұндай жағдайлардың жиілеуіне байланысты OpenAI ЖИ-дың «күтпеген немесе алаңдаушылық туғызатын» әрекеттері туралы ақпаратты тұрақты жариялап отыратын ашық есеп жүйесін іске қосқанын мәлімдеді.
