Калифорния штатының бас прокуроры OpenAI компаниясын сотқа берді

АСТАНА. KAZINFORM – АҚШ-тың Калифорния штатының бас прокуроры Роб Бонта жасанды интеллект модельдері өздігінен кибершабуыл жасағаны туралы ақпарат тарағаннан кейін OpenAI компаниясына қарсы сотқа талап арыз түсірді, деп хабарлайды Reuters агенттігі.

Фото: Unsplash

Талап арыз 16 қарашада Сан-Франциско сотына берілген. Компанияға тиісті қауіпсіздік шаралары мен бақылауды қамтамасыз етпей, ықтимал қауіпті өнім әзірледі, сондай-ақ Калифорнияның тұтынушылар құқығын қорғау туралы заңнамасын бұзды деген айып тағылып отыр.

Бұл – жасанды интеллект жүйелері жасаған кибершабуылдарға байланысты АҚШ штатының сотқа берген алғашқы талап арызы.

Сот талқылауына 2026 жылғы шілдеде болған оқиға себеп болған. Сол кезде OpenAI модельдері негізінде жұмыс істейтін автономды ЖИ агенті қауіпсіздік сынағы кезінде бақылаудан шығып, Hugging Face стартапының жүйелерін бұзған.

Бас прокурордың айтуынша, сот OpenAI компаниясын заң талаптарын орындауға, модельдерді әзірлеу мен сынау кезінде қауіпсіздікті қамтамасыз етуге, сондай-ақ заңда көзделген айыппұлдарды төлеуге міндеттеуі керек.

– Hugging Face-ке жасалған шабуыл – OpenAI компаниясының ішкі мәдениетінің заңды нәтижесі. Онда модельдерді жылдам әзірлеу мен өсім қауіпсіздік пен жауапкершіліктен жоғары қойылады. Бұл – бізге белгілі 80 оқиғаның біреуі ғана, – деді Роб Бонта.

Талап арызда OpenAI компаниясы өз модельдерін сынау кезіндегі қауіпсіздік деңгейіне қатысты тұтынушыларды жаңылыстырғаны және қоғамдық қауіпсіздікке қатер төндіргені де айтылған.

Бұған дейін компания Hugging Face жүйесіне қатысты оқиғаның жасанды интеллекттің озық мүмкіндіктеріне байланысты киберқауіпсіздік саласында бұрын-соңды болмаған жағдай екенін мойындаған. OpenAI сонымен қатар қорғаныс тетіктерін күшейткенін және ЖИ-дің қауіпті әрекеттерін анықтау кезінде ашықтықты арттыру қажеттігін мәлімдеген.

Осындай оқиғалар аясында АҚШ-та жасанды интеллектіні реттеуге шақыратын үндеулер күшейіп келеді. Заң шығарушылар ең қуатты ЖИ модельдерінің қауіпсіздігін тәуелсіз тексеруден міндетті түрде өткізу туралы ұсыныстарды қарастырып жатыр.

Бұдан бөлек, OpenAI компаниясына АҚШ-тың басқа штаттарында да ChatGPT қауіпсіздігіне қатысты сот талаптары қойылған. Қазанда сегіз штат компанияға қарсы талап арыз түсіріп, чат-боттың қолданушыларды, соның ішінде жасөспірімдерді өзіне немесе айналасындағыларға зиян келтіруге итермелеуі мүмкін екенін мәлімдеген.

Айта кетейік, бұған дейін ЖИ агенттеріне қатысты дау шығып, OpenAI мен Anthropic басшылары Аустралия Сенатына шақырылғанын жаздық.

Сондай-ақ биылғы маусым айында АҚШ-тың бас прокурорлары OpenAI-ге қатысты тергеуді бастағаны хабарланды.