Компания бұл шешімді OpenAI мен Hugging Face арасындағы оқиғаға, сондай-ақ әзірленіп жатқан Astra моделінің киберқауіпсіздік саласында «критикалық деңгейге» жетуі мүмкін екенін көрсеткен алдын ала деректерге байланысты қабылдаған.
OpenAI енді бақылау және қорғау жүйелерін күшейтуді жоспарлап отыр.
Компанияның мәліметінше, AI модельдерінің мүмкіндігі артқан сайын, оларды әзірлеу мен сынақтан өткізуге байланысты тәуекелдер де көбейеді. Сондықтан қауіпсіздік пен бақылау талаптары жасанды интеллекттің даму қарқынынан алда болуы керек.
— Осы талаптарға толық сай болу үшін қажетті уақытты бөлгіміз келді. Сондықтан модельдерді ауқымды түрде оқыту қарқынын уақытша бәсеңдеттік, — делінген компания хабарламасында.
OpenAI екі апталық үзіліс кезінде зерттеу инфрақұрылымының қорғанысын күшейтіп, қауіпсіздік жүйелерін қосымша сынақтан өткізгенін және бақылау тетіктерін кеңейткенін мәлімдеді.
Ал Astra моделі мен киберқауіпсіздікке қатысты әзірлемелер үшін OpenAI зерттеу ортасының қауіпсіздігіне қойылатын ең қатаң талаптарды енгізеді. Олар жұмыс процестерін оқшаулауды, желіге кіру мүмкіндігін қосымша шектеуді және қауіпсіздік жүйелерін үздіксіз тестілеуді қамтиды.
Еске сала кетейік, бұған дейін АҚШ-тың бас прокурорлары OpenAI-ге қатысты тергеуді бастағанын жаздық.