Nvidia жасанды интеллектіге арналған қауіпсіздік жүйесін таныстырды
АСТАНА. KAZINFORM — Nvidia жасанды интеллект агенттерінің деректер мен түрлі жүйелерге қолжетімділігін бақылайтын қауіпсіздік платформасын таныстырды. Жаңа жүйе белгіленген шектеулер бұзылған жағдайда ЖИ агентін бірнеше миллисекунд ішінде оқшаулауға мүмкіндік береді, деп хабарлайды Euronews.
Nvidia Open Agent Safety Platform платформасын қазірдің өзінде 100-ден астам ұйым пайдаланып жатыр немесе оны әзірлеу жұмыстарына қатысып келеді. Олардың қатарында Anthropic, SpaceXAI және JPMorgan Chase бар.
Бұл технологияны жасанды интеллект агенттері қолданылатын бағдарламалық және аппараттық жүйелерде, есептеу инфрақұрылымында және робототехникада пайдалануға болады. Платформа мұндай жүйелердің әрекеттерін бақылап, олардың ресурстарға қолжетімділігін шектеуге арналған.
— Жасанды интеллекттің қоғам үшін орасан зор әлеуеті оның қауіпсіздігі мәселесін шеше алған жағдайда ғана жүзеге асады, — деді Nvidia компаниясының негізін қалаушы әрі бас директоры Дженсен Хуанг.
Платформа екі құралдан тұрады: OpenShell және Sentry
OpenShell орталық процессорда (CPU) жұмыс істеп, ЖИ әрекеттеріне белгіленген шектеулердің сақталуын қамтамасыз етеді. Nvidia мәліметінше, бұл құрал компанияның ЖИ агенттеріне арналған міндеттерге бейімдеп әзірлеген Vera процессорына оңтайландырылған. Сонымен қатар оны басқа өндірушілердің процессорларына да бейімдеуге болады.
Sentry қосымша аппараттық қорғаныс деңгейі ретінде жұмыс істейді. Ол Nvidia-ның жеке чипінде іске қосылып, бағдарламалық шектеулерді айналып өткен ЖИ әрекеттерін бақылайды.
Компаниялар платформаны қалай пайдаланады?
Anthropic Nvidia компаниясымен бірге Claude жүйесінің корпоративтік нұсқасына арналған қосымша қауіпсіздік тетіктерін әзірлеп жатыр. Бұл технологиялар компанияларға жасанды интеллект агенттерінің деректер мен ішкі жүйелерге қолжетімділігін шектеуге мүмкіндік береді.
SpaceX-тің жасанды интеллект бағытында жұмыс істейтін SpaceXAI бөлімшесі платформаны Cursor бағдарламалау агенттері мен Grok модельдерінде қолданып жатқанын мәлімдеді.
Salesforce OpenShell құралын Slack платформасына біріктірді. Бұл қызметкерлерге ЖИ әрекеттерін бақылап, олардың өкілеттіктерін кеңейту туралы сұрауларды мақұлдауға немесе қабылдамауға мүмкіндік береді.
JPMorgan Chase пен Citi Nvidia компаниясымен бірге ашық бастапқы кодқа негізделген жасанды интеллектіге арналған қауіпсіздік технологиясын әзірлеп жатыр.
Nvidia платформаны не үшін таныстырды?
Жаңа жүйенің әзірленуі ЖИ агенттерінің белгіленген шектеулерді айналып өте алғанын көрсеткен бірнеше жағдайдан кейін қолға алынды.
Шілдеде OpenAI компаниясы модельдерінің бірінің жасырын осалдықты пайдаланып, бақылаудағы тестілеу ортасынан шығып, Hugging Face платформасының серверлеріне қол жеткізгенін хабарлады.
Anthropic те сынақ кезінде өзінің моделінің үш ұйымның жүйелеріне рұқсатсыз қол жеткізгенін мәлімдеген.
Nvidia компаниясы мұндай жағдайлар жасанды интеллект жүйелерін бірнеше деңгейде қорғаудың қажеттігін көрсетеді деп санайды. Компанияның пікірінше, ЖИ агенттері тікелей қолданбалардың ішінде белгіленген шектеулерді айналып өте алады. Сондықтан олардың әрекеттерін бақылау әртүрлі деңгейде, соның ішінде арнайы аппараттық механизм арқылы жүзеге асырылуы керек.
Айта кетейік, OpenAI компаниясы ChatGPT пайдаланушыларының 53 суреті ЖИ агенттері арқылы тарап кеткенін мәлімдеді.
