Astana IT University студенті ЖИ-ге құпия деректердің таралуына тосқауыл болатын жүйе әзірледі
АСТАНА. KAZINFORM — Astana IT University студенті Айғаным Тулебаева жасанды интеллект сервистеріне корпоративтік құпия деректердің таралуын болдырмауға арналған ExoAI жүйесін әзірледі. Жоба құпия ақпаратты қорғап, кибершабуылдарды анықтауға бағытталған. Бұл туралы Ғылым және жоғары білім министрлігі мәлім етті.
AI-Sana көрмесі аясында Astana IT University студенті Айғаным Тулебаева корпоративтік үдерістерде үлкен тілдік модельдерді (LLM) пайдалану кезіндегі киберқауіпсіздікті арттыруға бағытталған ExoAI жобасын таныстырды. Бұл шешім құпия ақпараттың сыртқы жасанды интеллект сервистеріне берілуіне жол бермеуге және корпоративтік деректердің таралып кету қаупін азайтуға мүмкіндік береді.
Бүгінде жасанды интеллект құралдары шағын және орта бизнесте де, қаржы секторындағы ұйымдарды қоса алғанда ірі компанияларда да кеңінен қолданылады. Олардың көмегімен қызметкерлер күнделікті қайталанатын міндеттерді автоматтандырып, жұмыс тиімділігін арттырады. Сонымен қатар ашық ЖИ-сервистерді пайдалану ақпараттық қауіпсіздік саласында жаңа сын-қатерлер туындатады. Атап айтқанда, нейрожелілермен жұмыс істеу кезінде қызметкерлер жеке деректерді, банктік деректемелерді және корпоративтік маңызы бар өзге де құпия ақпаратты байқаусызда сыртқы сервистерге жіберуі мүмкін.
ExoAI – Zero Trust («нөлдік сенім») қағидаты бойынша жұмыс істейтін, компанияның ішкі инфрақұрылымы мен сыртқы үлкен тілдік модельдер арасында аралық буын қызметін атқаратын прокси-сервер. Жүйе жіберілетін деректерді талдап, құпия ақпаратты анықтайды және оны қорғалған токендермен немесе шифрланған белгілермен алмастырады. Осылайша, бастапқы деректер ашық күйінде жария тілдік модельге берілмейді.
Бұдан бөлек, шешім күмәнді әрекеттер мен қорғаныс тетіктерін айналып өту әрекеттерін, соның ішінде jailbreak-шабуылдарын анықтауға көмектесетін хабарландыру жүйесін қамтиды. Бұл компанияларға ықтимал қауіптерге дер кезінде әрекет етіп, жасанды интеллект құралдарын қауіпсіз пайдалану тетіктерін жетілдіруге мүмкіндік береді.
Айғаным Тулебаеваның айтуынша, жобаның негізгі міндеттерінің бірі – қорғаныс тетіктерін Қазақстанда қолданылатын корпоративтік деректер мен форматтарға, соның ішінде бизнес-сәйкестендіру деректері мен банктік деректемелерге бейімдеу. Мұндай тәсіл шешімді отандық бизнес жағдайында қолдану мүмкіндігін кеңейтуге бағытталған.
— Бүгінде жасанды интеллект күнделікті жұмыс үдерістерінің бір бөлігіне айналып келеді. Сондықтан оны қауіпсіз пайдалануды қамтамасыз ету маңызды. ExoAI компанияларға деректердің құпиялылығын сақтай отырып, үлкен тілдік модельдердің мүмкіндіктерін пайдалануға көмектеседі. AI-Sana көрмесіне қатысу арқылы өз жобамды таныстыруға, басқа технологиялық әзірлемелермен танысуға, кері байланыс алуға, сондай-ақ шешімді одан әрі дамыту үшін әлеуетті инвесторлар мен серіктестер табуға мүмкіндік алдым, – деді жоба авторы.
AI-Sana көрмесіне қатысу жас әзірлеушілерге өздерінің технологиялық шешімдерін таныстыруға, тәжірибе алмасуға және бизнес өкілдерімен, инвестициялық қауымдастықпен байланыс орнатуға жол ашады. ExoAI жобасы киберқауіпсіздік саласындағы білімді цифрлық трансформацияның өзекті міндеттерін шешуге және жасанды интеллектіні жауапкершілікпен енгізуге қолданудың нақты үлгісін көрсетеді.
Еске сала кетейік, еліміздегі деректерді өңдеу орталықтарын дамытуға 10 млрд доллар инвестиция тартылады.
