Anthropic басшысы жасанды интеллектінің басты қауіптерін атады
АСТАНА. KAZINFORM — Жасанды интеллект технологиялары бақылаудан шыққан жағдайда жалпы адамзатқа қауіп төндіруі мүмкін. Бұл туралы америкалық технологиялық компания Anthropic бас директоры Дарио Амодеи БҰҰ Қауіпсіздік Кеңесінің жасанды интеллект мәселесіне арналған отырысында мәлімдеді, деп хабарлайды Report.
— Жасанды интеллект жалпы адамзатқа қауіп төндіруі мүмкін деп есептеймін, — деді Амодеи.
Оның айтуынша, жасанды интеллект өте жылдам дамып келеді. Төрт жыл бұрын ғана бұл технологиялар кодтың бірнеше жолын жазу және жоғары сынып оқушыларына арналған математикалық есептерді шығару деңгейінде болса, қазір AI Anthropic компаниясындағы кодтың басым бөлігін жазып, бұрын шешілмеген деп саналған күрделі математикалық есептерді шығарып отыр.
Амодеи қазіргі даму қарқыны сақталса, жасанды интеллект алдағы бір-екі жылда, тіпті одан да ертерек, өзі «дата-орталықтағы данышпандар елі» деп сипаттаған деңгейге жетуі мүмкін екенін атап өтті.
Anthropic басшысының сөзінше, озық AI модельдері адамзатқа айтарлықтай пайда әкелуі мүмкін, алайда олар елеулі қауіптермен де қатар жүреді. Ол негізгі екі қатерді атады. Біріншісі — жасанды интеллектіні дұрыс пайдаланбау, соның ішінде биотеррористердің оны биологиялық қару жасау үшін қолдануы. Екіншісі — технологияларды бақылаудан айрылу қаупі.
Амодеи Anthropic компаниясы әзірлеп жатқан ЖИ технологияларының қауіпсіздігін қамтамасыз ету үшін олардың дамуын «қажет болғанша баяулатуға» дайын екенін айтты.
Сонымен қатар ол ЖИ-ге қатысты мәселелерді бір ғана компанияның шешуі мүмкін емес екенін атап өтті. Оның пікірінше, бұл үшін бүкіл сала мен халықаралық деңгейде бірлескен тәсіл қажет.
Еске сала кетейік, бұған дейін Anthropic компаниясының зерттеушісі Джейкоб Коксон жасанды интеллектіні дамыту жарысы жауапсыз сипат алып бара жатқанын айтып, бұл технология болашақта адамзаттың жойылуына әкелуі мүмкін екенін ескерткен еді.
