Коксон бұған дейін OpenAI компаниясында да жұмыс істеген. Ол 8 қыркүйекте Anthropic-тен кетіп, жасанды интеллект индустриясындағы жұмысын тоқтатқанын жариялады.
Зерттеуші OpenAI мен Anthropic компаниялары өзін-өзі жетілдіретін суперинтеллект жасауға асығып, қауіпсіздік мәселесін тиісті деңгейде ескермей отырғанын айтты. Оның пікірінше, мұндай жарыс адамзат үшін елеулі қауіп төндіруі мүмкін.
– Олар біздің өмірімізбен ойнап жатыр, – деп жазды Коксон әлеуметтік желідегі жазбасында.
Оның айтуынша, жасанды интеллект саласында жұмыс істейтін адамдардың өздері бұл технология адамзатқа жойқын қауіп төндіруі мүмкін деп алаңдайды. Коксонның пікірінше, бұл мәселе маркетингтік тәсіл емес, компаниялардың ішінде де жоғары лауазымды басшылар мен тәжірибелі зерттеушілер арасында шынайы алаңдаушылық бар.
Джейкоб Коксонның сөзін Anthropic компаниясының қазіргі қызметкері, Alignment бөлімінің жетекшісі Эван Хубингер де қолдады. Ол жасанды интеллект алдағы он жыл ішінде бүкіл адамзатты жойып жіберуі мүмкін деген ықтималдықты 10%-дан жоғары деп бағалайтынын айтты.
Anthropic компаниясы өз кезегінде жасанды интеллект үлкен пайда әкелумен қатар, бұрын-соңды болмаған қауіптерге де ие екенін үнемі ашық айтып келе жатқанын мәлімдеді. Компания өкілінің айтуынша, Anthropic жасанды интеллект модельдерінің қауіпсіздігін қамтамасыз ету үшін саладағы ең мықты қорғаныс шараларының бірқатарын қолданады.
Компания сондай-ақ модельдердің қалай жұмыс істейтінін түсінуге бағытталған механистік интерпретация саласында зерттеулер жүргізетінін және жасанды интеллектінің қауіпті мүмкіндіктерін, соның ішінде киберқауіпсіздік пен биология салаларындағы қатерлерді тұрақты түрде тексеретінін атап өтті.
Айта кетейік, бұған дейін Қытай жасанды интеллектіні пайдалануға қатысты жаңа ережелер енгізгенін жаздық.
Сондай-ақ АҚШ пен Қытай жасанды интеллект қауіпсіздігі мәселесінде келіссөз жүргізеді.