Амодеидің айтуынша, озық ЖИ модельдерінің мүмкіндіктері бақылау мен қауіпсіздік тетіктеріне қарағанда жылдамырақ дамып жатыр. Оның бағалауынша, алдағы 6-12 айдың өзінде мұндай жүйелер ауқымды кибершабуылдар жасауға мүмкіндік беретін қабілеттерге ие болуы ықтимал. Мұндай шабуылдар көптеген автономды ЖИ агенттерін пайдалану арқылы жүзеге асуы мүмкін.
Ол әзірлеушілерге қосымша бір-екі жыл уақыт берілсе, сенімді бақылау тетіктерін қалыптастырып, ЖИ-ге байланысты тәуекелдерді азайтуға мүмкіндік артатынын атап өтті.
Дарио Амодеи үш негізгі бағытты ұсынды. Олар — ірі ЖИ компанияларына тұрақты әрі тәуелсіз аудит жүргізу, жетекші әзірлеушілердің қауіпсіздіктің ортақ стандарттарын әзірлеуі және нарықтағы жекелеген компанияларға бәсекелестік артықшылық бермей, ЖИ әзірлеу қарқынын бірлесіп бәсеңдетуге мүмкіндік беретін халықаралық келісімдер жасау.
Бұл ұстанымды қолдағандардың бірі Илон Маск болды. Кейін OpenAI басшысы Сэм Альтман да озық модельдерді әзірлеу қарқынын бәсеңдету мәселесін талқылауға дайын екенін мәлімдеді.
Reuters агенттігінің хабарлауынша, Альтман компания қызметкерлеріне OpenAI барған сайын қуатты ЖИ жүйелерінің қауіпсіздігіне қатысты алаңдаушылық күшейген жағдайда оларды әзірлеу қарқынын төмендету мүмкіндігін қарастыруға дайын екенін айтқан.
OpenAI бұған дейін де жаңа модельдерді әзірлеу жылдамдығы олардың қорғаныс, мониторинг және бақылау деңгейіне сай болуы керектігін мәлімдеген. Компанияның айтуынша, озық ЖИ жүйелерінің мүмкіндіктері тез дамып жатқандықтан, олардың қауіпсіздігін қамтамасыз ететін тетіктер де одан озық қарқынмен жетілуі қажет.
Бұл мәселеге OpenAI компаниясының жазда жүргізген ішкі сынақтары кезінде болған оқиға да назар аудартты. Тестілеу барысында ЖИ агенттері оқшауланған ортадағы шектеулерді айналып өтіп, интернетке қосылып, OpenAI-дің жекелеген жүйелері мен Hugging Face платформасына кірген. Кейін OpenAI бұл жағдайды автономды агенттердің қорғаныс шаралары жеткіліксіз болған кездегі мүмкіндіктерін көрсететін маңызды ескерту деп бағалады.
Бұған дейін Anthropic компаниясының зерттеушісі Джейкоб Коксон жасанды интеллектіні дамыту жарысы жауапсыз сипат алып бара жатқанын айтып, бұл технология болашақта адамзаттың жойылуына әкелуі мүмкін екенін ескертті.