АҚШ шетелдіктерге Anthropic-тың ең қуатты ЖИ модельдеріне қолжетімділікті шектеді
АСТАНА. KAZINFORM — АҚШ билігі Anthropic компаниясын өзінің ең қуатты ЖИ-модельдеріне шетел азаматтарының қолжетімділігін жабуға міндеттеді. Осы талапқа сәйкес компания АҚШ ішіндегі және сыртындағы барлық пайдаланушыларға, соның ішінде Anthropic-та жұмыс істейтін шетелдік қызметкерлерге де қолжетімділікті толық тоқтатты, деп жазды 24kg.
— Бұл бұйрықтың нәтижесінде біз Fable 5 және Mythos 5 модельдеріне барлық клиенттер үшін қолжетімділікті кенеттен тоқтатуға мәжбүрміз, бұл талаптарды орындау үшін жасалды, — деп мәлімдеді компания.
Билік бұл шешімді қауіпсіздік органдарының талаптарымен байланыстырғанымен, нақты қандай қауіп туралы сөз болып отырғаны айтылмаған. Anthropic деректеріне сәйкес, үкімет Fable 5 моделін бұзудың бір әдісі туралы білген. Компания осы тәсілді зерттеп, кейбір әлсіз тұстарды анықтағанымен, мұндай осалдықтар басқа да ашық модельдерде бар екенін атап өткен.
Компания өкілдері модель іске қосылар алдында бірнеше апта бойы АҚШ үкіметімен, Ұлыбританияның AISI институтымен, жеке қауіпсіздік ұйымдарымен және ішкі мамандармен бірлесіп мыңдаған сағаттық тексеру жүргізілгенін айтқан. Нәтижесінде Fable жүйесінің қорғанысы бұрынғы кез келген модельден әлдеқайда мықты екені көрсетілген.
Сонымен қатар Anthropic: қазіргі уақытта жасанды интеллект жүйелерін «джейлбрейк» әдістерінен толық қорғау мүмкін емес деп санайтынын жеткізді.
Компания үкімет талабын орындағанымен, осалдық табылуын коммерциялық өнімді толық тоқтатуға негіз деп санамайтынын білдірді.
Бұған дейін АҚШ Қорғаныс министрлігі (Пентагон) мен Anthropic арасында келіспеушілік туындаған. Ведомство Claude моделіне толық шектеусіз қолжетімділік сұраған, ал компания басшысы бұл талапты қабылдамаған. Кейін АҚШ президенті Дональд Трамп мемлекеттік органдарға Anthropic модельдерін пайдалануға тыйым салғаны хабарланған.
Anthropic — әлемдегі жасанды интеллект саласындағы жетекші америкалық компаниялардың бірі.
Айта кетейік, жақында Meta жасанды интеллект көмегімен балалардың парақшаларын бұғаттай бастайды.
