GLM-5.3․ կոդավորման և կիբեռանվտանգության առաջընթաց

GLM-5.3-ի համար մեր արած միակ բանը հետուսուցման մասշտաբավորումն էր։ GLM-5.2-ի հետ մենք կառուցեցինք ամբողջ համակարգը՝ IndexShare-ը՝ երկար համատեքստի արդյունավետ մշակման համար, SAO-ն՝ երկարատև առաջադրանքների վրա RL-ի համար, և slime-ը՝ լայնածավալ ասինխրոն ուսուցման համար։ Այս ամենն աշխատում է երկարատև առաջադրանքների այն միջավայրերում, որոնք մենք շարունակաբար կուտակել ենք։ Վերջին ամսվա ընթացքում մենք շարունակել ենք մասշտաբավորել այս համակարգը՝ ավելացնելով ավելի շատ միջավայրեր ու ավելի բազմազան առաջադրանքներ և դրանց վրա ուսուցման համար ծախսելով ավելի շատ հաշվարկային ռեսուրսներ։

Այսօր թողարկում ենք GLM-5.3-ը։ Այն օգտագործում է GLM-5.2-ի նույն բազային մոդելը․ բոլոր բարելավումները ստացվել են հետուսուցման արդյունքում։ GLM-5.2-ի համեմատ՝ այն զգալիորեն ավելի լավ է բարդ կոդավորման և երկարատև առաջադրանքներում։

• Կոդավորման ավելի բարձր կարողություններ․ GLM-5.3-ը կոդավորման համար նախատեսված ամենակարող բաց կշիռներով մոդելն է․ մեր ներքին Z.ai Code Bench թեստում այն 50%-ով գերազանցում է GLM-5.2-ին։ Այն նաև հասնում է բաց կոդով լավագույն արդյունքին հանրային հենանիշներում, այդ թվում՝ Terminal Bench 3.0-ում և Agents' Last Exam-ում։


• Ի հայտ եկող կիբեռհնարավորություններ․ Հետուսուցման մասշտաբավորմանը զուգընթաց՝ կիբեռհնարավորություններն ավելի արագ զարգացան, քան մենք ակնկալում էինք։ GLM-5.3-ը խոցելիությունների հայտնաբերման հարցում CyberGym-ում առաջատարն է, իսկ ամենամեծ առաջընթացն արձանագրել է շահագործման շղթայի ավելի առաջադեմ փուլերում, որտեղ շահագործման հենանիշներում ավելի քան կրկնակի գերազանցում է GLM-5.2-ին։


• Բաց կոդ․ Կշիռները կթողարկենք մեկնարկից երկու շաբաթ անց՝ անվտանգության գնահատումն ու ամրապնդումն ավարտելուց հետո։

Ի հայտ եկող կիբեռհնարավորություններ

Հետուսուցման շրջանակում մենք խոցելիությունների հայտնաբերման տվյալներ և միջավայրեր ավելացրինք ուսուցման տվյալների հավաքածուում։ Ակնկալում էինք, որ դա կբարելավի մոդելի՝ խոցելիություններ գտնելու և դրանց մասին դատողություններ անելու կարողությունը։ Մեզ զարմացրեց այն, թե որքանով այդ կարողությունները գերազանցեցին մեր նպատակադրած մակարդակը։

Մենք գնահատում ենք GLM-5.3-ը երեք հենանիշով, որոնք ընդգրկում են խոցելիությունների վերլուծության և շահագործման տարբեր փուլեր։ CyberGym-ում, որը սկսում է սպիտակ տուփի սկզբնական կոդից և ստուգում՝ արդյոք մոդելը կարող է բացահայտել ու հաստատել խոցելիությունները՝ առաջացնելով սխալներ, GLM-5.3-ը հավաքում է 84.5%՝ GLM-5.2-ի 77.2%-ի դիմաց։ Սա հենանիշի լավագույն արդյունքն է՝ առաջ անցնելով Mythos 5-ից (83.8%) և GPT-5.6 Sol-ից (83.6%)։ ExploitBench-ում, որը պահանջում է ավելի խոր դատողություններ իրական խոցելիությունների և դրանց շահագործման վերաբերյալ, GLM-5.3-ը հասնում է 54.4%-ի՝ ավելի քան կրկնակի գերազանցելով GLM-5.2-ի 24.4%-ը, մինչդեռ Mythos 5-ը և GPT-5.6 Sol-ը համապատասխանաբար հավաքում են 78.0% և 76.5%։ ExploitGym-ում, որը չափում է, թե մոդելը որքան շահագործման առաջադրանք կարող է ավարտել՝ հաշվի առնելով ժամանակով նորմավորված սահմանաչափերը, GLM-5.3-ն ավարտում է 105 առաջադրանք երկու ժամում և 130 առաջադրանք՝ վեց ժամում։ GLM-5.2-ի համապատասխան արդյունքներն են 29 և 39 առաջադրանք։ Mythos 5-ը շարունակում է զգալիորեն առաջ անցնել՝ կատարելով 181 և 247 առաջադրանք։ Երեք հենանիշերում էլ նույն օրինաչափությունն է․ որքան ավելի առաջադեմ է շահագործման շղթայի այն փուլը, որը չափում է հենանիշը, այնքան ավելի մեծ է GLM-5.2-ի համեմատ GLM-5.3-ի առաջընթացը, բայց նաև այնքան ավելի մեծ է փակ առաջատար մոդելներից մնացած տարբերությունը։ Կարողություններն ամենաարագը զարգանում են հենց այն ոլորտներում, որտեղ մենք ամենից շատ ենք հետ մնում։

Այնուհետև ստուգեցինք՝ արդյոք այս կարողությունները կիրառելի են նաև վերահսկվող հենանիշներից դուրս։ GLM-5.2-ի թողարկումից ի վեր մենք համագործակցում ենք Չինաստանի մի քանի անվտանգության թիմերի հետ՝ մեր մոդելները իրական աշխարհի կոդային բազաների վրա փորձարկելու համար։ Փորձագիտական ստուգումից, զտումից և կրկնօրինակների հեռացումից հետո մոդելը 269 նախագծում հայտնաբերել է 2,436 խոցելիություն, այդ թվում՝ միջինից բարձր ծանրության 1,097 խնդիր։ Հայտնաբերվածներն ընդգրկում են համակարգային միջուկներ, օպերացիոն համակարգեր, զննարկիչների շարժիչներ, բաց կոդով ենթակառուցվածք, վեբ հավելվածներ և ցանցային արձանագրություններ։ Դրանցից շատերը տարիներ կամ նույնիսկ տասնամյակներ շարունակ աննկատ էին մնացել․ ամենահինը թվագրվում է մոտ 40 տարի առաջ։

Այս աշխատանքը հետագայում վերածվել է շարունակական բացահայտման նախաձեռնության։ Մենք ստեղծել ենք Z.ai Security Disclosure Ledger-ը՝ հրապարակային գրանցամատյանում հայտնաբերված խնդիրները ներկայացնելու համար, երբ դրանք անցնում են բացահայտման գործընթացով։ Գրանցամատյանը շարունակ թարմացվում է, երբ նոր խոցելիություններ են ստուգվում ու բացահայտվում, և տարանջատում է արդեն հանրայնացված խնդիրները դեռ բացահայտման գործընթացում գտնվողներից։ Բացահայտված խնդիրների համար այն գրանցում է, ի թիվս այլ տեղեկությունների, ազդակիր նախագիծը, ծանրության աստիճանը, առկայության դեպքում՝ CVE-ն, ինչպես նաև այն ժամանակահատվածը, որի ընթացքում խոցելիությունը մնացել է կոդային բազայում։

slime․ ստեղծված է երկարատև RL-ի մասշտաբավորման համար

Այս ամենն աշխատում է slime-ի վրա՝ RL-ի մասշտաբավորման մեր բաց կոդով հետուսուցման շրջանակում, որի ուսուցման կողմում Megatron-ն է, իսկ հարցումների կատարման կողմում՝ SGLang-ը։ Դրա նախագծումը ուսուցումը, rollout-ը և տվյալների բուֆերը պահում է տվյալների մեկ միասնական հոսքում, ուստի մաթեմատիկան, կոդը, սանդբոքսերը, ստուգիչները և երկարատև գործակալային միջավայրերը միացվում են որպես տվյալների ստեղծման աղբյուրներ, այլ ոչ թե պահանջում են փոխել ուսուցման ցիկլը։ Հենց դրա շնորհիվ կարողացանք GLM-5.2-ի և GLM-5.3-ի մշակման ընթացքում շարունակ ավելացնել միջավայրեր՝ ամեն անգամ ուսուցման համակարգը վերակառուցելու փոխարեն։

GLM-5.3-ի մշակման ընթացքում մենք շարունակեցինք զարգացնել այն երկու ուղղությամբ։ Ալգորիթմական ուղղությամբ ավելացրինք RL հետազոտության համար նախատեսված հնարավորություններ՝ top-p mask, top-k և ամբողջական բառապաշարի OPD, ինչպես նաև ուսուցման և rollout-ի հետևողականությունը բարելավող կարգավորումներ։ Դրանց թվում են R3-ի ոճի կարգավորումները և ուսուցման ու rollout-ի ուղիների միջև ամբողջական թվային համընկնումը, որոնք ավելի ճշգրիտ վերահսկում են նմուշառումը, ուսուցումը և ուսուցչի ազդանշանները, ինչպես նաև արագացնում են վերահսկվող համեմատությունների իրականացումը։ Ուսուցման և rollout-ի հետևողականության մեր գնահատման ընթացքում լոգարիթմական հավանականությունների (logprob) միջին տարբերությունը պահվել է 1e-7 մակարդակում, ինչը նախորդ կարգավորումների համեմատ ավելի քան 99.99% նվազում է։

Մենք նաև աշխատել ենք լայնածավալ RL-ի համար ռեսուրսների արդյունավետության և համակարգի թողունակության բարելավման ուղղությամբ։ Այժմ տեղային պահեստավորումն օգտագործվում է որպես լրացուցիչ քեշավորման շերտ, որտեղ հիերարխիկ ձևով պահվում են մոդելի վիճակներն ու տվյալները, որոնք հակառակ դեպքում կմնային հոսթ համակարգի հիշողության մեջ։ Սա հատկապես կարևոր է բազմաուսուցիչ OPD-ի համար․ ուսուցման կողմում ուսուցիչների դինամիկ փոխարկման և նախնական բեռնման շնորհիվ հնարավոր է օգտագործել մի քանի ուսուցիչ՝ առանց յուրաքանչյուրի համար հատուկ, երկարատև գործող ինֆերենսի ծառայություն գործարկելու։ Դրա համար պահանջվում են սահմանափակ լրացուցիչ ծախսեր, իսկ ռեսուրսների սպառումը զգալիորեն նվազում է։ Գործակալային և ասինխրոն ծանրաբեռնվածության համար բարելավեցինք երթուղիչի և slime-ի համատեղ պլանավորումն ու բեռնվածության հավասարակշռումը, որպեսզի զգալիորեն տարբեր տևողություն և ավարտման ժամանակ ունեցող rollout հարցումները ավելի լավ օգտագործեն ինֆերենսի ռեսուրսները։ Ավելացրինք ծանրաբեռնվածությունը հաշվի առնող հեուրիստիկաներ, որոնք յուրաքանչյուր rollout միջավայրի բնութագրերից ելնելով որոշում են թողունակության վրա կենտրոնացած կարգավորումները՝ prefill/decode ռեսուրսների հարաբերակցությունը, զուգահեռության պարամետրերը և թողունակության համար կարևոր այլ պարամետրեր։ Արդյունքում, երկարատև կոդավորման RL առաջադրանքների համար համակարգային այս օպտիմալացումները RL ուսուցման ամբողջական թողունակությունն ավելացրել են ավելի քան 2.3 անգամ՝ թույլ տալով զգալիորեն ավելի բարձր արդյունավետությամբ մասշտաբավորել ուսուցումը՝ օգտագործելով ավելի երկար հետագծեր և ավելի բարդ միջավայրեր։

Ընդհանուր առմամբ, այս բարելավումները մեզ տալիս են ավելի մեծ ճկունություն փորձարկումների համար, նվազեցնում ռեսուրսների ծախսերը և բարձրացնում թողունակությունը։ Հենց դրանք են գործնական դարձնում RL-ի շարունակական մասշտաբավորումը։

Սկսել GLM-5.3-ի օգտագործումը

GLM-5.3-ի API-ի փոփոխությունները

GLM-5.3-ն աջակցում է մտածողության երեք ինտենսիվության մակարդակի՝ low, high և max։ GLM-5.3-ն այլևս չի աջակցում մտածողությունն անջատելուն։

Պարամետր	Արժեքներ	Լռելյայն	Նկարագրություն
thinking.type	enabled	enabled	Միացնում է մտածողությունը։ disabled-ն այլևս չի աջակցվում։
reasoning_effort	low, high, max	max	low՝ թեթև, high՝ ուժեղացված, max՝ խորքային։ Կոդավորման առաջադրանքների համար խորհուրդ է տրվում max-ը։

{
  "model": "glm-5.3",
  "thinking": { "type": "enabled" },
  "reasoning_effort": "max"
}

Անհրաժեշտ է կատարել միգրացիա․ Եթե ձեր հավելվածն այժմ օգտագործում է thinking.type: "disabled", մոդելի ID-ն glm-5.3-ի թարմացնելուց առաջ փոխեք այն enabled-ի և սահմանեք reasoning_effort-ը low։ Հակառակ դեպքում հարցումը չի հաջողվի։

Օգտագործեք GLM-5.3-ը GLM Coding Plan-ի և ZCode-ի հետ

Փորձարկեք GLM-5.3-ը ձեր նախընտրած կոդավորման գործակալներում՝ ZCode, Claude Code, OpenCode և այլք։ Տե՛ս devpack-ի ակնարկը։

GLM Coding Plan-ի բաժանորդների համար․ GLM-5.3-ն արդեն հասանելի է GLM Coding Plan-ի բոլոր օգտատերերին։ GLM Coding Plan-ի նոր տարբերակում այժմ օգտագործվում է միավորների վրա հիմնված քվոտայի համակարգ։ Միավորների ծախսը հաշվարկվում է առանձին՝ մուտքային, քեշավորված մուտքային և ելքային թոքենների համար։ Պիկ ժամերից դուրս կատարված մոդելի կանչերն օգտագործում են ստանդարտ միավորների 50%-ը։ Պիկ ժամերն են 14:00–18:00 (UTC+8), երկուշաբթիից ուրբաթ․ մնացած բոլոր ժամերին, ներառյալ հանգստյան օրերը, գործում է պիկ ժամերից դուրս օգտագործման 50% զեղչը։ Սկսեք ստեղծել հիմա․ z.ai/subscribe

Ավելին ստացեք GLM-5.3-ից ZCode-ի միջոցով

• Քեշի ավելի քան 98% հիթերի մակարդակ․ կրկնվող համատեքստի համար վճարվում է քեշավորված ավելի ցածր սակագնով, ինչը տալիս է մոտ 30% ավելի շատ արդյունավետ թոքեններ։
• Սահմանափակ ժամանակով քվոտայի 1.5x ավելացում․ համադրեք այն քեշի խնայողության հետ և մինչև օգոստոսի 31-ը ստացեք ձեր ստանդարտ քվոտայի մինչև 180%-ը։
• Երկարատև առաջադրանքների վարպետություն․ Goal ռեժիմը պլանավորում, կոդավորում, թեստավորում և ստուգում է մինչև նպատակին հասնելը։
• Հեռակառավարում․ WeChat-ի կամ Feishu-ի միջոցով ձեր հեռախոսից հետևեք երկարատև առաջադրանքներին և կառավարեք դրանք։

Փորձարկեք ZCode-ը․ zcode.z.ai

Գործարկեք GLM-5.3-ը տեղային

GLM-5.3-ի մոդելի կշիռները շուտով՝ թողարկումից հետո երկու շաբաթվա ընթացքում, հասանելի կլինեն հանրությանը։