张骏，字公庭，从小长得奇特壮美。建兴四年(316年)，封为霸城侯。十岁就能写文章，卓越不羁，可是淫逸放纵过度，常常在夜里在街巷中微服私行，国人效仿成俗。到他就任时，十八岁。在此之前，晋愍帝的使者黄门侍郎史淑在姑臧，左长史泛祎、右长史马谟等规劝史淑，让他拜张骏为使持节、大都督、大将军、凉州牧、领护羌校尉、西平公。在境内大赦，设置左右前后四率官，修缮南宫。前赵帝刘曜又派使者拜张骏为凉州牧、凉王。
这时辛晏在枹罕倚仗军力擅权，张骏在闲豫堂宴饮群僚，命令窦涛进兵征讨辛晏。从事刘庆劝谏说:“霸王不因喜怒而出兵，不靠冒险侥幸取胜，必须等待天时人事，然后兴起。辛晏父子残忍凶狂，其灭亡指日可待，怎么能在饥荒之年大举用兵，严寒之时去进攻城池呢?从前周武王回兵以等待灭殷的时机，曹公缓和对袁氏的用兵让他自毙，怎么独独殿下以回兵为耻呢?“张骏采纳他的意见。
派遣参军王骘出使前赵。刘曜对他说:“贵州必定想要效仿窦融，诚恳和好，卿能保证吗?“王骘说:“不能。“刘曜的侍中涂邈说:“君前来寻求和睦同心，却说不能，这是为什么?“王骘说:“齐桓公在贯泽之盟时，忧心忡忡小心谨慎，诸侯不召自来。在葵丘之会时，骄矜傲慢，九个诸侯国背叛了他。赵国的风化，放在今天就正合适，如果政教败坏，近处的变故尚且不能察觉，何况鄙州遥远呢?“刘曜回头对手下人说:“这是凉州的高士，不辱使命!“以礼相待而送他回去。
太宁元年(323年)，张骏还是称建兴十二年，张骏亲自耕藉田。不久接到晋元帝驾崩的消息，张骏聚哭告哀三天。适逢有黄龙在胥次的嘉泉出现，右长史泛祎对张骏说:“考察建兴之年，是少帝开始兴起的年号。皇帝凶死，理应改换年号。朝廷远在江南，音讯隔绝，宜趁着黄龙出现改换年号，以突出吉祥的征兆。“张骏不听。当初，张骏即位时，姑臧民谣说:“大雁南来雀乌不惊，谁说孤鹅尾翅生，两翼高举凤凰鸣。“到此时又收复了河南之地。
咸和初年，张骏派武威太守窦涛、金城太守张阆、武兴太守辛岩、扬烈将军宋辑等率军东与韩璞会合，进攻讨伐秦州诸郡。刘曜派其部将刘胤前来抵御，在狄道城驻军集结。韩璞进兵越过沃干岭。辛岩说:“我们拥有数万之众，凭借氐、羌的精锐，宜速战消灭敌人，不能拖久了，久则生变。“韩璞说:“自从夏末以来，太白星干犯月亮，辰星逆行，白虹贯日，这都是大的变动，不能轻举妄动。如果轻举妄动而不能取胜，祸殃更深。我将要持久下去拖垮贼军。再说刘曜与石勒相互攻战，刘胤也不能持久。“相持达七十多天，军粮匮竭，派辛岩到金城督促运粮。刘胤听说了，非常高兴，对他的将士说:“韩璞之众是我军的十倍，羌胡都背叛了，不听从调遣。我军粮草将尽，难以长期坚持下去。现在贼虏分兵运粮，可谓是天授我良机。如果击败辛岩，韩璞等不战自溃。彼众我寡，必须死战。战而不胜，将会一匹马也不能生还，应该磨砺你们的戈矛，竭尽你们的智力。“众人都很奋发。于是率三千骑兵，在沃干岭袭击辛岩，将其击败，韩璞军崩溃，死者两万多人。缚住双手归来当面请罪，张骏说:“这是孤之罪，将军有什么耻辱!“全都赦免他们。刘胤乘胜追击，渡过黄河，攻陷令居，占据振武，河西大为震恐。张骏派皇甫该抵御他，在境内大赦。
适逢刘曜向东征讨石生，长安空虚。张骏以田猎之名大肆阅兵练武，将要袭击秦、雍，理曹郎中索询劝谏说:“刘曜虽然东征，刘胤还留守根据地。道路险阻遥远，很容易防守。刘胤如果依靠氐、羌轻骑抵御我军，那么他横冲直撞很难预料;如果敌军停止东面战事来拒战，那么将不断地进犯我们。近年来频繁出战，兵马在近郊出现，外面有饥弱之民，内部的资财又消耗空虚，这难道是殿下所谓的爱民如子吗?“张骏说:“总是担心忠言不进，当面听从背后违反，我的政教有过失却没有匡正我的人。卿尽忠言规劝，深深地符合孤的心愿。“用羊酒向他表示敬意。
西域诸国进献汗血马、火浣布、挚牛、孔雀、大象以及各种珠宝珍奇二百多种。西域长史李柏请求攻击叛将赵贞，被赵贞击败。议论者认为李柏提出计划而导致失败，请求诛杀他。张骏说:“我总认为汉武帝的诛杀王恢，不如秦穆公的赦免孟明。“最后以减免死刑论罪，群心都悦服。张骏在新乡阅兵，在北面山野中狩猎，顺势征伐轲没虏，并将其击败。在境中下令说:“从前鲧被处死而禹兴起，芮被诛杀而缺被进用，唐帝因此而除去了洪灾，晋侯因此而成为五霸之一。法律规定犯死罪者，期功之亲不得在朝中任职。现决定都可以让其任职，只是不宜在宫内担任宿卫。“于是刑法清明而国富，群僚劝张骏称凉王，领秦、凉二州牧，设置公卿百官，依照魏武帝曹操、晋文帝司马昭的旧例。张骏说:“这不是人臣应该说的话。敢有说此事的人，罪在不赦。“然而境内都称他为王。百官又请张骏立世子，张骏不听。中坚将军宋辑对张骏说:“礼制中注重储君，大概是重视宗庙的原因。周成王、汉昭帝在襁褓中立为太子，实在是因为国家的继承者不能缺，储君应当早确定。从前武王刚建国时，元王当储君。建兴之初，先王在位