汉武帝接到战报，喜出望外，派特使捧着印信，到军中拜青为大将军，加封食邑8700户，所有将领归他指挥。青的三个儿子都还在襁褓之中，也被汉武帝封为列侯。青非常谦虚，坚决推辞说：“微臣有幸待罪军中，仰仗陛下的神灵，使得我军获得胜利，这全是将士们拚死奋战的功劳。陛下已加封了我的食邑，我的儿子年纪尚幼，毫无功劳，陛下却分割土地，封他们为侯。这样是不能鼓励将士奋力作战的。他们三人怎敢接受封赏。”汉武帝随后又封赏了随从青作战的公孙敖、韩说、公孙贺、李蔡、李朔、赵不虞、公孙戎奴、李沮、李息、豆如意等。
经过几次打击，匈奴依然猖獗。入代地，攻雁门，劫掠定襄（今内蒙古和林格尔）、上郡（今陕西绥德县东南）。公元前123年二月，汉武帝又命青攻打匈奴。公孙敖为中将军，公孙贺为左将军，赵信为前将军，苏建为右将军，李广为后将军，李沮为强弩将军，分领六路大军，统归大将军青指挥，浩浩荡荡，从定襄出发，北进数百里，歼灭匈奴军数千名。这次战役中，青的外甥霍去病率800精骑首次参战，取得了歼敌两千余人的辉煌战果。战后全军返回定襄休整，一个月后再次出塞，斩获匈奴军一万多名。但是，右将军苏建和前将军赵信与匈奴打了一场遭遇战，汉军死伤惨重，苏建突围逃回，赵信本是匈奴降将，兵败后就又投降了匈奴。
在讨论如何处置苏建弃军而逃的罪过时，有人建议将他斩首以建立大将军的威严，有人认为苏建是尽力而战的，不应斩首。青认为自己身为皇亲国戚，没有必要再建立威严；自己本有权力可以处决部将，却不敢擅杀。他要做一个人臣不敢专权的榜样，于是把苏建用囚车送回长安由皇帝处理。汉武帝赦免了苏建的死罪，令其交纳了赎金后贬为平民。
公元前121年，西汉对匈奴的第二次大战役开始，由霍去病指挥，结果使汉朝完全控制了河西地区，切断了匈奴与羌人的联系。
为了彻底击溃匈奴主力，汉武帝集中全国的财力、物力，准备发动对匈奴的第三次大战役。公元前119年春，汉武帝召集诸将开会，商讨进军方略。他说：“匈奴单于采纳赵信的建议，远走沙漠以北，认为我们汉军不能穿过沙漠，即使穿过，也不敢多作停留。这次我们要发起强大的攻势，达到我们的目的。”于是挑选了十万匹精壮的战马，由大将军青、骠骑将军霍去病各率精锐骑兵五万人，分作东西两路，远征漠北。为解决粮草供应问题，汉武帝又动员了私人马匹四万多，步兵十余万人负责运输粮草辎重，紧跟在大军之后。
原计划远征大军从定襄北上，由霍去病率骁勇善战的将士专力对付匈奴单于。后来从俘获的匈奴兵口中得知匈奴伊稚斜单于远在东方，于是汉军重新调整战斗序列。汉武帝命霍去病从东方的代郡出塞，青从定襄出塞。
大将军青麾下，强将济济。李广为前将军，公孙贺为左将军，赵食其为右将军，曹襄为后将军。青考虑到前将军李广年纪已高、运气又不好，就没让他担任先锋，而是与右将军赵食其两军合并，从右翼进行包抄。青自己率左将军公孙贺、后将军曹襄从正面进兵，直插匈奴单于驻地。
赵信向伊稚斜单于建议：“汉军不知道厉害，竟打算穿过沙漠。到时候，人困马乏，我们以逸待劳，就可以俘虏他们。”于是下令所有的粮草辎重，再次向北转移，而把精锐部队埋伏在了沙漠北边。
青大军北行一千多里，跨过大沙漠，与严阵以待的匈奴军遭遇了。青临危不惧，命令部队用武刚车（铁甲兵车）迅速环绕成一个坚固的阵地，然后派出5000骑兵向敌阵冲击。匈奴出动一万多骑兵迎战。双方激战在一起，非常惨烈。黄昏时分，忽然刮起暴风，尘土滚滚，沙砾扑面，顿时一片黑暗，两方军队互相不能分辨。青乘机派出两支生力军，从左右两翼迂回到单于背后，包围了单于的大营。伊稚斜单于发现汉军数量如此众多，而且人壮马肥，士气高昂，大为震动，知道无法取胜，就慌忙跨上马，在数行精骑的保护下奋力突围。向西北方向飞奔而去。
这时，夜幕已经降临，战场上双方将士仍在喋血搏斗，喊杀声惊天动地。青得知伊稚斜单于已突围逃走，马上派出轻骑兵追击。匈奴兵不见了单于，军心大乱，四散逃命。青率大军乘夜挺进。天亮时。汉军已追出二百多里，虽然没有找到单于的踪迹，却斩杀并俘虏匈奴官兵19000多人。青大军一直前进到真颜山赵信城（今蒙古乌兰巴托市西），获得了匈奴屯积的粮草，补充军用。他们在此停留了一天.然后烧毁赵信城及剩余的粮食。胜利班师。
霍去病率领的东路军，北进两千多里，与匈奴左贤王的军队遭遇。经过激战，俘获了匈奴三个小王以及将军、相国、当户、都尉等83入，消灭匈奴