此诗可分为两层。前四句一连使用了三个典故。“借箸”，用张良的故事。不仅用来代“筹划”一词，而且含有将元载比作张良的意思，从而表明诗人对他的推重。“衣冠就东市”，是用晁错的故事。意在说明元载的主张和遭遇与晁错颇为相似，暗示元载留心边事，有经营的策略。杜牧用晁错来作比较，表现出对晁错的推重和惋惜。“忽遗弓剑”采用黄帝乘龙升仙的传说，借指宪宗之死，并暗指宪宗喜好神仙，求长生之术。这里，诗人对宪宗被宦官所杀采取了委婉的说法，流露出对他猝然逝世的叹惋。以上全用叙述，不着议论，但诗人对河湟迟迟不能收复的感慨却溢于言表。
后四句用强烈的对照描写，表达了诗人鲜明的爱憎。河湟百姓尽管身着异族服装，“牧羊驱马”，处境十分艰难屈辱，但他们的心并没有被征服，白发丹心，永为汉臣。至于统治者，诗人不用直接描写的手法，而是抓住那些富贵闲人陶醉于原先从河湟传入京城的轻歌曼舞这样一个细节，便将他们的醉生梦死之态揭露得淋漓尽致。
这首诗的写法有两个特点。一是用典故影射时事。元载、宪宗、张良、晁错、苏武等皆已作古，而其故事各具内涵。二是转折和对比。前四句在意思上即为两组转折，突出壮志难酬的历史遗憾；后四句是将白发丹心的汉臣与沉迷歌舞的“闲人”对比，这里的“闲人”又与前四句中有安边之志的元载、宪宗形成对比。全诗寄寓了很深的讽刺含义。
这首诗的前四句叙元载、宪宗事，采用分承的方法，第三句承首句，第四句承次句。这样写不仅加强了慨叹的语气，而且显得跌宕有致。第三联正面写河湟百姓的浩然正气。“虽”和“尽”两个虚字用得极好，一抑一扬，笔势拗峭劲健。最后一联却又不直抒胸臆，而是将满腔抑郁不平之气故意以旷达幽默的语气表达出来，不仅加强了讽刺的力量，而且使全诗显得抑扬顿挫，余味无穷。这首诗，写得劲健而不枯直，阔大而显深沉，正如明代杨慎《升庵诗话》所说：“律诗至晚唐，李义山而下，惟杜牧之为最。宋人评其诗豪而艳，宕而丽，于律诗中特寓拗峭，以矫时弊。”这首《河湟》鲜明地体现出这种艺术特色。