桓温最近很着急，眼看着洛阳沦陷西晋灭亡快过去40年了，随着时间的推移，第一代北方南下士族(简称“北一代”)如王导、庾亮们相继去世，北二代、北三代相继主政，他们对北方的印象越来越模糊，那时候不像现在通讯发达，很多北三代对洛阳是个什么概念都不清楚了，大部分人除了寄情山水、清谈阔论、优游处世外，谁还能提起精神来去收复故土?
就在这时，北方传来一个利好消息，那里大乱了，后赵国主石虎病死后，内部发生政变，后赵大将冉闵称帝，建立了魏国，鲜卑族贵族慕容?建立的前燕又灭了冉魏。氏族贵族苻健也乘机占领了关中，建立了前秦。
北方的情况给了东晋一个很好的机会，此时不征更待何时?桓温就上书晋穆帝请求出征。
要不要北伐，要不要派桓温北伐，这是个问题。对桓温的请求，朝廷出于两个顾虑，没答应他。一是祖逖、庾亮他们都北伐过，最后都不了了之，他们不想再折腾了，小朝廷就小朝廷吧，好歹也是个安乐窝。二是担心桓温功勋日盛，难保心生异心，北伐只能更加增加他的军事资本和政治资本，这一点不得不防。
朝廷总体上是不支持北伐的。那个王导的侄儿、书法家王羲之，就是极力反对北伐的官员之一。他反对的理由主要是：一是北伐当求万全，以占得实地，获得人口等实际利益为主，你桓温直捣河洛的主张没多少意义;二是运输的困难，十万之兵，通常须三倍人力的物资后勤，以吴越两州，难以支持长久的补给线;三是东晋的本土兵力不如北方，其将官多为士族袭承，战斗力孱弱，难以取胜。
不过这次机会难得，最后，朝廷来个折中，答应北伐，但不是派你桓温，而是派一直与桓温明争暗斗的殷浩领军北上，晋穆帝企图殷浩凯旋，以封大功，既从北伐中收复一片故土，又好制衡和削弱桓温的势力。
遗憾的是，殷浩是个只有虚名、没有军事才能的文人。他出兵到洛阳，被羌族人打得大败，死伤了一万多人马，连粮草武器也丢光了。朝野上下，对殷浩的质疑与不满因此陡然增多。桓温趁热打铁上了道奏章，要求朝廷把殷浩撤职办罪。晋穆帝没办法，只好把殷浩撤了职，同意桓温带兵北伐。
于是，本是打击桓温的一场阴谋，反而打击了晋穆帝自己。
祖逖北伐是受到后方牵制没成功，庾亮北伐因为对方太强大没成功，殷浩北伐是因为不懂军事没成功，那么桓温呢?能不能成功?在大家的一片质疑声中，桓温开始了他的三次北伐之旅。
第一次北伐是在公元354年，桓温统率四万晋军，从江陵出发，攻打前秦。前秦的开国君主符健也派出五万雄兵奋力抵抗，结果被桓温的雄师打得只剩六千老弱。苻健只得退守长安，一面挖沟筑壕，严防死守，一面转移人口物资，抢收麦田。晋军乘胜追击，进驻霸上，见到晋军，关中民众前往劳军，许多老人更是疼哭失声：“没想过今天还能看到官军!”桓温本已将长安团团围住，只需假以时日便可成功，无奈军粮不济，只得抱恨而归。桓温被迫徙关中三千多户百姓一同撤返江陵。
这里有个小插曲，桓温驻军灞上时，王猛(后来成为前秦宰相)听到这个消息，身穿麻布短衣，径投桓温大营求见。桓温请王猛谈谈对时局的看法，王猛在大庭广众之中，一面捉掐虱子，一面纵谈天下大事，滔滔不绝，旁若无人。桓温见此情景，心中暗暗称奇，脱口问道：“我奉天子之命，统率十万精兵仗义讨伐逆贼，为百姓除害，而关中豪杰却无人到我这里来效劳，这是什么缘故呢?”王猛直言不讳地回答：“您不远千里深入寇境，长安城近在咫尺，而您却不渡过灞水去把它拿下，大家摸不透您的心思，所以不来。”桓温确实有私心，：自己恢复关中，只能得个虚名，而地盘却要落于朝廷;与其消耗实力，失去与朝廷较量的优势，为他人做嫁衣裳，不如留敌自重。一语触及了桓温的心病，过了好半天，桓温才抬起头来慢慢说道：“江东没有一个人能比得上您的才干!”临行前，他赐给王猛华车良马，又授予高级官职都护，请王猛一起南下。王猛心想在士族盘踞的东晋朝廷里，自己很难有所作为，于是拒绝了。
两年后，桓温第二次北伐，当时羌族首领姚襄入据许昌，随后又进攻洛阳。桓温出师征讨姚襄。当途径金城时，桓温看到当年他任琅琊太守时栽种的柳树已经长大，无限感慨说：“木犹如此，人何以堪!”并攀抚着柳枝，潸然泪下。桓温真是个军事天才，几战下来，大败姚襄，并收复了洛阳及其周围大片地区。桓温进驻洛阳，经过草草修缮，便上表皇帝，他劝晋穆帝还都洛阳，可朝廷一方面偏安久居，贪图安逸，另一方面担心桓温“挟天子以令诸侯”，就没有同意。桓温上书十几次，晋穆帝始终没有答应。最后，桓温只得挥师还晋，光复之地及洛阳重又落入北方胡族之手。
桓温两次北伐都功亏一篑，他心有不甘，便在公元369年第三次北伐，率五万晋军讨伐前燕政权，一路打到枋头(今河南浚县西南)，因前燕慕容垂切断晋军军粮，桓温不得不撤退，中途被慕容垂八千铁骑打败，晋军损失三万余人。桓温再次含恨而回，深感耻辱。
桓温之败，固然有其军事指挥方面的失误以及军需供给不足的问题，但东晋朝廷执政的士族大家不予支持，对北伐成败甚至幸灾乐祸的态度，不能不是失败的重要因素。
事不过三，桓温彻底放弃了北伐的梦想，让后人再来完成这个使命吧。历史总是惊人的相似，后来的南宋也一样，北伐成了一代人的梦想。
桓温是个历史争议人物。后人指责桓温的北伐主要是搞政绩、提高自己的声威，并无真心实意北伐。对于这种说法，我不这么看，北伐取得一定的成效这是不争的事实，促进了民族的融合，激发了一代人的光荣梦想，为什么非得人家是大公无私的才是理想的状态?为什么非得给利己利人利国家的行为披上一件有色的外衣?岳飞北伐，难道就没有个人的成分?实现抱负不也是私欲吗?难道因为桓温后来的行为才去否定他先前的做法?如果这样，那绝对是不客观也不公正的。
不管如何，北伐一直是东晋人的梦想，桓温大胆去做了，值得赞一个。
北伐的赫赫战功，使桓温成为享誉四海的英雄人物，但桓温认为自己才能过人，大权在握，却未能光复中原、成就万世功名，实足以抱憾终身。随着权力不断增加，桓温的野心也就越来越大，于是逐渐有了篡位自立的想法。却最终因势力不敌而未成，不久便病死了。