鸦片战争前的中国长期实行闭关锁国政策，和外国之间向无经常的外交往来，因而，在清朝中央政府体制中，一直没有专门的外交机构。仅由礼部、理藩院、鸿胪寺分管所谓“朝贡”事务。鸦片战争后，国门被打开，清政府设置五口通商大臣。这是以钦差身份领职的兼差，名义上办理通商事务，实际上承担战后处理外交关系的重大任务。可是，经过第二次鸦片战争，中外交涉广达政治、经济、军事、文化各个领域，“向由外省督抚奏报，汇总于军机处”的处理外事惯例显然不合时宜了，既非专官亦无专署的五口通商大臣也不能胜任外务。当时，奕訢就指出：“近来各路军报络绎，外国事务头绪纷繁，驻京之后，若不悉心经理，专一其事，必致办理迟缓，未能悉协办理。”西方列强，为保障既得利益并谋求日后的扩张，也十分不满清朝的外交处理办法，英国公使魏妥玛就曾说过：“如能设立专办外国事务地方，则数十年求之不得。”
总理衙门的成立，虽然只是清朝统治者消极适应纷纭复杂的外交局势的产物，但它的成立，也是对中国闭关自守、盲目排外传统的抛弃，表明清朝统治者在事实上承认了国家主权平等、通过和平谈判解决国际争端等具有近代性质的国际准则，这比“或剿或抚”是一大进步。
总之，总理衙门的成立开辟了清朝外交的一个崭新局面。奕訢在筹建总理衙门的过程中，表现出外交眼光和政治胆略；而当时，咸丰帝对奕訢时刻心存猜疑，生怕奕訢权力过大，而使皇权受到侵越；肃顺集团也对奕訢充满嫉恨，惟恐其势力过大，危及自身利益。奕訢不可能淡忘了自己的前车之鉴，也不可能不知道自己微妙的处境。但是，他顶住压力，毅然上书，请求建立总理衙门，尤其是在总理衙门的权限问题上，他与咸丰帝据理力争，表现出相当大的胆量和勇气。
总理衙门的成立，也受到了西方列强的欢迎，当法使布尔布隆得知这一消息时，非常高兴，称赞这是“中外各国永敦睦好之最妙良法”。
奕訢实施他的新的外交方针的第二个表现就是仿效三国时期诸葛亮的“联吴抗魏”，试探向西方列强“借师助剿”，消灭农民起义。1860年11月23日，奕訢等人上奏咸丰帝，向其陈述了这一想法：“如藉夷兵之力驱逐逆贼，则我之元气渐复，而彼胜则不免折损，败则亦足消其桀骜之气。”但是咸丰帝惟恐引狼入室，祸患无穷，没有答应。除了以江苏巡抚薛焕为代表的极少数官员拥护这一策略，以漕运总督袁甲三、两江总督曾国藩为代表的绝大多数官员都持反对态度。而英国侵略者由于担心法、俄两国军队进入长江流域，影响英国在华利益，对清政府的“借师助剿”态度十分消极。当奕訢同魏妥玛私下试探这一问题时，魏妥玛明确告诉奕訢，“剿贼”本是中国国内之事，他国不应干涉，他国答应“借师助剿”，如果不是为了占据地方，那对他们有什么好处呢？不仅仅是法、俄会夺取城池，就是英国，也不敢说不会据为己有。英国占领印度不就是最好的证明吗？奕訢本人对“借师助剿”并非毫无疑虑，魏妥玛的这一番话，正好说中其心里的隐忧，于是暂时放弃了“借师助剿”的想法，主张“就现有兵力设法攻剿，不可贪目前小利而贻无穷之患”，并于1861年1月24日向咸丰帝表示，“若该夷来京再论及此事，臣等即据理折服其心，以杜诡谋。”
大难方夷，如何“自图振兴”？这是第二次鸦片战争之后，奕訢一直在苦苦思索的一个重大问题。战争中奕訢亲眼目睹了清朝武备废弛落后，不堪一击，亲自领教了洋枪洋炮的迅猛威力，深感中国武备，内不足以“剿贼”，外不足以御侮。因此，俄国公使伊格那提耶夫提出：“中国于制造枪炮及炸炮、水雷、地雷、火药及演放，均未得法”，表示欲派俄国匠役来中国教导时，奕訢深为赞赏。在伊格那提耶夫动身回国之前，奕訢特意前往俄国使馆，对1858年拒绝俄国提供武器和教官一事表示遗憾，并说当时环境不允许清政府接受俄国政府的建议，而现在，当中国备尝和欧洲军队作战的痛苦教训后，清政府就会另眼看待这类建议，表示了在武器装备方面向西方学习的愿望。
