通过多次与西方列强在战场上的武力厮杀，在谈判桌上的唇枪舌战，在合作中的利益纠葛，奕訢深感学会怎样与洋人打交道的重要性，于是力排众议，在咸丰年间上书请设总理衙门。总理衙门的成立，架起了中西之间沟通的一座桥梁。作为核心成员的奕訢费心经营总理衙门和总理衙门的事业。除掌握清廷外交外，总理衙门还逐渐总揽了财政、军事、教育、矿务、交通等方面的大权，成为决策与管理一切涉及洋务的机构。在咸丰帝回銮以前，总理衙门在北京已然形成了列强支持的以奕訢为首的另一个权力机构。总理衙门成员构成了奕訢的一个智囊团。军机处把持内政，总理衙门负责外交，太后垂帘初期，内政外交大权悉数落入恭亲王之手。
总理衙门在中央的成员多为一直与奕訢同呼吸、共患难的心腹。桂良、文祥与奕訢一起筹划国家自强和长治久安的策略，积极上折请办洋务和实施“自图振兴”的国策。在地方，一批在镇压太平天国运动中受奕訢重用而崛起的汉族官僚、有真知灼见的一些封疆大吏支持和欢迎图“自强”的洋务事业的开展，并很快成为这场运动的中坚力量。
他们最初准备从沙俄引进第一批武器，后来由于识破了沙俄垄断中国军事技术近代化的阴谋，及时拒绝了这批武器的购买，而将目光转向英、法、美等国，努力学习和引进他们的军事装备和技术，实施和推广了第一项近代化的练兵计划。他们还曾筹划购买第一支近代化的海军舰队——阿思本舰队。在镇压太平天国的过程中，西式舰船的优越性得到了充分的体现。奕訢、李鸿章、曾国藩等朝野上下官员惊叹之余，于同治元年初，在批准上海“借师助剿”的同时，奕訢以总理衙门的名义，致函各参战省份的巡抚、将军和总督与总税务司英国人赫德，命其议定向英国购买轮船一事。此事成为后来阿思本舰队事的发端。议定之后，由赫德致信正在英国养病的前任总税务司李泰国办理此事。
李泰国觉得这是控制日后中国近代海军的绝好机会！在英国政府的默许下，立即答应代办购舰之事，并暗地里策划聘任英国海军上校阿思本（S.Osborn）为指挥官，出任中国海军司令。同时私自按照英国海军的条规，制定章程，明文规定：该舰队在中国战场所获得的一切财物，三分之一归清廷，三分之二归该舰队队员。
奕訢等人表示坚决不能接受让外国人掌握中国的军权，与李泰国进行了多轮的谈判，最后决定主将仍由中国武官来担任，阿思本为“帮同总统”。曾国藩、李鸿章等人原本抱了很大的希望可以指挥这支舰队的，谈判的结果无疑给他们泼了一瓢冷水。他们致函总理衙门，称不能让这支舰队参加南京的行动，认为此乃“李泰国心术险诈，目前不愿中国专权，即将来不准中国人接手”。阿思本也不同意谈判后的结果，坚决要求按照出发前的英国订立的合同由阿思本自己任舰队司令，并限总理衙门在两日内给予答复，否则拒绝听命并将解散舰队。
奕訢深知军权的重要，在无路可退的情况下，坚持“中国兵权不可假手予外人”，坚决拒绝批准李泰国——阿思本合同。但清政府也为此付出了代价：整个事件中，清政府支出白银173.2万两，收回106.8万两，损失66.4万两。这次事件中，奕訢外交手腕得到了展现，以致后来曾国藩在给奕訢的回信中称：“钦佩无似”。李鸿章和曾国藩曾参与整个事件，最初曾国藩还担心由他和李鸿章出面道出此次购买舰队的弊病，恐怕会招致奕訢的盛怒，因为购买外国舰队乃“恭邸数年苦心经营之事”。但奕訢在阿思本舰队风波过后的言词间充满胜利的喜悦并言及已采纳曾、李的高见的书信，打消了两人的疑虑。曾国藩后来在给其九弟的信中称：“朝廷已成定局，从谏如流，令人感极生愧。”同时奕訢还努力设法开办了第一所以教授语言为内容的近代学校“同文馆”，并由北京向上海、广州推广。
第一股“自强”风潮就在第二次鸦片战争和镇压太平天国等多处农民起义的过程中兴起了，主要目标为“平内乱”的军事计划。后来李鸿章在给奕訢的一封牍函中丰富和发展了奕訢几年前提出的“自强”思想。李鸿章这样写道：
