1861年,清政府在北京嘉兴寺设立了抚夷局,处理对外交涉事务。后来,这个名称已不合事宜。1860年1月20日,清政府根据奕?、桂良、文祥等所上的“通筹夷务全局析”六条章程中的首条:“京师设立总理各国事务衙门以专则成”的建议,设立了“总理各国事务衙门”,作为应付洋务的中央机关。总理衙门由奕诉、桂良、文祥三人兼领总理衙门大臣,下设英国股、法国股、俄国股、美国股。调内阁、军机处和各部院官员、负责日常工作。1883年,又增设海防股,管理南洋海防和北洋海防,包括长江水师、北洋海军,以及与之有关的各机构和设施。
总理衙门作为一个外交事务部门,不但取代了原由理藩院和礼部掌管的大部分事务,面且包办了一切需同外国发生联系的活动。如,向外国购买军火、船舰、机器;请外国人担任教练、顾问;向外国派遣留学生;管理海关税收,等等。它实际上成为中央各部的一个综合机构,而且其主持事务之人,往往是具有实权的王公大臣。如,1861—1864年,由道光皇帝的第六子、咸丰皇帝的弟弟恭主持,1884—1894年,则由另一位王公庆新王奕劻主持。
在总理衙门成立后,清政府还设置了南洋和北洋通商大臣。南洋通商大臣是1866年由五口通商大臣改称,管理第一次鸦片战争后在南方开放的五个口岸,以及第二次鸦片战争后开放的沿江及南方各口岸。通商大臣开始时由江苏巡抚兼领,1865年后由两江总督兼领。北洋通商大臣管理第二次鸦片战争后开放的北方三口,所以又称三口通商大臣。开始时由侍郎衔候补京堂崇厚掌管,1870年起改为北洋通商大臣,由直隶总督兼领。南北两个通商大臣,名为“通商”,实际上“通商”以外的政治性外交等事务也是涉及的。也就是说,既办理有关各口岸的通商事务,也办理其它各项对外事务。
关于总理事务衙门、南洋和北洋大臣在洋务运动中所起的作用,左宗棠曾总结说:“洋务关键,在南北洋通商大臣,而总理衙门揽其全局。”由此可见,总理事务衙门成了凌驾于六部之上的筹办洋务的最高行政机构,而清政府也将学习西方先进技术的自强新政作为既定国策了。所以,研究洋务运动的学者,往往就把总理事务衙门的成立,作为洋务运动开端的标志了。