訓政時期的行政院
民國17年10月8日，國民政府頒布「中華民國國民政府組織法」，確立五院制度，並於同年10月20日，首度制定「行政院組織法」。行政院內設內政、外交、軍政、財政、農礦、工商、教育、交通、鐵道、衛生等10部，及建設、蒙藏、僑務、勞工、禁烟等5委 員會；10月25日，訓政時期的行政院開始正式運作。
訓政時期，國民政府面臨各項內憂外患；當時的行政院曾多次因應調整其組織結構。例如，民國19年6月，國民政府修正公布「行政院組織法」，增設海軍部，裁撤僑務委員會；民國21年8月3日，增置司法行政部，恢復僑務委員會，裁撤農礦、衛生2部及建設委 員會，而工商部，則改稱實業部；民國25年5月12日，為配合富國強兵政策下的新生活運動，增置衛生署，並裁撤司法行政部、勞委會、禁烟會，而成9部2會1署格局。
嗣後，為因應全面對日抗戰的需要，民國27年起，陸續將海軍部併入軍政部、鐵道部併入交通部、實業部改稱經濟部、衛生署改隸內政部，保留原有僑務及蒙藏2委員會，將當時的行政院整併成7部2會的結構；民國32年10月1日增置農林、社會、糧食、司法行政 4部，及賑濟委員會，和衛生與地政2署，而成11部3會2署結構。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。
行憲之後的行政院
民國36年元旦，國民政府公布「中華民國憲法」，並自同年12月25日開始實施憲政。民國37年5月25日，「行政院組織法」正式施行，形成15部3會1局之架構。
依「中華民國憲法」第53至61條的規定，行政院為國家最高行政機關，行政院長之產生必須由總統提名，並經立法院同意。而行政院長與總統的關係，包括：行政院長人選須經總統提名；總統公布法律、發布命令，均須經行政院長副署；總統及副總統均缺位或 不能視事時，由行政院長代行總統職權。另行政院與立法院之關係，則包括：行政院對立法院有提出施政方針、施政報告及備質詢之責；立法院對行政院之重要政策不贊同，或行政院對立法院決議之法律、預算、條約案，認為有窒礙難行時，提經總統之核可移請立 法院覆議之權。至於行政院的職權，則包括總統公布法律、發布命令之副署權；行政院長對行政院副院長、各部會首長及不管部會之政務委員的提請總統任命權；對立法院之法律提案權以及移請覆議權等。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。
動員戡亂與戒嚴時期的行政院
民國37年5月10日施行的「動員戡亂時期臨時條款」，明定總統在動員戡亂時期，為避免國家或人民遭遇緊急危難，或應付政治經濟上重大變故，得經行政院會議之決議，為緊急處分，不受憲法第39或43條所規定程序限制。同年12月10日，蔣中正總統依據「動 員戡亂時期臨時條款」之規定，宣布除新疆、西康、青海、臺灣4省及西藏外，全國進入戒嚴。因此，民國38年3月21日，「行政院組織法」修正公布，將原有15部3會1局修正為8部2會1處1室的結構，包括內政、外交、國防、財政、教育、法務、經濟、交通等8部，及 蒙藏、僑務2委員會，和主計處與政府發言人辦公室。
民國38年12月9日，行政院正式在臺北辦公，代表中央政府正式播遷臺灣。在中央政府播遷臺灣之前，美國於民國37年曾通過「1948年援華法（China Aid Act of 1948）」。據此，同年5月政府公布「美援運用委員會組織規程」，並於10月1日由中華民國政府和美國政府聯合成立中國農村復興聯合委員會。該會於民國38年8 月遷到臺灣，實質上扮演農業部的角色，而影響後續的農會改造、土地改革，及農業技術的推廣，對臺灣的經濟發展與三農問題的變遷扮演關鍵性的角色。
民國38年12月中央政府播遷臺灣之後，由於長期的動員戡亂，行政院組織的核心架構一直都維持8部2會，故其所涉及組織法的修正，在民國76年7月解除戒嚴之前的近40年中，其實也僅有兩次，一是民國41年11月將政府發言人辦公室改制為新聞局；其次是民國69年6月，配合審檢分隸，而將司法行政部改制為法務部。惟此段期間 ，政府亦針對特定行政事務，例如為統籌國軍退除役官兵就業及養老事宜、推動國家科學發展、改進青年就業問題、因應我國醫療衛生事務發展等，陸續增設行政院國軍退除役官兵輔導委員會、行政院國家科學委員會、行政院青年輔導委員會及行政院衛生署等部會級機關，以落實政務推動。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。
解除戒嚴和終止戡亂後的行政院
在動員戡亂與戒嚴時期，我國公民社會的發展受到相當程度的影響；然而，經濟社會卻有非常明顯且快速的成長與擴張，因而有經濟奇蹟之譽。民國60年代中期後，我國開始對美國累積大量的貿易順差及巨額的外匯存底，並引起美國新保護主義者的反彈和施壓 。美國貿易關稅法301條款、超級301條款、特別301條款，及取消普遍優惠關稅待遇（GSP）的威脅等不斷的出現，希望藉此減少我國對美國的貿易順差。我國被迫降低或取消各種關稅與非關稅性的保護，也被迫大幅升值新臺幣，並促成房地產與股匯市的飆漲和經 濟生態的動盪。
此階段快速變動的經濟生態，引發各種社會勢力的反應。我國過去的經濟政策，在強調快速發展之餘，較少注意到消費者、農民及勞工的權益，亦忽略環境生態的重要性；而來自美國的壓力，及其 所促成經濟生態的變化，更使企業界同時面臨價格與成本的雙重擠壓。因此，自民國70年代初後，各種自力救濟與社會運動，都不斷對政府施政提出意見，加上來自社會大眾和企業界的呼應，終於導致政府解除戒嚴和終止動員戡亂時期以回應社會訴求。此外，各界 亦呼籲透過解除外匯管制、允許對外投資，及容許對社會主義國家的經貿，分散美國新保護主義者的壓力。
自民國76年7月15日凌晨開始，臺灣解除已持續逾38年的戒嚴；自此，民眾逐漸恢復過去所被剝奪或限縮的基本人權，而邁入政治自由化時期，促使公民社會快速的膨脹且活絡。民國80年4月30日，政府宣布自5月1日凌晨之後，正式終止動員戡亂時期，廢除「動 員戡亂時期臨時條款」 和其他150種戡亂法規，恢復正常的民主憲6政，同時進行中央民意代表的全面改選。
綜上，國家機關和民間社會的關係，因為政治的自由化與民主化而出現劇烈的變化，行政院的角色與職能也因這些變化而有所轉變，以致必須調整其組織結構和業務分工以為因應。故此，民國76年8月5日，即解除戒嚴之後的3個星期，行政院俞國華院長宣布成立行政院組織法專案研究修正小組，專門負責行政院組織法的研究與修正，亦自此踏出行政院組織全面改革的第一步。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。
民主化下的行政院
民國76年7月15日，政府宣布解除戒嚴，確保言論、出版、集會、結社、遊行等基本人權，奠定臺灣民主政治良性發展的基礎；同年11月，政府亦開放民眾赴大陸探親，開啟兩岸關係發展的新里程。
這波民主化的潮流，涵蓋民國85年總統直選之前的階段；其間，公民社會的活力澎湃洶湧，特別表現在社會運動在種類、頻率與規模上的快速擴張，包括：勞工、農民、婦女、老兵、原住民、消費者，及環保等近20類。這種民主化的趨勢對行政院組織造成強烈的衝擊與挑戰。
民國77年10月，俞院長提出「行政院組織法」修正草案，採設12部、7會、3總署、1總處、1行及1院之組織架構，函送立法院審議。
民國79年3月，李登輝先生當選中華民國第8任總統；同時，臺北發生3月學運，提出廢止「動員戡亂時期臨時條款」，並呼籲召開國是會議等訴求。民國79年6月，行政院郝柏村院長基於客觀環境變遷，及配合憲法增修結果，函請立法院撤回民國77年10月「行政院組織法」修正草案，並於民國81年3月，請行政院施啟揚副院長召集專案小組，再次研修「行政院組織法」，期向立法院提出新修正草案。此階段行政院增設諸多部會，絕大部分係為因應民主化過程中的社會訴求，尤其是社會運動所展現的呼聲。民國76年8月，行政院依「行政院組織法」第6條設置行政院勞工委員會；同年8月，行政院衛生署環境保護局升格為行政院環境保護署。
民國80年1月，行政院依「臺灣地區與大陸地區人民關係條例」第4條，設置行政院大陸委員會；同年4月30日，李登輝總統明令宣告動員戡亂時期於5月1日零時終止，更帶來對兩岸觀係及實施憲政上的衝撃。
民國81年1月，政府依「公平交易法」第25條及29條，設置行政院公平交易委員會；民國83年7月，依「消費者保護法」第40條，設行政院消費者保護委員會；民國84年7月，設行政院公共工程委員會；民國85年12月，設行政院原住民族委員會。此外，依憲法增修條文規定，行政院人事行政局於民國82年12月完成組織法制化。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。
全球化下的行政院
1990年代後，由於資訊通信科技的運用與發展，全球化潮流加速擴張，為因應效率與國際競爭力的要求，普遍促成世界各國著手政府改造工程。例如：美國政府推動新政府運動、英國政府繼推動續階計畫之後，於1994年推出文官的永續與改革政策白皮書、新加坡政府於1995年推出邁向21世紀公共服務革新計畫、日本政府於1998年3月向國會提出行政機關改革基本法案，將當時1府21省廳精簡為1府12省廳之體制，並自2001年實施。
民國85年12月，李登輝總統邀請政黨及產、政、學各界菁英170人召開國家發展會議；在經濟發展議題的總結報告中，強調推動政府再造工程，及提出精簡合理的組織架構、健全的組織規章、現代化的文官制度等訴求。依據會議共識及民國86年修憲結果，民國87年，政府訂頒「臺灣省政府功能業務與組織調整暫行條例」，裁撤臺灣省議會，另新成立臺灣省諮議會；臺灣省政府與臺灣省諮議會改制為行政院的派出機關，並自民國88年7月起進行臺灣省政府功能業務與組織調整作業。
另為賡續推動行政院組織改造，民國87年1月，行政院會議通過「政府再造綱領」，並成立政府再造諮詢委員會，由行政院蕭萬長院長遴聘企業界人士、學者專家擔任諮詢顧問，提供再造建言；幕僚作業則成立組織再造、人力及服務再造、法制再造3個工作小組，分別由行政院研究發展考核委員會、行政院人事行政局及行政院經濟建設委員會負責。民國87年5月間完成「中央政府機關組織基準法」與「中央政府機關總員額法」兩草案的擬訂，並分送立法院審議。惟次年發生921大地震，政府致力於救災，組改議題再度擱置。民國86年7月至民國90年6月間，行政院回應各界訴求，陸續設置行政院體育委員會、行政院海岸巡防署及行政院客家委員會等部會。
民國90年10月，陳水扁總統成立政府改造委員會，規劃包括行政院組織調整等改造方案。民國91年4月，行政院陸續送出「行政院組織法」修正草案、「中央政府機關組織基準法」、「中央政府機關總員額法」、「行政院組織調整員工權益保障方案」及「行政院功能業務與組織調整暫行條例」等5項組改法案到立法院審議，並於同年5月成立行政院組織改造推動委員會，以「去任務化」、「地方化」、「委外化」、「法人化」等4化為中心，持續檢討各機關組織業務，並於民國92年4月9日，由行政院及考試院會銜將「行政法人法」草案送請立法院審議。第1個行政法人國立中正文化中心，亦於民國93年3月正式運作。
民國93年6月23日，「中央行政機關組織基準法」終經立法院完成三讀審議；民國95年2月，國家通訊傳播委員會設置，是第1個依基準法設置的獨立機關。「行政院組織法」修正草案則因立法院會期屆期不續審等因素，分別於民國93年9月、民國94年3月及民國97年2月三度函送立法院審議，均未能順利通過，惟因應全球化下而調整的行政院組織改革已跨出穩健的一步。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。
創新變革的行政院
為回應政治民主化、經濟自由化、社會多元化，以及快速變遷的全球化趨勢，有關政府的角色與職能，及其組織結構與分工，一直受到社會各界及政府本身的廣泛重視與反省。民國97年3月馬英九先生當選中華民國第12任總統，次年元旦即宣示打造一個精簡、彈性、效能的政府，以大幅提升國家的競爭力。民國97年7月行政院改組行政院組織改造推動小組，重新檢討舊有組改法案，並於民國98年4月核定新版草案。
民國99年1月12及13日，立法院三讀通過「行政院組織法」修正案、「中央政府機關總員額法」、「行政院功能業務與組織調整暫行條例」及「中央行政機關組織基準法」修正案；民國100年4月，「行政法人法」亦立法通過。本次立法的結果延續歷年推行精實、彈性、效能之改革原則，其組織體系與職能分工除維繫政府核心職能外，同時強調建構處理活力多元社會的新能力，包含重視領航、協調與統合等功能，以迎向民主化、資訊化與全球化的年代。
為達成組織精實的目的，行政院將其37個2級機關裁併成29個，包含14部、8會、3獨立機關、1行、1院及2總處，另將約280個3級機關（構）簡併成70個署局及39個機構或重定其層級，未來並將因應時代需求調整行政院的組織編制。其次，為了體現彈性的原則，亦分別制定「中央行政機關組織基準法」、「中央政府機關總員額法」，及「行政法人法」；前兩法的立法目的，都在追求組織與員額編制上的鬆綁與彈性運用，而後者更旨在簡化政府職能，並引進民間參與及市場機制。這些作為，都是希望在全球化趨勢下，人流、物流、技術流、資金流與資訊流等複雜交會且瞬息萬變的環境中，強化政府政策制訂與執行質量，促進其應變能力，並進而提升我國的國際競爭力。
此外，為落實組織與員額編制的鬆綁與彈性運用，行政院必須高度仰賴人事與主計單位持續對整體人力與預算進行評估與調整，因此設置行政院主計總處及行政院人事行政總處。相對地，為了強化領航的職能，行政院亦合併行政院研究發展考核委員會和行政院經濟建設委員會而為國家發展委員會，以統理涉及國家整體生存和長期發展的施政決策；這也是行政院組織改造，在強調精實、彈性之外，還希望確保其效能的必要步驟。
歷經多年的行政院組織改造工程至此終於有了嶄新的開始，而能朝向優質政府大步邁進。
參考資料：
葉維銓、蕭全政、戴寶村，《創新前瞻‧繼往開來－行政院組織改造檔案專題選輯》（臺北市：行政院研考會，檔案管理局，民100）。