本次机构改革后不再保留的环境保护部，最早可追溯到1974年国务院环境保护领导小组的成立。据环保部主管的《环境教育》杂志报道，1972年联合国在瑞典首都斯德哥尔摩召开第一次人类环境会议。当时，周恩来总理非常重视，派出了20 多人的代表团。自斯德哥尔摩会议之后，1973年8月，中国召开了第一次全国环境保护会议，会议产生了3项主要成果，一是作出了环境问题“现在就抓，为时不晚” 的结论；二是审议通过了“全面规划、合理布局、综合利用、化害为利、依靠群众、大家动手、保护环境、造福人民” 的环境保护工作方针；三是会议审议通过了中国第一个环境保护文件《关于保护和改善环境的若干意见》。
会议之后，由当时国家计委牵头，经李先念副总理和周恩来总理批准，1974 年10月25日，国务院环境保护领导小组正式成立。领导小组的主要职责是负责制定环境保护的方针、政策和规定，审定全国环保规划，组织协调和督促检查各地区、各部门的环保工作。《环境教育》杂志称，小组由计划、工业、农业、交通、水利、卫生等有关部委领导人组成，这也给后来环保工作与其它部门职能重叠交叉，埋下了历史伏笔。但自此环保行政正式成立。
从1982年到1988年这6年里，环保工作长期由城乡建设部内设的环境保护局承担。1982年5月，第5届全国人大常委会第23次会议决定，将国家建委、国家城建总局、建工总局、国家测绘局、国务院环境保护领导小组办公室合并，组建城乡建设环境保护部，部内设环境保护局。1984年5月，国务院环境保护委员会成立。其任务是研究审定有关环境保护的方针、政策，提出规划要求，领导和组织协调全国的环境保护工作。委员会主任由副总理兼任，办事机构设在城乡建设环境保护部（由环境保护局代行）。同年12月，城乡建设环境保护部环境保护局改为国家环境保护局，仍归城乡建设环境保护部领导，同时也是国务院环境保护委员会的办事机构，主要任务是负责全国环境保护的规划、协调、监督和指导工作。
独立的国家环境保护局（副部级）是在1988年成立的。1988年7月，环保工作从城乡建设部分离出来，成立国家环保局，并被明确为国务院综合管理环境保护的职能部门，作为国务院直属机构，也是国务院环境保护委员会的办事机构。1998年6月，国家环境保护局升格为国家环境保护总局（正部级），是国务院主管环境保护工作的直属机构。撤销国务院环境保护委员会。
2008年7月，国家环境保护总局在当时的国务院机构改革中，升格为环境保护部，成为国务院组成部门。据《环境教育》报道，十一届全国政协人口资源环境委员会副主任，国家环保总局原副局长、党组成员，国家核安全局原局长王玉庆表示，升部后的职能调整是环保机构改革的重点。比如治水问题就涉及到环保、城建、农业等部门，升部后职能划分将更加清晰。但也应看到，不管职能如何划分，不管职能范围有多大，总会存在与其他部委有交叉的地方，需要各部门的配合。
中国工程院院士魏复盛认为，总局升为部这个变化最重要的是，环保部拥有国务院参事议事的表决权，可以参加国家决策，这就使得中国对环境污染进行事后追惩之外，更多了一道对环境项目进行事前评估和预防的衙门。
十年后的2018年，新组建的生态环境部，将整合环保部，以及国家发改委、国土资源部、水利部、农业部、国家海洋局、国务院南水北调工程建设委员会办公室等部委的相关职责。环境保护部这个国务院机构名称，淡出历史舞台。