上述体制改革思路的形成经历了一个漫长而曲折的过程，这从我国行政体制改革的实践当中可略见一斑。我国在相当长的时间里行政体制改革一般以机构改革为外现形式展开，建国初期至80年代中期，中国行政改革主要是调整中央与地方关系及在政府规模上做文章，改革的主要内容是下放权力及政府机构和人员的精简。这就是说以前我国的行政改革基本上是围绕政府的权力结构展开的，无论是下放权力还是精简机构，都没有跳出这一范畴，因为精简机构明显是政府内部结构的一种规模变化；而下放权力意味着政府权力自上而下地流动，也只是政府内部上下权力结构的调整。以往历次政府机构精简和人员裁减，都没有取得持续性的理想效果，原因就在于计划经济体制没有变动，行政改革难以触及管理体制本身，外延式的机构改革跳不出“精简――膨胀”循环往复的“怪圈”。同样，对于下放权力，学术界的批评之声也未间断过，所谓“一收就死，一放就乱”就反映了人们的一种普遍看法。特别是改革开放以来的权力下放，在学术界产生了较大争论。持赞成观点的人认为它调动了地方的积极性，促进了积极发展。但更多的学者认为其中带来的问题是十分严重的，特别是中央和地方财政收入和支出的“倒挂”现象。
正是在经历了体制改革的理论与实践的种种磨难之后，学术界开始对以往单纯精简机构的改革方案进行了否定。与此相呼应，有的学者也逐渐认识到，单纯的下放权力也不是行政体制改革的良方，甚至也非经济体制改革的方向。这种认识在80年代后期就已经形成。有经济学家曾总结了两种改革的基本思路，不仅涉及到经济改革，而且也关联到了行政改革。第一种思路认为：(1)传统社会主义体制的根本弊端是决策权力过分集中，抑制了地方政府、生产单位和劳动者个人的积极性和主动性；(2)改革的要旨，在于改变这种状况，充分调动地方和生产者的积极性；(3)调动积极性主要靠下放权力来实现。第二种思路则认为：(1)旧体制各种弊端的根源，是用行政命令来配置资源；(2)对于高度社会化的现代经济而言，唯一可能有效代替行政命配置资源方式的，是通过有宏观管理的市场制度来配置资源；(3)因此改革要以建立生产性市场制度为目标同步配套地进行。就政府功能而言，前一种思路即旨在调节中央和地方权力关系的“下放权力”，后一种则是旨在从计划经济转向市场经济的“转变职能”。无论从理论上还是从实践上来看，第二种思路显然优于第一种思路。所以，80年代以来的“权力下放”的改革，虽然在某种程度上起到了调动地方积极性和搞活经济的作用，但无论从经济发展，还是从政治发展看，其负面效应都是十分巨大的，是一种短期行为。（注：参见胡伟：《经济转型中的政府整合：政治体制改革的维度》，《社会科学战线》，1995年第2期。）
于是，学术界开始认识到了转变政府职能对于我国行政体制改革的重要性。以往大规模机械改革和权力下放效果不佳的原因，正在于计划经济体制的严重束缚以及由此形成的对行政职能调整的忽视与回避。单纯地把注意力集中于机构的增减和人员的精简或权力下放，以求一时的行政机构的“消肿”效果，而没有同时进行政府职能的转变，因而从根本上是无效的。1982年开始的大规模机构改革，由于经济体制改革未全面展开，无法促动政府职能的转变，改革以机构的再度膨胀告终。同时由于权限改革过程中央权力下放过多，造成地方分散，机构改革因此受阻。在这种情况下，转变政府职能便成为了行政体制改革的主题，也成为了学术界的共识，并被赋予了非常的重要性。例如，有的学者认为职能转变是行政体制改革的内在主题，机构改革是行政体制改革的外在主题，两者是目标与手段的逻辑关系，职能转变是机构改革的前提。（注：参见于景文：《略论市场经济中的政府职能转变》，《天津社会科学》，1999年第3期。）
