新的《义务教育法》第七条规定：“义务教育实行国务院领导，省、自治区、直辖市人民政府统筹规划实施，县级人民政府为主管理的体制。”这一款规定的是义务教育宏观管理体制。宏观管理体制是纵向规定各级政府对义务教育的管理职责。我国义务教育的管理体制经历了一个发展变化的过程。1986年的《义务教育法》规定，“义务教育事业，在国务院领导下，实行地方负责，分级管理”。这一体制在当时激发了地方普及义务教育的积极性，加快了义务教育的发展步伐，为实现“普九”发挥过积极作用。2001年，为适应农村经济体制改革的不断深化，特别是农村税费改革全面推进的新形势，国务院颁布的《关于基础教育改革与发展的决定》确立了农村义务教育的管理“实行国务院领导，由地方政府负责、分级管理、以县为主的体制”。这一体制的变革有利于确保教师工资按时发放和在县域内进行教育资源的有效配置。但在实行过程中由于存在着认识上的偏差，混淆了管理体制和投入体制，影响了政策的实施效果。新的《义务教育法》对管理体制有了更为准确的表述：“义务教育实行国务院领导，省、自治区、直辖市人民政府统筹规划实施，县级人民政府为主管理的体制。”这一新体制突出了两个特点：一是强调了省级政府的统筹作用，二是明确了管理以县为主。
省级政府是地方最高的行政机关，对包括义务教育在内的各项地方公共事业负有首要责任。从目前情况看，省级政府离公共服务职能的要求还有距离。强调省级统筹，就是要加大省一级的责任，这是新体制一个值得关注的内容。省级政府一要统筹落实辖区内农村义务教育经费，确定省以下各级政府的经费分担责任，落实中央安排的转移支付和地方各级政府应承担的资金，承担与其职责和财力相应的义务教育经费数额，制定辖区内经费保障机制改革的各项政策措施。二要统筹省域内义务教育的组织协调工作，制定本省义务教育政策、规划和义务教育的各项标准，统筹配置教育资源，促进省内义务教育均衡发展。无论从投入体制还是从管理体制来讲，省级政府的统筹作用都至关重要，如果省级政府能够切实担负起这一责任，理顺省以下的体制，则相关问题比较容易解决。
县级政府对本地区义务教育发展负有主要责任，强调管理以县为主是非常必要的。以前在一些地区存在着投入以县为主的做法，使义务教育的事权和财权不对称，挫伤了基层政府管理和实施义务教育的积极性。管理以县为主表现在两个方面。一是管好经费。县级政府除了按照省级政府确定的比例承担经费外，一项更重要的任务，是要具体管好用好资金。要将义务教育的各项经费全部纳入预算，建立健全科学规范、高效快捷的资金拨付制度，科学合理地分配资金，确保资金及时足额到位。建立健全农村中小学各项财务管理制度，加强监督检查，提高资金使用效益。二是具体负责义务教育实施工作。包括做好义务教育学校的规划、设置、布局调整、管理，指导学校教育教学，保障学校安全，培养教师，均衡配置师资力量，组织本行政区域内义务教育公办学校的校长和教师流动。
