宋太祖建国初年，为加强皇权和军事阶层的稳定，决定加强中央集权，防止将领剥夺权利 。建隆二年三月，宋太祖削去都点检这个重要的禁军职位。同年七月，宋太祖通过杯酒释兵权解除武官的军权，禁军的领导机构改为殿前司和侍卫司，分别由殿前都指挥使、步军都指挥使和马军都指挥使（三帅）统领。但是，三帅无发兵之权。宋朝在中央设立枢密院来负责军务。枢密院直接对皇帝负责，其他任何官员都不得过问。而枢密院虽能发兵，却不能直接统军，这样就导致统兵权与调兵权的分离。同时，宋朝经常更换统兵将领，以防止军队中出现个人势力，战争时战区司令皆由文官或太监担任，而且改变战略必须经过皇帝同意，对宋朝战力有负面影响。宋朝的建国兵力部署“守内虚外”，但在熙宁年后首都驻军减少。

宋朝实行自愿性的募兵制 并且将灾年招募流民、饥民当兵，作为一项传统的国策，有社会福利性质，起到稳定政权作用。军队分为四种，即禁军、厢军、乡兵、藩兵。禁军是中央军，也是宋朝军队的主力。厢军是各州的镇兵，由地方长官控制。乡兵则是按机关抽调的壮丁。藩兵是防守在边境的非汉民族军队 。

北宋中期以后对辽、西夏等国的战争，使得军事费用增加，对统兵将帅限制太多“权任轻而法制密”，将不专兵，动相牵掣，“元戎不知其将校之能否，将校不知三军之勇怯，各不相管辖，以谦让自任。” 和军纪不明使宋军严重缺乏训练，终日“游戏于廛市间，以鬻巧诱画为业，衣服举措不类军兵” “卫兵入宿不自持被而使人持之；禁兵给粮不自荷而雇人荷之。” 。张演评说：“宋朝之待武臣也，厚其禄而薄其礼。” 王夫之指出：“宋所忌者，宣力之武臣耳，非偷生邀宠之文士也。” 南宋军队的主力为屯驻大兵以及三衙。屯驻大兵战斗力较强，多属私人召募部队，如岳家军，有“撼山易，撼岳家军难”之说。这时朝廷控制军队的能力已经弱化，枢密院的权责也逐渐缩小。绍兴十一年，韩世忠﹑岳飞等将领的兵权相继被削减 。

宋代军事技术的巨大进步，宋朝以前仍处于冷兵器时代，从宋朝开始火器登上战争舞台，使用霹雳炮、震天雷、引火毬、铁火炮、火箭、火毬、火枪、火炮等火器，逐步进入冷兵器和火器并用时代。水战装具的发展，舟师仍在江河、濒海地区发展，南宋时还尚有车船。投石机方面有车行炮、单梢炮、七梢炮与旋风炮等 。

在兵种结构上，步兵为主要兵种，并配有少量骑兵，车兵则逐步消失。没有北方良好牧地提供足够战马的问题终宋一代始终困扰著宋国军备（尤其在主要敌国辽、金皆有优势骑兵的情况下特别严重），并成为两宋灭亡的重要原因之一。

城防设施发展出城制、弩台、敌楼等设施。其中以山城防御体制最具有名，南宋守将余玠于四川防御蒙军，为了巩固渝川地区，他采用“守点不守线，连点而成线”的方针，修筑钓鱼城（重庆合川区东）、大获（四川苍溪南）、青居（四川南充南）、云顶（四川金堂南）、神臂（四川合江西北）、天生（重庆万州区西）等十余城，形成一个防御网，成功抵御蒙军攻击 。