平清盛得知富士川战败，为挽回局势重返京都。首先兵兴福寺与东大寺以示武威。这时在信浓地区的相当于源赖朝堂弟的源义仲（木曾义仲）已经打出北陆道。在尾张地区的相当于源赖朝伯父的源行家也举兵奔袭京都。各地与源氏本无关系的武士也自行起事，战乱扩及全国。

这时就不能只说成是源氏与平氏间的权势之争了。各国的武士趁此时期侵占公领地与庄园，相对平氏政权所代表的古代权利而言，这就开始具有了新兴武士领主们的革命战争的形式。翌年（公元1181年）2月，平清盛病殁。这给平氏以致命打击。

公元1183年木曾义仲最先进入京都。平氏则拥安德天皇逃至西国，后鸟羽天皇在京都即位。这就形成东西两位天皇。进入京都的木曾义仲因未能从朝廷获致预期的赏赐而不满。再加上由于战乱和歉收，京城的粮食也不足，致使木曾义仲的军队肆意奸淫抢掠。不论是贵族还是群众都为之憎恨。后白河院内使木曾义仲与源赖朝相争以收渔利，又催促源赖朝西征。源赖朝一方面以其弟源范赖与源义经为将西上，自己则在镰仓致力于巩固政权。公元1184年设置了管理领地与贡赋关系及其他文件、也掌管财政与总务的机构“公文所”（即后来的“政所”），以及判决有关御家人领地诉讼的“问注所”。

另一方面，源义经的军队在公元1184年元月，在近江的粟津将木曾义仲消灭。源义经马不停蹄地督促后白河院发出追剿平氏的“院宣”（院的命令）。经摄津地区一谷及岐地区的屋岛会战，公元1185年（文治元年）3月，在长门的壇浦（下关海峡）全歼平氏军队。虚岁8岁的安德天皇携带着象征皇位的“三种神器”中的玉及标志皇位的“三种神器”中的剑的复制品一起沉入了海底著者注：剑永远失落。放置“玉”的箱子后来被发现了。但真伪不辨。。

源赖朝创建幕府及其与朝廷的关系

木曾义仲与平氏灭亡后，后白河院策划源赖朝与源义经相争。亦即因源义经曾自作主张地接受过朝廷的官位并因此而与源赖朝之间产生隙罅。后白河院最大限度地利用这一点。在灭亡平氏6个月以后，很快地又对源义经下了剿灭源赖朝的“院”令。后白河院虽如后来源赖朝所评论的那样，是“日本第一大天狗”译者注：“天狗”是指栖于深山中，赤脸、高鼻、可自由飞翔的想象中的怪物。常用于比喻对自己熟练的技能感到得意的人。的权术家。但这次“院”令因为没有投效源义经的武士而彻底失败。源义经不得不立即带着武藏坊弁庆等少数随从潜逃，投奔日本本州岛东北部的奥羽地区大豪族藤原氏门下。源赖朝立即派北条时政到京都谴责后白河院，并迫使其发出追捕源义经的“院”令。不仅如此，源赖朝还以追捕源义经等叛乱者为借口，使后白河院承认他有权在各国设置“总追捕使”（即后来的守护）与“地头”。

后白河院原想策划有势力的“武家”（武士集团)之间相争来维持自己的势力。但结果，反而使源赖朝的权势得到飞跃发展以及“公家”（对武家而言，是天皇及贵族的总称）势力的削弱。

“守护”设于各国，拥有镇压叛乱者与杀人者以及指挥御家人和卫戍京都的权限与义务。任此职的都是源赖朝信任的有势力的武将。“地头”原本是庄官的一种。但这时分设于各国的“地头”都有权向公领地与庄园征收每反为五升稻谷的军粮。战乱结束后，虽停止征收军粮，但仍握有管辖地区内的警察权、征收权与土地管理权，并领受相当的土地作为薪俸。