쇼군(세이이다이쇼군[征夷大將軍]을 줄인 말)이라는 칭호는 8세기경 일본 북부 아이누족 정벌을 위임받은 군사지휘관에게 처음으로 적용되었다. 법적으로 쇼군의 지위는 덴노의 통제하에 놓여 있으며 권한도 국가의 군사력을 관장하는 데 국한되어 있었다.

그러나 일본 사회의 봉건적 성격이 강해지면서 군사력의 장악이 곧 국가의 장악을 의미하게되자 덴노는 교토[京都]의 궁정에서 상징적인 존재로 남게 되었고, 쇼군이 실질적 통치권자로 부상했다.

1185년 무사들의 지도자였던 미나모토 요리토모[源賴朝]는 일본 전역에 걸쳐 군사력을 장악하고 7년 후 쇼군이 되어 가마쿠라[鎌府]에 최초의 바쿠후[幕府]를 설치했다. 덴노정부의 법적인 귄위는 그대로 인정되었지만 궁극적으로는 가마쿠라 바쿠후가 군사·행정·사법 기능을 장악했다. 가마쿠라 바쿠후는 각구니[國]의 우두머리로 총독 역할의 슈고[守護]를 임명하고 구니의 분할로 생겨난 개인영지에 대한 감시자로 지토[地頭]를 임명함으로써 효율적인 전국 지배조직을 확립했다.

1333년 가마쿠라 바쿠후가 와해된 후 아시카가 다카우지[足利尊氏]가 수도 교토에 자신의 정부를 세워 바쿠후의 부활을 꾀했다. 구러나 차츰 독립적 성격을 강화해아가고 있던 슈고 세력들은 16세기에 이르러 다이묘[大名]라고 불리며 사실상의 군벌 영주로서 곧 아시카가 바쿠후의 권력을 잠식해들어갔다.

1600년 도쿠가와 이에야스[德川家康]가 다이묘에 대한 통제권을 장악하고 에도[江戶：지금의 도쿄]에 3법째 바쿠후를 세웠다. 도쿠가와 바쿠후는 일본에서 가장 강력한 중앙정부로서 덴노와 다이묘, 종교지도자들을 통제했으며 도쿠가와 가문의 영토를 관장하고 외교업무까지 다루었다.

1862년 이후 도쿠가와 바쿠후는 개국에 따른 위기상황에서 권력을 유지하기 위해 격심한 변화를 겪었으나, 1867년 마지막 쇼군인 도쿠가와 요시노부[德川慶喜]가 덴노에게 내정과 군사업무에 관한 관할권을 양보하지 않을 수 없게 되었다. 그러나 도쿠가와 바쿠후가 에도에서 발전시킨 중앙집권적 행정체계는 19세기말 새로 들어선 덴노정부의 토대가 되었다.