본래 백제의 지량초현인데, 신라의 삼국통일 후 757년(경덕왕 16)에 여량현으로 고쳐 덕은군(지금의 논산시 은진면 일대)의 영현을 삼았다.

고려시대인 1018년(현종 9)에 전주에 속현으로 병합되었다가 1391년(공양왕 3)에 감무를 파견해 낭산현을 함께 다스리게 했다. 낭산현은 본래 백제의 궐야산현으로 757년에 야산현으로 개칭해 금마군(익산)의 영현이 되었으며, 고려초인 940년(태조 23)에 낭산현으로 개칭했고, 1018년에 전주의 속현이 되었다. 조선시대 1396년(태조 5)에 여량현이 낭산현을 병합하고, 1399년(정종 2)에 두 고을의 이름을 따 여산현으로 개칭했다.

1436년(세종 18)에 태종의 비 원경왕후 민씨의 외향이라 해 군으로 승격했고, 1698년(숙종 24)에 단종이 복위함에 따라 이듬해인 1699년에 단종의 비인 정순왕후 송씨의 관향이라 해 도호부로 승격했다. 여산의 별호는 여양·호산이었다. 지방제도 개정에 의해 1895년에 전주부 여산군, 1896년에 전라북도 여산군이 되었으며, 1906년의 월경지 정리 때 두입지인 채운면을 충청남도 은진군에 이관했다.

1914년 군면 폐합으로 여산군이 폐지되고, 천서면·천동면·군내면이 여산면으로, 서이면·서삼면·서사면이 낭산면으로, 합선면·공촌면·피제면이 황화면으로, 북삼면·북일면이 망성면으로 통합되어 익산군에 병합되었다. 1963년 황화면은 충청남도 논산군으로 편입되어 구자곡면과 병합하고 연무읍으로 승격되었다. 여산면·낭산면·망성면은 1995년 전국행정구역 개편으로 익산시에 속하고, 연무읍은 1996년 논산시에 속하게 되었다.