그는 신앙의 바탕은 교리이기보다는 그리스도의 생명의 실재를 직접 체험하는 것이어야 한다고 강조했다. 카를 바르트와 루돌프 불트만이 그에게 배우면서 중대한 영향을 받았다.

그는 알브레히트 리츨의 제자로서, 윤리학을 강조하고 형이상학을 배척한 스승의 입장을 계승했다. 1866년 할레대학교에서 공부를 시작하여 1875년에 그 대학교의 강사가 되었고, 1879년에는 마르부르크대학교 교수가 되어 평생 그곳에 남아 있었다.

그는 강의와 저술을 통해 신앙이란 예수 그리스도 안에서 하느님을 직접 사귐으로써 하느님과 살아 있는 인격적 관계를 맺는 것이라고 강조했다. 그는 예수 안에서 참된 선이 드러나고 실현되는 것을 볼 수 있다고 믿었다. 그 이전의 리츨과 마찬가지로 헤르만은 칸트의 사상에 크게 힙입어 하느님은 이론이 아닌 실천적 지식의 대상이며, 따라서 신학은 과학과 철학의 지지나 공격을 받을 수 없다고 주장했다.

주요저서로는 〈그리스도인이 하느님과 나누는 사귐 Der Verkehr des Christen mit Gott〉(1886)·〈윤리학 Ethik〉(1901)이 있다.