프로이트 사유의 전개 과정 속에서 반복강박에 대한 논의는 죽음 충동에 대한 이론이 잉태되는 지점에 놓여 있다는 점에서 중요한 위치를 점하고 있다. 프로이트는 「섬뜩함에 관하여(The Uncanny)」(1919)라는 논문에서 쾌락원칙을 넘어설 만큼 강력하게 작동하는 반복강박이라는 기제에 주목했고, 「쾌락원칙을 넘어서」에서는 좀더 일반적인 차원에서 반복강박이라는 기제를 확인하고 그 기능과 의미를 규명함으로써 죽음 충동이라는 가설을 만들어낸다. 여기에서 프로이트가 일차적으로 주목하고 있는 것은 다양한 경우를 통해 검출되는 반복강박이라는 현상이다.

프로이트가 반복강박의 대표적인 예로 제시하는 것은 외상성 신경증 환자의 꿈이다. 외상성 신경증이란 교통사고나 전쟁 등의 갑작스러운 사고의 충격으로 발생하는 신경증을 말한다. 현재는 외상후 스트레스장애(PTSD)라 불린다. 운동장애가 나타난다는 점에서 히스테리와 흡사하지만, 심기증이나 우울증과 같이 주관적인 자각증상이 뚜렷하고, 전신쇠약이나 정신장애를 불러일으킨다는 점에서 단순한 히스테리를 넘어선다. 프로이트가 메타심리학의 차원에서 흥미롭게 바라보는 것은 외상성 신경증 환자의 꿈이다. 프로이트에게 꿈은 무의식의 무대이며, 의식의 차원에서 억압당한 것들이 어떤 제약도 없이 소망 충족과 쾌락원칙의 구현을 향해 나아가는 장이다.

그런데도 외상성 신경증 환자의 경우는 이러한 꿈 일반이 가지고 있는 문법과는 사뭇 다른 양상이 전개되어서 문제가 되는 것이다. 프로이트에게 이것은 매우 진기한 일이었다. 행복을 추구하는 꿈의 기능과 어긋나는 것이었기 때문이다. 꿈속에서 사고가 발생하던 당시의 상황으로 반복적으로 되돌아가고, 그럼으로써 그때의 충격을 거듭 반복하여 경험하게 되는 양상이 그것이다. 이와 같은, 불쾌한 경험의 계속적인 반복을 일컬어 프로이트는 반복강박이라 했고 신비한 현상이라 했다. 그가 그때까지 무의식의 근본적인 힘이라 생각했던 쾌락원칙과 다른 기제에 의해 작동하고 있다는 점에서 신비하다는 것이다.

그렇다면 반복강박을 어떻게 이해해야 하는가. 무엇 때문에 그와 같은 반복이 행해지는가. 프로이트는 반복강박을 야기하는 정신적 외상의 속성에 접근함으로써 이 질문에 대답하고자 했다. 의식은 감각기관을 통해 포착되는 외부의 자극에 대한 지각과 그것에 대한 반응으로 야기되는 내부의 흥분으로 구성된다. 문제는 의식이 감당하기 어려울 정도로 강렬한 흥분이 야기되었을 때이다. 외부의 강렬한 자극은 감각기관을 차단함으로써 막아낼 수 있으나, 유기체의 내부에서 야기되는 강렬한 흥분에 대해서는 그러한 방어막이 있을 수 없다.

따라서 의식은 그런 흥분에 대해, 그것이 안에서가 아니라 밖에서 작용하는 것처럼 다루려고 한다. 투사의 메커니즘이 그것이다. 그러나 의식은 감당하기 어려울 정도로 강렬한 흥분에 대해서는 속수무책이다. 그것을 프로이트는 마음에 생긴 상처, 심리적 외상(trauma)이라 부른다. 그리고 그것이 외상성 신경증을 야기한다는 것이다. 말하자면 외상성 신경증은 아무런 준비가 없는 상태에서 밀어닥친 경악(fright)의 경험에 의해 생긴 것이다. 바로 이 대목에서 작동하는 것이 반복강박의 메커니즘이다.

경악이 문제가 되는 것은 어떤 준비도 없는 상태에서 밀어닥친 강렬한 흥분이라는 점 때문이다. 그것이 곧 심리적 외상을 만든다. 외상성 신경증 환자의 꿈은 주체를 그 경악의 현장으로 데리고 감으로써 다시 그 경험을 반복하게 하며, 그러한 반복은 의식에 불안을 야기시킨다. 불안(anxiety)은 어떤 충격의 순간을 예기하고 있는 의식의 준비 상태이다. 불안 속에서 의식은 다가올 경악의 경험에 대해 준비를 하게 되고, 불안으로 무장되어 있는 의식에게 심리적 외상은 최초의 충격과는 달리 훨씬 완화된 흥분으로 다가오게 되며, 그 과정의 반복을 통해 최초의 흥분은 점차 의식의 차원에서 수용 가능한 것으로 바뀌게 되는 것이다. 요컨대 외상성 신경증 환자의 꿈에서 반복강박은, 충격적인 경험으로 인해 야기된 내부의 강렬한 흥분을 길들이고 완화시킴으로써 의식에 의해 수용 가능한 것으로 만들어주는 무의식의 기제인 것이다.

프로이트는 여기에서 더 나아가, 반복강박이 수행하는 기능을 충동의 차원으로까지 확장한다. 외부의 자극에 반응하여 야기되는 내부의 흥분은 경우에 따라 유쾌한 것일 수도 불쾌한 것일 수도 있다. 여기에서부터 쾌락원칙이 작동하기 시작하지만, 그러나 그런 흥분이 쾌/불쾌로 경험되기 위해서는 그 자체가 정돈되고 통제된 것으로 존재해야 한다. 자유롭게 유동하면서 흥분을 만들어내는 리비도가 하나의 다발로 묶여야 한다는 것이다. 반복강박이 수행하는 것은 그와 같은 작용, 즉 흥분을 조직하여 의식의 차원에서 수용 가능한 것으로 만들어주는 작용이다.

그런 점에서 프로이트는 반복강박을, 쾌락원칙과 독립적으로 존재하는 것이며, 쾌락원칙보다 우선적으로 작동하는 유기체의 메커니즘으로 간주한다. 그리고 그것을 유기체가 지니고 있는 근본적인 관성으로서의 충동, 곧 아무런 내적 흥분이 없는 상태, 무기물의 상태로 돌아가고자 하는 충동과 병치시켜놓으며, 그 충동을 일컬어 죽음 충동이라 불렀다. 마음속에서 생긴 고통스러운 흥분의 소멸을 향해 나아가는 반복강박과, 화학적 긴장의 소멸로서의 죽음을 향해 나아가는 충동은 그의 논의에 따르면 사실상 같은 것을 지칭한다고 할 수 있다.