한 개체에게 닥쳐오는 위험은 다양하다. 외부에서 다가오는 현실적인 위험도 있고, 불쾌한 자극이나 기억, 본능적인 충동으로 인해 마음의 안정을 위태롭게 하는 내적인 위험도 있다. 마음으로 다가오는 위험들을 축소시키거나 제거하여 스스로를 방어하려는 목적으로 작동되는 정신의 작용을 방어기제라고 한다. 이 작용은 대부분이 자아를 중심으로 진행되므로 자아의 방어기제라고 부르기도 한다. 방어기제는 몸이 아니라 마음의 작용이며 또한 위험에 대해 충분히 맞설 수 있을 정도의 힘을 갖지 못한 자아의 작용이어서, 위험에 대해 정면으로 당당하게 대처하는 것이 아니라 위험을 회피함으로써 자아를 보호하는 방식을 취한다. 따라서 방어기제는 비정상적이고 비합리적인 면이 크다. 방어기제에는 많은 종류가 있으나 몇 가지 중요한 것만을 살펴보자.

억압(repression)은 감당할 수 없을 정도로 불쾌한 기억이나 생각을 의식의 표면에 떠오르지 않게 함으로써 자아를 보호하는 기제이다. 자아의 안전을 위협하는 위험을 부정하거나 왜곡함으로써 마치 위험이 없는 것처럼 보이게 한다는 것이다. 억압은 모든 방어기제 중 가장 핵심적인 것이며, 그로 인해 무의식이 만들어진다는 점에서 정신분석학에서는 가장 중요한 요소를 차지하고 있는 요소이기도 하다. 억압된 기억은 강한 억제력에 의해 통제되어 있다는 점에서, 기억의 힘이 약해져서 생기는 단순한 망각과는 다르다.

단순한 망각이 빛바랜 옷감의 무늬와도 같다면, 억압된 기억은 멀쩡한 옷을 서랍 밑바닥에 감춰두고 없는 척하는 것과도 같아서 억압의 빗장이 풀리는 순간 옷의 색깔과 무늬는 생생한 질감으로 쏟아져나온다. 억압은 어떤 강렬한 기억의 힘과 그것을 막고 있는 강한 억제력의 충돌로 이루어져 있어, 특정 부위의 마비나 기능 장애, 통증, 천식, 염증 같은 다양한 신체적 증상으로 나타나기도 한다. 이처럼 몸 자체는 이상이 없는데도 정신적인 이유 때문에 생겨나는 몸의 증상을 정신신체적 증상(psychosomatic disorders)이라 부른다.

투사(projection)는 자기 내부에 있는 불안의 원인을 바깥에 있는 것처럼 위장함으로써 정신적 부담을 덜어내는 방식의 방어기제이다. 그것은 스스로 져야 하는 책임을 남에게 전가하는 것이며, 핑계를 대거나 합리화함으로써 스스로를 면책시키는 기제이다.

예를 들어보자. 어떤 사람이 미울 경우 “나는 쟤가 싫어”가 아니라, “쟤는 나를 싫어해”라고 생각하는 경우가 있다. 어떤 사람을 정당한 사유 없이 미워하는 것은 도덕적으로 부담스러운 일이다. 그러나 그 사람이 나를 미워한다면 그것은 내가 그 사람을 미워할 만한 충분한 이유가 되며, 이제는 마음껏 자기의 적개심을 (자기 자신에게 혹은 남에게) 드러낼 수 있게 되는 것이다. 또 풀리지 않는 수학 문제로 고민하고 있을 때는 유난히 소음에 민감해진다. 내가 괴로운 것은 어려운 수학 문제 때문이 아니라 소음 때문이라고, 혹은 수학 문제가 풀리지 않는 것은 내 능력이 부족해서가 아니라 소음 때문이라고 생각하고 싶은 것이다. 모두 투사의 기제가 작동하는 예이다.

반동 형성(reaction formation)은 자기 내부에서 몰려오는 위험스러워 보이는 충동을 반대되는 힘으로 덮어버리는 방식이다. 비정상적인 공포심 같은 것이 대표적인 예다. 어떤 대상에 대해 비정상적인 공포나 거부감을 보일 때, 그런 행동이 실상은 자기가 그것을 원한다는 사실에 대한 공포나 거부라는 것이다(여기에서 중요한 것은 그 반응이 비정상적이라는 사실이다). 호들갑스러운 사랑의 표현은 그 속에 무의식적인 증오를 감추고 있고, 사회적 규범에 대한 지나치게 철저한 복종의 이면에는 그에 대한 반항과 적개심이 감춰져 있다.

두려운 사람에 대해 더 친근한 듯이 구는 것도 그와 유사한 메커니즘이다. 모든 행동이 그 반대의 마음을 감추고 있다고? 물론 그렇지는 않다. 반동 형성의 특징은 지나친 과장과 호들갑이다. 꼴도 보기 싫은 어떤 사람이 있다. 나는 틈이 날 때마다 거짓말까지 보태가면서 그 사람 욕을 한다. 친구에게 엄마에게 동생에게. 그렇다면 의심해볼 일이다. 내가 싫은 것은 그 사람이 아니라 그 사람에게 끌리는 내 마음이 아닌지, 내가 욕하고 비난하는 그 모든 것을 내가 원하고 있는 것은 아닌지. 과장과 호들갑 뒤에는 그와 반대되는 충동이 감추어져 있기 쉽다.

고착(fixation)은 정신적 발육부진이다. 한 개체의 성장 과정에서, 실패나 예상되는 처벌, 불안정에 대한 불안한 마음으로 인해 더이상의 성장을 거부하는 것이다. 젖을 떼고 이유기가 끝나고 나면 아이는 우유를 컵이나 빨대로 마셔야 한다. 그런데 여전히 젖병을 고집하는 아이의 행동 같은 것이 고착이다. 자기에게 낯익은 것으로부터 떨어지는 것에 대해 느끼는 불안[이를 분리불안(separation anxiety)이라 한다]이 주된 요인이다. 나이에 맞지 않게 분홍색에 집착한다든지, 커서도 어린아이 같은 말투를 버리지 않는 것 등도 그런 예다.

퇴행(regression)은 한 개체의 발달 단계에서 그 이전의 상태로 되돌아가는 것을 뜻한다. 실패하거나 좌절한 사람이 고향이나 친정집을 찾는 것과도 같다. 과도한 음주나 폭식, 그리고 안 그러던 사람이 나이에 맞지 않는 각종의 유치한 짓—거울 앞에서 폼잡기, 약한 사람 괴롭히기, 날밤을 새며 게임하기—을 하는 것도 모두 퇴행이다. 퇴행은 유년기의 행복감을 상기시켜준다는 점에서 사람을 행복하게 만들어주는 측면이 있다. 사랑에 빠진 연인들이 서로에게 애교 부리고 어리광을 피울 때 그들은 그런 행복감의 한가운데 있다. 물론 그 밖에서 자기들을 바라보는 시선을 의식하거나 그런 시선으로 자기 자신을 바라보게 된다면 그것은 매우 거북한 일이 아닐 수 없다.

방어기제는 물론 건강한 마음과는 거리가 있다. 하지만 모든 사람이 자기 마음에 닥쳐오는 위험에 대해 정면 대결을 할 수 있을 만큼 강한 것도 아니고, 모두 건강한 마음으로 잘 살고 있는 것도 아니다. 비합리적이긴 해도, 마음이 회복 불가능할 정도로 망가져버리는 것을 막아주는 것이 방어기제의 기능이다.