제임스 켄트 밑에서 법률을 공부하고 1792년 변호사가 되었다. 2년 뒤 세러 리빙스턴과 결혼한 후 버(Burr)에 반대하는 뉴욕 주 제퍼슨 공화파에 들어갔다. 뉴욕 주 의회에서 의정 활동을 한 뒤, 1802년 뉴욕 주 대법원 판사로 임명되었으며 1818년 제임스 먼로 대통령에 의해 해군장관으로 임명되었다.

대통령에 출마하려는 생각을 잠시 가졌지만 가능성이 없다고 판단해 포기하고 1823년 연방대법원 판사 임명을 받아들였다. 그러나 정치적 야망을 버리지 않고 1828년 판사직을 사임하지 않은 채 뉴욕 주지사선거에 출마해 정책을 신랄하게 비판하는 선거운동을 폈으나 낙선했다. 톰슨은 대법원장 존 마셜의 국가주의적 견해에 동조하지 않았고, 여러 판결에서 반대 의견을 제출했다. 또한 헌법문제와 관련된 대법원의 결정에도 대부분 동의하지 않았다.

'켄들 대 미국'(1838) 판결에서 밝힌 그의 의견 가운데는 대통령이 독자적으로 헌법을 해석하여 법률을 집행할 수 있다는 앤드루 잭슨 대통령의 논리를 반박하는 내용이 포함되어 있었다. 그러나 이 부분은 잭슨이 이러한 견해를 공식적으로 밝힌 바 없다고 주장한 법무장관의 요청에 따라 인쇄에서 삭제되었다.