Кинокомедия «Жандарм на отдыхе» рассказывает о неугомонных жандармах из Сен-Тропе, которые, несмотря на свой возраст, дадут фору молодым, даже самым подготовленным и отважным, полицейским. По сюжету картины, Людовик Крюшо и его коллеги отправляются в отставку, а на смену им приходят новые ребята. Для любителя приключений Крюшо это равноценно смерти, он тоскует по былым дням и очень радуется встречам с бывшими коллегами. Супруга Крюшо всеми силами пытается облегчить участь супруга, но все тщетно. Правда, чтобы отвлечься от грусти и меланхолии, Людовик находит спасение в создании домашнего музея жандармерии. Впрочем, даже это не способно вернуть прежнего Крюшо: азартного, веселого и бодрого. И тут в дело вступает фортуна.
Бывший жандарм узнает, что один из его коллег, Фугас, в результате несчастного случая, потерял память. Его помещают в специальный пансионат, куда Крюшо и его верные друзья отправляются, чтобы помочь другу. Так как лечебные меры не приносят результата, бывшие коллеги крадут Фугаса из пансионата и отправляются по местам былой славы, чтобы память сама нашла Фугаса. В дороге они переодеваются в любимые формы (что, по сути, является преступлением) и помогают новому поколению выполнять обязанности жандармов, любыми усилиями пытаясь не попасться последним на глаза. Двигаясь по волнам памяти, они снова и снова попадают в комичные ситуации, какими-то неведомыми силами, при этом умудряясь бороться с преступностью. Так, к примеру, по просьбе настоятельницы монастыря они отправляются на поиски подростков, которые отыскали боевую ракету и пытаются запустить ее. Действия бывших жандармов не остаются не замеченными, а значит, им придется держать ответ за свои поступки…