Senosiose Beržės kapinėse prie bažnyčios yra palaidoti Karlio Ulmanio tėvai, jo įtėviai ir kiti šeimos nariai. Beržės kapinėse panoro ilsėtis ir pats prezidentas. „Mano nepakeičiama valia ir noras yra, kad būčiau palaidotas gimtosiose kapinėse, kad būčiau palaidotas čia, prie mūsų senosios bažnyčios – mūsų kapinėse šalia tėvo ir motinos“, – savo norą 1939 metais išsakė Karlis Ulmanis. Deja, jis turėjo visiems laikams likti svetimoje žemėje. Kadangi prezidento kapas liko neatrastas, praeito amžiaus paskutiniojo dešimtmečio pradžioje Beržės kapinėse jo atminimui buvo pastatytas paminklas. Toje vietoje, kurią amžinam poilsiui, kaip pasakojama, buvo pasirinkęs pats Karlis Ulmanis.