Fjelberg prestegård er med sine ni enkeltbygninger et enestående anlegg.  Etablert som offentlig stiftelse i 1987 og fredet i 1992. Hovedhuset er satt sammen av to eldre hus, hvor Almuestuen trolig kan dateres tilbake til midten av 1600-tallet. Sammen med Bispestova og tømmerkirken, begge fra ca.1725, danner de et vakkert tun. En liten hage med hellelagte plasser og en gammel buksbomhekk er omkranset av hvitmalte hus og gamle platanlønnetrær. Tett ved ligger uthusene på rekke: Stabburet, Bakeriet (med nyrestaurert ovn) og vedskjulet. Ved sjøen ligger det store nøstet, sjøbua og smien.
Helt siden middelalderen har Fjelberg vært et senter for åndelig fornyelse, oppbyggelse og folkeopplysning. Stavkirken, som trolig ble reist på 1200-tallet, ble revet i 1725 og erstattet av dagens tømmerkirke. Prestegården er nevnt i kildene første gang i 1519. I forbindelse med fundamenteringsarbeider for Bispestova ble det i 1998 funnet en grønnsteinsøks fra yngre steinalder og et keramikkskår bestemt til Weserkeramikk fra 1570-tallet.
Selve navnet Fjelberg kommer fra fjolbyrjan, stedet med mange slags bør. Du slapp å vente på den riktige vindretningen, den gang sjøen var ferdselsveien!