Il caratteristico centro storico è noto come la piccola Gerusalemme, per la storica presenza di una comunità ebraica, da sempre ben integrata nel contesto sociale e che qui aveva la propria sinagoga.

Sconosciuto il nome etrusco, quello attuale deriva dalla gens Petilia, importante famiglia romana: leggendaria la fondazione del villaggio da parte di due romani, Petilio e Celiano, da cui, unendo i loro nomi, sarebbe derivato Pitigliano.