勧請年代不詳。古くより牛頭天王と称した。

明和3年（1766）9月、社殿建立の記録が残る。

明治元年（1868）上山社に改め、更に同7年3月上山神社と改称した。
大正9年3月火災により社殿を焼失したが、廣西の古宮を購入し仮宮として奉祀の後、大正15年7月に本殿・幣殿・拝殿を新築竣功した。