創立年代不詳。往古より山蔭大明神と称する。

『因幡誌』には山影大明神とある。『太平記』巻第11に「（後醍醐天皇元弘三年五月）二三日伯耆ノ舟上ヲ御立有テ、腰輿ヲ山陰ノ東ニゾ催サレケル」とあることから、山陰は当社の事とする社伝がある。（ただし、山陰とは山陰道のことである。）

天正8年（1580） 羽柴秀吉の兵火により社殿を焼失。慶長13年（1608）再建。

明治元年7月山蔭神社と改称した。