城跡は、大机山から西へ延びる尾根の末端にある。東側を除く他の3方向は生川と天狗堂沢に囲まれ、急峻な地形を呈し、妻坂峠からの秩父街道を監視する位置にある。
本郭は標高480mほどにあり、河岸段丘との比高差は200mを測り、根古屋城址に比べて100m以上の高所に築かれている。
遺構は小規模で、細長い尾根の頂にあり、本郭と二の郭が堀と土塁で隔てられている。北斜面には3段の腰郭が備えられ、大机山に続く尾根には腰郭・堀・縦堀が設けられて、郭を隔離している。
関東管領上杉憲政は、河越夜戦に敗れ、家臣の永田外記が居住したこの城まで逃れたが、平景光の軍に破られ、越後の守護代長尾景虎の元へ逃れたと伝えられている。また永田外記は根古屋の中野で討死したという。
古御嶽城も根古屋城と同じく天正18年、 鉢形城落城と共に開城したといわれている。