Šedé hory byly jedno ze čtyř prvotních horských pásem obklopujících Středozem. Ležely na jihozápadě Středozemě a táhly se od severu k jihu podél pobřeží Západního moře. Představovaly jižní pokračování Modrých hor ležících na severozápadě Středozemě. Podobně se na jihovýchodě táhly Žluté hory a na severovýchodě Červené hory.

Když byla při svržení Lamp narušena prvotní symetrie světa, vzniklo Vnitřní moře, které propojilo Západní a Východní moře. Spojnice mezi vnitřním mořem a Západním mořem ležela daleko na jihu a pravděpodobně přeeťala nejjižnější část pásma Šedých hor

Protože neexistují žádné mapy celého světa po Prvním věku, není jisté, jestli i nadále existovaly. Můžeme ale usuzovat, že v nějaké podobě mohyl nadále existovat jako horské pásmo podél západního pobřeží Haradu.

Ve Druhém a Třetím věku se název Šedé hory používal pro zcela odlišné horské pásmo, které leželo daleko na severu a táhlo se ve směru od západu na východ.