西の大関に据えられたのは、摂州（兵庫県）の有馬の湯である。
有馬の湯は、六甲山の北の谷あいに湧き、日本で最も古い温泉の一つとされる。伝承によれば、神代の昔、大己貴命（大国主命）と少彦名命の二柱の神が、傷ついた三羽の烏が湯に浸かって傷を癒やしているのを見て、この湯を見つけたという。
歴史の記録にも、有馬の名は早くから現れる。『日本書紀』には、舒明天皇が有間の温湯に行幸したことが記されている。また、清少納言は『枕草子』に、「湯は、ななくりの湯、有馬の湯、玉造の湯」と記して、名湯の一つに数えている。
有馬の湯は、奈良時代に行基が温泉寺を建てて再興し、平安時代の末に衰えたが、鎌倉時代に仁西という僧が再び興したと伝えられる。仁西は、十二の宿坊を作り、これがのちの有馬の宿の始まりとなった。
戦国時代には、豊臣秀吉が有馬の湯をたいそう好み、たびたび湯治に訪れた。秀吉は、湯山御殿を建て、湯の整備にも力を尽くした。
有馬の湯には、鉄分を含んだ赤茶色の「金泉」と、無色透明の「銀泉」がある。京や大坂から近いこともあって、江戸時代には多くの湯治客でにぎわい、「西の大関」として草津と並び称された。