山都町は九州（沖縄県及び離島を除く。）の真ん中「九州のへそ（商標登録）」に位置しています。その町域は、東西約33キロメートル、南北約27キロメートルにおよび、面積は544.67平方キロメートルで、県内自治体で3番目の広さを誇ります。
世界最大級の阿蘇カルデラを形成する南外輪山のほぼ全域をおさめ、南側は九州脊梁山地に接しています。
一級河川である五ヶ瀬川、緑川は町内の山間部にある水源を源流とし、分水嶺を堺にそれぞれ東西に流れています。
標高は、200メートルから1700メートルにあり、そのうち200メートルから900メートルにある居住域については、平野部との気温差は各月平均で4度ほど低く、準高冷地の気候です。