小郡市は、福岡県の南部、筑紫平野の北、佐賀県との県境に位置しています。南東を大刀洗町 と久留米市に、西は佐賀県、北東は筑紫野市と筑前町にそれぞれ接しています。東西6キロメートル、南北12キロメートルにわたる区域で、総面積は45.51平方キロメートルあります。
東北の台地には標高130．6メートルの花立山があり西北丘陵地帯は、なだらかな丘陵が連なりため池が点在しています。
また、市の中央部を南北に貫流する宝満川を挟んで、西側に住宅地帯、東側に田園地帯が広がっています。