Yarumal está localizado al norte del departamento de Antioquia, a 123 km de la ciudad de Medellín, exactamente en las coordenadas 6°57′41″N 75°24′58″O. Todo el territorio presenta un relieve bastante montañoso, pues está emplazado sobre las estribaciones del ramal occidental de la cordillera central de los Andes. El municipio cuenta con una extensión territorial de 724 km², de los cuales 2,1 km² corresponden al área urbana.