La Casa del Concejo se encuentra en la plaza del Ayuntamiento desde mediados del siglo XVII. Su ubicación anterior fue la plaza de los Cuatro Caños debido a su carácter comercial como lugar del mercado. Es probable que el traslado fuera debido a la falta de notoriedad del edificio anterior.
El nuevo edificio es un amplio caserón. La primera planta fue construida con mampostería de piedra con sillares en los esquinas y en la puerta de acceso. La segunda planta se levantó con fábrica de ladrillo, material introducido en la villa por los moriscos.
En fachada podemos ver tallado en piedra el escudo de Pastrana: en el primer cuartel aparece una letra P cruzada de una banda y escoltada por dos flores de lis, en el segundo cuartel una cruz, una espada y una calavera. Este escudo simboliza la leyenda que dice ‘Pastrana defenderá la Cruz con la espada hasta la muerte’.
Restaurada en los años noventa, sigue siendo sede del Ayuntamiento; en su planta baja están las oficinas municipales y en la planta superior el salón de plenos y archivo.