Capital de la Provincia Hispania Ulterior Baetica (Bética), fue fundada en 169 a. C llegando a contar con  edificios lúdicos, proporcionando grandes filósofos como Lucio Anneo Séneca, oradores como Marco Anneo Séneca y poetas como Lucano. Más tarde pudo formar parte de la provincia de Spania del Imperio bizantino, aunque este hecho no está demostrado.

En el año 711, los ejércitos árabes y bereberes invadieron la península ibérica. Córdoba fue capital del Emirato Independiente y del Califato Omeya de occidente, época en la que alcanzó su mayor apogeo, llegando a tener entre 250.000 y 500.000 habitantes, siendo en el siglo X una de las ciudades más grandes del mundo. Recientes hallazgos arqueológicos en zonas urbanas que se consideraban que debían estar ocupadas por almunias y huertas, como el meandro del río Guadalquivir entre el barrio de Levante, el barrio de Fátima y el Polígono de las Quemadas, hacen suponer cierto el margen de los 500 000 al millón de habitantes del que hablan las crónicas musulmanas hacia el año 1000. Con la excepción de Constantinopla, a mediados del siglo X no había en Europa una ciudad similar en cuanto a superficie edificada, ya que por aquel entonces ninguna superaba las 30.000 personas

Con Abderramán I, se empezó a erigir la gran mezquita de Córdoba (completada en el siglo X) sobre la base de la basílica de San Vicente Mártir, templo compartido por musulmanes y cristianos hasta esa fecha. Los cristianos debieron levantar a partir de entonces su iglesia en las afueras de Córdoba. Se afirmaba que en la Mezquita se conservaba el brazo de Muhammad, y llegó a ser lugar de peregrinación para los musulmanes. Una publicación dice: «Su carácter sagrado sólo lo superaba La Meca y […] el visitarla absolvía a los fieles de la obligación de hacer el peregrinaje a Arabia». Igualmente, la ciudad contaba con una famosa universidad y una biblioteca pública que contenía unos 400 000 volúmenes. Había veintisiete escuelas gratuitas para enseñar a los niños pobres, y el nivel de alfabetización, tanto de los niños como de las niñas, era muy alto. Los jóvenes que pertenecían a la nobleza de los reinos católicos del norte de España recibían su educación en la corte mora, y las mujeres ricas de Francia encargaban en Córdoba sus trajes más elegantes. La ciudad estaba adornada con jardines, cascadas y lagos artificiales, y mediante un acueducto, se suministraba agua dulce en abundancia a las fuentes y los baños públicos, de los que, según un cronista musulmán, había setecientos. Por toda la ciudad podían verse suntuosos palacios, uno de los cuales, Al-Zahra (Medina Azahara), a las afueras de Córdoba, requirió veinticinco años y el duro trabajo de 10 000 obreros para completarse. Sus ruinas testifican aún hoy su anterior grandeza.

No obstante, la muerte de Almanzor desató la anarquía en Córdoba y una disputa abierta por el poder, que dio pie en los primeros años del milenio al saqueo y el pillaje de Córdoba y Medina Azahara. La antigua joya de la corona quedó relegada en pocos años a ciudad de importancia secundaria en el contexto peninsular, musulmán y europeo.

En 1236, Fernando III el Santo toma la ciudad. Dicho monarca ordena la edificación de las denominadas iglesias fernandinas. Alfonso X establece el convento de Santa Clara y durante el reinado de Alfonso XI se edifica la sinagoga de Córdoba. Así mismo, y para conmemorar la victoria de la batalla del Salado sobre los benimerines, se edifica la Real Colegiata de San Hipólito, donde se encuentra enterrado este rey y su padre. También durante su reinado se empieza a edificar el Alcázar de los Reyes Cristianos.