Un mes antes de fallecer, Córdova le escribió a Simón Bolívar indicándole que no estaba dispuesto a traicionar sus juramentos ni faltar a su deber. Le recordó: “Todos hemos jurado sostener la libertad de la república, bajo un gobierno popular, representativo, alternativo y electivo, cuyos magistrados deben ser todos responsables; y sin renunciar al honor, no podríamos prestar nuestra aquiescencia a la continuación de un gobierno absoluto, ni al establecimiento de una monarquía, sea cual fuere el nombre de su monarca”.
Así, Córdova se levantó en armas contra Bolívar, como también lo hicieron en el sur de Colombia José María Obando y José Hilario López. En respuesta a dicha insurrección, en Bogotá se organizó un ejército de 800 hombres del Batallón Rifles, con varios oficiales extranjeros como Carlos Luis Castelli, al mando del general de Brigada irlandés Daniel Florencio O’Leary.
El 16 de octubre de 1829, Córdova hizo marchar su tropa desde El Peñol, por donde él esperaba a O’Leary. En la noche supo Córdova que O’Leary venia por Granada hacia El Santuario, donde ya había algunos para recibirlo. Córdova llegó a un lugar llamado El Salto en El Santuario a las ocho de la mañana con la tropa cansada después de un torrencial aguacero. Poco después a distancia de hacerse oír O’Leary, dijo: «Córdova entrégate; no sacrifiques estos pocos reclutas». Córdova replicó: «Córdova no se entrega a un vil mercenario extranjero asalariado, primero sucumbe». Inmediatamente el fuego de los héroes británicos de la independencia latinoamericana cayó sobre los soldados de Córdova. A las dos horas de combate O’Leary ordena a su caballería atacar para acabar la batalla.
Córdova se retiró a una casa hospital herido y derrotado. El general O’Leary ordenó a uno de sus oficiales de caballería, un teniente coronel irlandés llamado Rupert Hand, capturar a Córdova. El asesino entró a la casa donde se había refugiado Córdova y dijo «¿dónde está Córdova?» a lo que este respondió «yo soy Córdova». Hand descargó un sablazo sobre la cabeza de Córdova que hizo que su sombrero de jipijapa quedara marcado. Llegó el segundo sablazo y Córdova llevó su mano para protegerse el rostro y le cercenó tres dedos. El tercero fue tan fuerte que penetró cuatro dedos en la pared craneal y Córdova quedó tendido en el suelo hasta que murió a los 30 años de edad.
Monumento a José María Córdova en el Cementerio de Rionegro