Dicen que puede ser la antigua Rauda de la que hablaban los romanos. Por aquí pasaba una calzada romana que iba de Clunia a Astorga. Está situada sobre un espolón asomado al río Duero que domina el paisaje.
En el año 909 Munio Núñez, suegro del rey García I de León, es nombrado conde de Amaya. Desde este punto será uno de los tres protagonistas de la expansión hacia el Duero repoblando Roa de Duero en el año de 912. Al mismo tiempo, el conde Gonzalo Fernández, padre del famoso Fernán González, reconquistó El Burgo de Osma y Berlanga de Duero. Así fue como quedó asegurada toda la línea del Duero.
En 975 una razia de Almanzor llega a Roa, volviendo a convertir la zona en lugar de batalla entre los dos reinos, musulmán y cristiano.
En 1143 Alfonso VII concede a Roa diversos privilegios, donando a esta villa las aldeas de su alfoz, aplicando el fuero de Sepúlveda. Este hecho se ratificó años más tarde por su nieto Alfonso X en 1274 y por Sancho IV en 1291. Actualmente se conservan dos copias de privilegio en la Biblioteca de la Academia de Historia, otra copia se conservaba en el Archivo de Roa, perdida con total seguridad a causa de los numerosos incendios del siglo XIX.
En el siglo XV Enrique IV entregó la villa como regalo a su favorito don Beltrán de la Cueva (de ahí el lema del escudo de la villa: "Quien bien quiere a Beltrán, bien quiere a su can"). Además otorga el derecho a la celebración de dos ferias anuales que casi nunca llegaron a realizarse. Por otro lado, concede la celebración semanal de un mercado para los martes, tradición que desde 1465 se sigue llevando a cabo.
En el año 1295 la reina Doña Violante, viuda de Alfonso X, ordenó la construcción de las murallas de Roa, así como el procedimiento para realizar la vendimia. El recinto amurallado serviría como solución a los diversos conflictos que la villa vivía con sus vecinos más próximos, al no ponerse de acuerdo para el cercado del muro de protección. Esta muralla era alta y sólida, almenada y con doble muro, como describe Loperráez, contaba con seis puertas que se abrían al amanecer y se cerraban al atardecer, además contaba con pequeños portillos para facilitar el paso de los vecinos:
- Puerta de la Villa: situada en las inmediaciones de la plaza de toros.
- Puerta de San Juan: cercana al C.R.D.O. Ribera del Duero, es la única que conserva uno de los cubos que formaban la puerta.
- Puerta de Palacio: en las inmediaciones del Paseo de El Espolón, llamada así por encontrarse al lado del desaparecido Palacio de los Condes de Siruela.
- Puerta de San Esteban: anexa a la iglesia del mismo nombre.
- Puerta de San Miguel: tenía una hornacina en el interior con una imagen del santo.
- Puerta del Arrabal o de La Fuerza: Situada en la entrada a la calle Santa María donde actualmente se puede admirar el lienzo de la Muralla mejor conservado.
En el año 1517, falleció en la villa el Cardenal Cisneros que iba de viaje para una entrevista con el nuevo rey Carlos I de España.
Villa, cabecera de la Comunidad de Villa y Tierra de Roa con jurisdicción de señorío ejercida por el Conde de Siruela quien nombraba su alcalde mayor de señorío.
El 19 de agosto de 1825 fue ajusticiado en la plaza del pueblo Juan Martín El Empecinado por orden de Fernando VII. El Empecinado había llegado hasta Roa tras ser apresado en Olmos de Peñafiel y conducido a la Villa de Roa, por ser cabeza del partido judicial de la época y disfrutar de fueros. Pero los reaccionarios no respetaron el derecho de asilo. Torturado y humillado, cuenta erróneamente la leyenda que fue exhibido en una jaula sobre un carro. Aún así, consiguió romper las cadenas que lo apresaban en un último intento de acogerse al asilo que ofrecía la Colegiata, sin poder lograrlo.
Pocos años después de su muerte, el pueblo de Roa rinde homenaje al liberal, dedicándole a su nombre la antigua Calle de Las Armas. Desde principios de los años noventa, la Asociación Amigos de la Historia de Roa, junto con el Círculo Cultural Juan Martín "El Empecinado", presidido por un desdendiente del famoso guerrillero, celebran un homenaje anual junto al monumento que se levantó en su honor. Este homenaje se realiza siempre el sábado más cercano a la fecha de su ajusticiamiento y cuenta con la participación de las autoridades locales y la población en general.
En 1840, el general carlista Balmaseda incendia Roa mientras los habitantes de la villa están refugiados en Peñafiel.
Erróneamente se hace referencia a Roa de Duero usualmente para denominar a Roa. Roa de Duero dejó de llamarse "de Duero" antes -al menos- de 1988, para convertirse en Roa. Varias disposiciones, entre ellas el Real Decreto 570/1988, de 3 de junio, "de delimitación de la zona de promoción económica de Castilla y León" (BOE n. 137 de 8/6/1988) hace mención del nombre de Roa como zona de promoción económica en la provincia de Burgos (En el Anexo de este R. D. 570/1988 se menciona en la provincia de Burgos: Cerezo de Río Tirón, Espinosa de los Monteros, Lerma, Medina de Pomar, Melgar de Fernamental, Miranda de Ebro, Oña, Pradoluengo, La Puebla de Arganzón, Quintanar de la Sierra, Roa, Salas de los Infantes, Treviño, Valle de Mena, Villadiego, Villarcayo de Merindad).