El proyecto fue aprobado el 4 de agosto de 1908 gracias a la iniciativa del Conde Peñalver y tras meses de ensayos y preparativos, la banda debutó en el Teatro Español el 2 de junio de 1909 con un éxito rotundo. Su fama creció rápidamente, llevando su música a escenarios como el Teatro Real y el Paseo de Recoletos.
A lo largo del siglo XIX, la música popular experimentó un gran auge en España, con la creación de numerosas bandas municipales que amenizaban la vida social y los eventos oficiales. En Madrid, desde 1836, hubo varios intentos por formar una banda oficial, pero ninguno prosperó hasta que, en 1907, el alcalde Nicolás de Peñalver y Zamora viajó a Valencia y quedó impresionado por la Banda Municipal de esa ciudad. Inspirado por esta experiencia, propuso la creación de una banda sinfónica madrileña bajo la gestión del Ayuntamiento.
Los músicos responsables de su fundación, Ricardo Villa y José Garay, diseñaron una plantilla instrumental innovadora, incorporando cuerdas graves como violonchelos y contrabajos, además de un arpa y secciones completas de viento y percusión. Esta configuración le otorgó a la banda una sonoridad equilibrada y una gran riqueza expresiva.
Desde su creación, la Banda Sinfónica Municipal ha contado con numerosos directores que han dejado su huella en su evolución. Entre ellos destacan: Ricardo Villa González (director fundador, 1909-1935), Pablo Sorozábal (1936-1939), Jesús Arámbarri y Gárate (1953-1960), Rodrigo de Santiago (1967-1977), Pablo Sánchez Torrella (1986-1992), Enrique García Asensio (1993-2012), Rafael Sanz-Espert (2013-2018), Jan Cober (desde 2020, actual director).
En 2009, para conmemorar su centenario, se publicó el disco-libro 100 años BSMM. Pasado y presente de su fonografía, en homenaje a todos los músicos que han formado parte de su historia.
Hoy en día, la Banda Sinfónica Municipal de Madrid sigue en plena actividad, ofreciendo conciertos en escenarios emblemáticos como el Auditorio Nacional y el Parque de El Retiro, además de participar en la programación cultural de la ciudad y en distintos eventos organizados por el Ayuntamiento.