Nació en Sueca, Valencia, el 14 de Octubre de 1873, y al igual que otros compositores de zarzuela, fue su padre, director de banda de música, quien le introdujo en este campo. A los 12 años ya tocaba con cierta corrección la guitarra y el violín. A los 16 años se traslada a Valencia para proseguir con sus estudios musicales en el Coservatorio con Salvador Giner. Fueron duros años de aprendizaje de piano, instrumento que pronto abandonó, violín y composición. Más tarde se traslada a Madrid con la intención de obtener una beca con la que proseguir sus estudios pero se encuentra en un mundo muy distinto al que había dejado en Valencia y en el que no tiene mucha suerte. Como anécdota podríamos comentar que en esta época tiene que sobrevivir componiendo canciones a 25 pesetas para promocionar otros artistas. 

La ceguera progresiva del maestro Fernández Caballero le obliga a pedir a Serrano su colaboración para la partitura de Gigantes y Cabezudos, obra que fue elogiada en El Saloncillo, revista en la que Serrano escribía desde hacía unos meses. 

La primera composición de Serrano estrenada con éxito, El Motete, se remonta a 1900 y fueron los hermanos Álvarez Quintero los que le ofrecieron el libreto. José Serrano no desaprovechó la oportunidad de situarse entre los grandes compositores. Su figura se engrandeció por la labor llevada a cabo en el primer tercio del siglo XX, enmarcándose en el género chico que, aunque empezaba a ceder frente a la zarzuela grande, perduraría muchos años en los gustos del público. Entre sus más de 50 obras para teatro destacan: La Reina Mora (1903) con texto de los Hermanos Álvarez Quintero, Moros y Cristianos (1905), El Perro Chico (1905), El Pollo Tejada (1906) y El Príncipe Carnaval (1919), Alma de Dios (1907), La Alegría del Batallón (1909), El Amigo Melquiades (1914), La Canción del Olvido (1916), Los de Aragón (1927), Los Claveles (1929) y La Dolorosa (1930). 

Serrano también compuso el Himno a Valencia, pieza estrenada en 1909 en la Exposición Regional Valenciana, y por su emotividad sería aceptada como himno regional en 1925. Serrano murió en Madrid el 8 de marzo de 1941 sin haber visto el estreno de una de sus más elaboradas obras Golondrina. También dejó sin estrenar la obra La venta de los gatos, basada en una narración de Bécquer.