Hibike! Euphonium empieza cuando Kumiko Oumae, una chica que estaba en el club de la banda de la escuela, visita el club de música de la escuela de secundaria como estudiante de primer año. Las compañeras de clase de Kumiko, Sapphire y Hazuki deciden unirse al club, pero ella ve su antigua compañera de clase Reina y no sabe si unirse, ya que se acuerda del incidente que tuvo con ella en un concurso hace algún tiempo...