他在家乡的庐剧文化中成长，年轻时便展现出了精通二胡的才能。1958年，他凭借出色的音乐才华考入了安徽省艺术学校，学习庐剧三年，并学会了作曲。他自称对庐剧了解和热爱远超黄梅戏，但当初的同班四人中，只有他坚持到底，最终留校担任教学工作。当时，他被认为是为庐剧种下了一颗种子，但直到1993年省艺校才重新招收庐剧班，这段时间内徐代泉未能将学识运用，而不得不转向学习黄梅戏。尽管两种音乐风格迥异，徐代泉通过与黄梅戏表演班学生共同上唱腔课，迅速掌握了黄梅戏音乐，并最终成为该学院的主要教学曲目作者。
他的职业生涯充满了挑战和创造力。在教书方面，他不仅在本校教授，还担任中国戏曲音乐学院客座教授，即使退休后依然保持着繁忙的教学生活。而在创作方面，他不仅为多部电视剧和舞台剧谱写了音乐，还为60多部教育性质的作品提供配乐，涉及多个传统戲曲形式。研究领域里，他参与编纂《中国戲曲音樂集成·安徽卷》，并因其贡献获得奖励。
作为一位著名作曲家，徐代泉以其作品如《桃花扇》、《半把剪刀》等深受欢迎。他曾任安徽艺术学校、安徽大学艺术学院戏音教研室主任超过20年，在65岁高龄仍然继续担任中国戲曲學院、安徽大學藝術學院客座教授一职。
