他的家乡流行唱庐剧，他小时候是浸润在庐剧的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年庐剧音乐，学会了作曲。他说自己对庐剧的熟悉程度和喜爱程度都远远超过了黄梅戏，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为庐剧艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。
省艺校直到1993年才招了一个庐劇班，这中间30多年徐代泉一直學無所用，一有機會只能轉向黃梅戲。但是，不同於自己的根基——音樂與文化背景，這樣一來讓他的創作道路充滿挑戰。在這個過程中，他采取了一個笨办法——与黃梅戲表演班的学生一起上唱腔课。他听着老师上課時記下譜本，上午聽完晚上回憶，那些歌曲旋律如入耳脳般深刻且持久。他比十几岁的孩子學得還快，不僅如此，由於功夫下得大，他還成為學校黃梅戲教学曲目的主要作者之一。
这一行干起来是既苦又难。在创作过程中，即使偶尔找不到感觉，也会连续写一个音符也写不出来。那时候状态真是坐亦想、走亦想、醒亦想、梦亦想。而一旦完成创作，那种轻松又难以形容，再等演员录完音后坐在音响前细细听那些唱段，陶醉之情也难以言喻。
作为一名戏曲音乐工作者，徐代泉的一生可以概括为三项工作：教学、创作和研究。他不仅在本校担任教授，还成为中国戏曲学院客座教授，无论是在教室还是舞台上，都是一位无懈可击的人物。此外，在电视媒体上的表现更是不容忽视。在1987至1994年的国家重点科研项目《中国戏曲音乐集成·安徽卷》副主编期间，他还曾获得“编纂成果二等奖”。
提起安徽黄梅戏电视电影中的某些经典作品，如《桃花扇》、《半把剪刀》、《家》、《春》、《秋》，以及《啼笑因缘》、《二月》、《潘张玉良》的背景音乐，每个名字都是由这位65岁高龄仍旧活跃于艺术界的大师亲自操刀打造而成。这份热情与激情，让人们对于黄梅戏有着更加深层次的情感联系，从而将其推向新的高度。
