自幼在黄梅戏的故乡安庆市怀宁县农村长大，程学勤耳濡目染于周遭的黄梅戏演出和民间音乐。六岁时，他偶遇一位瞎眼算命先生拉二胡，深受吸引便跟随他十里路走，再独自返回家中。尽管挨了一顿打，但这次经历坚定了他的音乐热情。
上中学期间，他每晚都坐在门口聆听安庆市民众黄梅戏剧团的排练声。在没有正式学习的情况下，程学勤早早学会拉二胡，并且自己动手制作了一把蟒皮制成的二胡。当他十二三岁时，就被民众黄梅戏剧团招募成为主胡演奏者。
1955年，程学勤遇见了著名作曲家时白林，并对他的作品《春香传》产生了极大的向往。他开始尝试创作，而未经过专业训练的他只能通过自学来掌握乐理知识和系统化理解黄梅戏。在不断努力与热爱之下，他不仅能够胜任作曲工作，而且取得了显著成绩，从创作第一部作品《杜鹃》到2005年的电视剧《明月清照》，半个世纪内共计204部作品，为此领域贡献出了大量杰出的艺术成果。
程学勤在多个重要比赛中获得奖项，如1984年的《渖婿招婿》获省级一等奖、1988年的《公主与皇帝》获省级优秀作曲奖，以及1990年及1992年的两部电视剧各获得国家级“金鹰奖”、“飞天奖”。他的作品也荣获“2000年度中国电影华表奖优秀戏曲片”。
在长期实践中，程学勤积累了丰富经验，其曲调优美流畅，在民间广为流传。他本人最为骄傲的是自己的作品能深受老百姓喜爱，不论是多少个金杯银杯，“老百姓口碑”才是衡量艺术价值最高的标准。程学勤坚信要有独立思想，以保持原汤味并展现新时代风貌，这也是他致力于创造生命力充沛、受到观众欢迎的小品的心愿所在。
