据考证，它最初由延安的音乐工作者安波、马可、时乐蒙等人于40年代初深入民间搜集民歌时，在安塞地区搜集到的一首民歌的基础上改编而成，由安波记谱。1942年，中共中央决定将刘志丹的灵柩移葬于他的故乡保安县今陕西省志丹县，在陕北人民公祭刘志丹的大会上，首次由安波以此曲填词并唱奏了这支歌，由“鲁艺”乐队演奏，歌名为《公祭刘志丹》。建国后，新中国第一任中国军乐团团长罗浪为了国家礼仪的需要将此曲配置了和声，这样，这支哀乐就被沿用下来。它节奏低沉缓慢，以此表现悲哀的气氛。