他于1942年考入重庆国立歌剧学校理论作曲组学习,后肄业,1946年6月参加工作,历任旅大市社会教育文工团音乐教员、东北鲁迅艺术学院音乐部研究室副主任、东北音乐专科学校教务副主任等职。
1956年,李纯一调往中央音乐学院民族音乐研究所(现中国艺术研究院音乐研究所),任中国音乐史研究室主任及副研究员,1983年晋升为研究员,1988年离休,1992年起享受国务院特殊津贴。
他于2002年获中国文联和中国音协共同主办的“中国音乐金钟奖”终身荣誉勋章,2009年获从事新中国建国六十周年文艺工作证书和奖章、“庆祝中华人民共和国成立70周年”纪念章。
李纯一长期致力于中国古代音乐史学和音乐考古学的开拓研究,撰写《中国上古出土乐器综论》《先秦音乐史》等专著,发表学术论文百余篇,在音乐考古方面形成自身的体系与方法。
据《音乐研究》、湖北省博物馆介绍,作为中国音乐考古学领域的开创者之一,李纯一曾参与长沙马王堆一号汉墓和曾侯乙墓等重大音乐考古工作,担任国家重点科研项目“中国音乐文物大系”顾问,他也是曾侯乙编钟出土后最早进行研究并发表学术成果的学者。