刘日丙，字延明，敦煌人氏。父亲刘宝，字子玉，以儒学见长。刘日丙十四岁时，从师博士郭蠫。当时郭蠫的弟子达五百多人，精通经业的也有八十多人。郭蠫有个女儿刚刚成年，郭蠫想从弟子中挑选乘龙快婿，心里想到了刘日丙。于是在他自己的座位前面另外设下一个座席，对弟子们说：“我有一个姑娘，已经长大成人，想找一位乘龙快婿，谁前来坐这张凳子，我就把女儿嫁给谁。”刘日丙一听，毫不犹豫地抢上前来，坐在凳子上，神情严肃，说：“听说先生您想找乘龙快婿，我刘日丙就是。”郭蠫于是就把女儿嫁给了他。
刘日丙后来隐居酒泉，不接受州郡邀请他为官的旨命，开门授业，聚集在他门下受业的弟子有五百余人。李詗另立政权，征拜他为儒林祭酒、从事中郎。李詗喜爱文书典籍，书史当中有脱落文字的，他必定亲自补上，刘日丙当时侍奉左右，上前请求代替李詗做这事。李詗说：“我亲自来做这种事情，是想让别人重视此类典籍。我与卿相逢，和孔明与刘备相逢又有什么区别？”又迁任抚夷护军，刘日丙虽然每天都有政务在身，但仍是手不释卷。李詗说：“爱卿你注释篇籍，常常夜以继日，以烛继昼。我说你白天这样做还可以，晚上就应该休息了。”刘日丙说：“朝闻道，夕死可矣，不知人将老矣，所以孔子才成为圣人，为人称道。而我刘日丙是什么人，怎敢停止下来。”刘日丙考虑三史文字太繁多，便撰写《略记》一百三十篇、共八十四卷，又著《凉书》十卷、《敦煌实录》二十卷、《方言》三卷、《靖恭堂铭》一卷、又注释《周易》、《韩子》、《人物志》、《黄石公三略》，这些书都流传于世。
蒙逊平定酒泉，拜授他为秘书郎，专门负责注记之类的事情。刘日丙在西苑建起陆沉观，亲自前往礼敬诸圣，自号“玄处先生”，学徒达数百人，每个月都送给他一些羊酒。牧犍尊他为国师，亲自拜之以礼，命令所有官员都北面受业于他。当时，同郡的索敞、陰兴为他的助教，两人都以文学见长，每次都以民间学者的身份出入。
魏世祖平定凉州，百姓东迁，朝廷久闻刘日丙大名，拜授他为乐平王从事中郎。魏世祖下诏让年纪七十岁以上的乡老留在本乡，身边留下一个儿子奉养。刘日丙当时已经太老了，身在姑臧，一年多后，思乡返归，到了凉州西面四百里的韭谷窟，染上疾病，死了。刘日丙有六个儿子。