颜师古，雍州万年人，是北齐黄门侍郎颜之推的孙子。其先本是琅笽临沂人，世代在江左为官；到颜之推先后在北周北齐做官时，才入居关中。颜师古的父亲颜思鲁，因学识文才受到人们的称许，武德初年曾任秦王府记事参军。师古从小受到家学的熏陶，博览群书，尤其精于训诂之学，擅长写文章。隋文帝仁寿年间，由尚书左丞李纲推荐，被任命为安养县的县尉。尚书左仆射杨素见师古年轻体弱，因而问他说：“安养是个难以治理的县，如何能担当此任？”师古回答说“：割鸡焉用牛刀。”杨素对他的回答感到惊奇。师古到任后果然以办事能干，把地方治理得好而闻名。当时薛道衡是襄州总管，与其祖是旧交，又喜欢师古的文才，有所著作，曾让他指摘文章中的毛病，与他非常亲昵。后来师古因事被免官回到长安，十年之间不被起用，生活无着，靠教授学生维持生活。
李渊起义反隋，师古到长春宫谒见，被授予朝散大夫之职。跟随平定京城，拜敦煌公府文学，转起居舍人，再迁中书舍人，专掌机密。当时军国政务繁多，凡是诏令，都经他亲手完成。他明于政务事理，所草拟的册奏工整美好，是当时他人所不及的。太宗即位，擢升他为中书侍郎，封为琅笽县男。师古因母亲去世离职。居丧期满，恢复中书侍郎之职，过了一年多，师古因事被免去官职。
太宗认为经书经历的时间久远，在长期的辗转传抄过程中文字讹谬很多，命令师古在秘书省考定《五经》文字，师古做了很多订正，五经定本撰成后，上奏皇上。太宗又召集诸儒重新进行详细的评议，当时诸儒对承袭的师说相习已久，都一起非议五经定本。师古总是根据晋、宋以来的各种古今版本，对大家提出的各种问题，做了清楚明白的回答，广征博引论据详明，都出乎大家意料之外，诸儒没有不叹服的。于是太宗令师古兼任通直郎、散骑常侍，把他考定的书颁布于天下，令读书人学习。
贞观七年(633)，师古被任命为秘书少监，专管校订古书的工作。所有大家疑惑不解的奇文难字，他都能一一辨析清楚，说明其深隐的本源。那时他多引导后进的学者进行校雠，师古抑制家世清贫、门第不高的人，让出身富贵、有权势的人占先，即使是富商大贾也引荐提携他们，众人非议说师古收受贿赂，因此出京任郴州刺史。师古还未走，太宗惜其才，对他说：“卿的学识，可称是优良的，可是尽孝当官，却不能被社会上公正的舆论所赞许。现在授郴州刺史，是卿自作自受。朕念及卿从前受差遣、任用，不忍远弃，卿应当深刻地告诫自勉。”于是重又授师古任秘书少监。师古已经仗恃自己的才能，又早受朝廷驱使，屡次被任用，到多次有罪受到谴责后，心里非常沮丧。从此关起门来不与外界来往，杜绝宾客，放意园林亭院，戴着葛布头巾身穿粗布衣服，然而搜求古代遗踪和古董器物，深爱不已。不久又奉诏令与博士等撰定五礼，贞观十一年(637)，五礼修成，师古晋升为子爵。当时承乾为皇太子，命师古注释班固的《汉书》，师古对《汉书》解释详明，深为学者所看重。太子承乾奉表呈给太宗，太宗命令将师古所注之书收藏入秘阁。赏赐给师古帛物二百段、良马一匹。
贞观十五年(641)，太宗下诏，准备去泰山行封禅礼，主管的官吏与公卿和诸儒博士一起详定封禅仪式，太常卿韦挺、礼部侍郎令狐德..任封禅使，当时的舆论者争相发表不同见解。师古上奏说“：臣撰定的《封禅仪注书》在贞观十一年(637)春修成，当时诸儒参与评议，认为适中。”于是太宗诏令公卿审定师古新撰封禅仪注可否，大家多依从师古的说法，然而泰山封禅礼最终没有成行。师古不久升任秘书监、弘文馆学士。贞观十九年(645)，师古跟随太宗东巡，在途中病故，时年六十五岁，谥号为戴。有文集六十卷。他所注释的《汉书》和《急就章》，在当时广为流传。永徽三年(652)，师古的儿子颜扬庭任符玺郎，又上表奏呈师古所撰的《匡谬正俗》八卷。高宗下诏令将书交付给秘书阁，依例赐给颜扬庭帛五十匹。