郑虔，郑州荥阳人。天宝初年，任协律郎采集当时世事，著书八十余篇。有人偷看了他的文稿，就上书告郑虔私自修撰国史，郑虔慌忙地烧掉了它，因此事被贬谪十年。后来回到京城，玄宗爱他的才华，想让他在身边任职，因为他不干事，改为安置在广文馆，以郑虔为博士。
郑虔听到任命，不知广文馆是管什么的。
问宰相，宰相说：“皇上为加强儒学，设置广文馆，以集聚贤人，使后代说广文博士之职是由你开始的，这不是一件美事吗？”郑虔才就职。时间长了，雨水腐蚀了房屋，有关部门不再修葺，就寄居治事于国子馆，广文博士之职从此就废止了。
当初，郑虔追记辑录可以记忆的旧书得四十八篇，国子司业苏源明题其书为《会粹》。郑虔善画山水，喜欢书法，常常苦于无纸，而慈恩寺贮存了几屋子柿叶，就每日去取叶练习书画，年久几乎写遍了这些柿叶。曾自写其诗及画进献，玄宗用大字在书画后写道“：郑虔三绝。”
升为著作郎。
安禄山反叛，派张通儒劫持百官置于洛阳，贼任郑虔伪职为水部郎中，因自称有风疾而未到任，要求为代理市令，暗中以秘密奏章送达灵武。贼乱平定，与张通、王维一起被囚禁于宣阳里。这三人都善做画，崔圆命他们在书斋中做壁画，郑虔等正惧怕被处死，就极力想求救于崔圆，终于被免了死罪，郑虔贬为台州司户参军事，王维只做降职处理。几年后郑虔死。
郑虔之学长于地理，举凡山川的险易、边境要地的物产、戍边兵员的多少，无不详熟。曾著《天宝军防录》，文字典雅，事实详备。许多儒学家佩服他会写书，当时号称“郑广文”。居官十分清贫节俭，不求名利。杜甫曾赠诗说：“才名四十年，坐客寒无毡。”
有个叫郑相如的人，从沧州来，以师礼侍奉郑虔，虔未以礼相待，一会儿问他所习何业，郑相如说：“闻孔子说：‘继周者百世可知。’我也能知道。”郑虔甚感惊骇，相如接着说：“开元三十年后当改年号，十五年后天下要乱，贼臣要僭位称帝，您会为伪官所污，希望您能谨守臣节，可以免祸。”郑虔又问：“你自己又会怎样呢？”相如答说：“我可做三年官，死于衢州。”这一年郑相如考中进士，任信安县尉。三年后，郑虔向吏部询问，相如果然死去，所以郑虔记着他的话，终于没有归附逆贼。