刘子玄，原名知几，楚州刺史刘胤之的族孙。年少时与兄知柔都以擅长词学著名，二十岁考取进士，被封为获嘉主簿。证圣初年(695)，朝廷令九品以上的文武官员谈时政得失，知几上书陈述四事，语词非常恳切率直。当时官场虚假而法网严密，读书人竞相趋进却多遭杀害，知几于是著《思慎赋》，针贬时弊，表述见解。凤阁侍郎苏味道、李峤读了《思慎赋》后高兴地说：“陆机《豪士》怕不及也。”
知几在长安多次升迁为左史，兼撰写国史。升为凤阁舍人，依旧著史。景龙初年(707)，再转为太子中允，仍然著国史。当时侍中韦巨源和纪处讷、中书令杨再思、兵部尚书宗楚客、中书侍郎萧至忠一起监修国史，知几认为监修的人太多，实在是撰史的弊病，肖至忠又曾经指责知几著述没有一定的标准，知几于是上书给至忠，请求罢免史任。
至忠怜惜知几的才学，不同意解除史任。宗楚客嫉妒知几的正直，对各位史官说“：此人著书如此这般，想置我于何地？”
当时知几又著《史通子》二十卷，充分阐述史策的体裁。太子右庶子徐坚非常看重这本书，曾经说：“任史职的人，应该将此书放置座右。”知几自负史才，常常慨叹时代无知己，于是将国史委托给著作郎吴兢，自己另外撰写《刘氏家史》十五卷、《谱考》三卷。推究汉氏为陆终的后代，不是尧的后代。彭城、丛亭里诸刘，是宣帝的儿子楚孝王器的曾孙司徒居巢侯刘恺的后代，不是接续楚元王交。都考察明白，纠正了前代的错误，虽然被一般人所讥讽，但学者佩服他的博学。起初，知几经常说如果得以受封，一定用居巢作为名字，用来接续司徒家族；后来因修《则天实录》有功，果然被封为居巢县子。又乡人因为知几兄弟六人考取进士，文章学问著名，改他们所在的乡里名为高阳乡居巢里。
景云中(709)，知几多次升太子左庶子，兼崇文馆学士，仍旧修国史，加封银青光禄大夫。当时玄宗在东宫，知几因姓名音读类似皇上的名字，于是改名为子玄。第二年，皇太子准备亲自定位于国学，有司起草礼节记载，使随从臣子都乘马着衣戴帽，子玄进言(略)。
皇太子手令付外公开执行，仍然编入命令，定为常规。
开元初年(713)，子玄升为左散骑常侍，修史依旧。九年(721)，长子贶为太乐令，触犯刑律被发配流放。子玄命令主持政事者诉说道理，皇上知道了非常生气，于是降子玄为安州都督。子玄主管国史，前前后后二十多年，撰述很多，颇为当时人所称道。礼部尚书郑惟忠曾经问子玄“：自古以来，文士多而史才少，为什么？”子玄回答说“：史才必须具备三个长处，世上没有这样的人，所以史才少。三个长处：称之为才、学、识。有学而无才，也就如有良田万顷，黄金满鬭，却让愚蠢的人经营，最终不能成为经商的人。如果有才而无学，就好比想着木料石头，像公输一样能干，但家中没有木便木冉斧斤，最终不能成为建造宫室的人。史才还要应是正直，善恶都写，使骄主贼臣，因此知道害怕，这就如虎添翼，善无可加，所向无敌了。如果没有这些才能，不能担任史任。自古以来，能符合这些条件的人很少见。”当时人们认为这是聪明之言。子玄到安州，没有几年就去世了，享年六十一岁。子玄自小到老，著述作文从不倦怠，朝拜皇上时有论著，一定被授官职。子玄准备撰写《三教珠莫》、《文馆词林》、《姓族系录》，阐述《孝经》不是郑玄注释、《老子》不是河上公注释，撰写《唐书实录》，有文集三十卷。数年后，玄宗下令河南府有学识者写《史通》进献，玄宗读了认为子玄的著述很好，追封子玄为汲郡太守，后又追封工部尚书，谥号文。