刘幽求，冀州武强人。圣历初年(698)，应试中举，拜闻中县尉。刺史不承接，便弃官而归家。过了相当一段时间，又授朝邑县尉。当初，桓彦范、敬晖等虽然杀了张易之兄弟，但未杀武三思。刘幽求对桓、敬二人说：“三思尚存，公等恐怕日后是死无葬身之地。如果不早考虑谋划，日后后悔就来不及了。”桓、敬二人不听从他的话，后来果然被武三思诬陷，死于岭外。
到韦庶人将要篡权，刘幽求与玄宗谋划杀了韦氏，于是与苑总监钟绍京、长上果毅(武官职称)麻嗣宗和太平公主之子薛崇日柬等深夜入宫诛杀讨平了韦氏。这天夜晚皇上下圣旨百余道，都是刘幽求写的。凭他的功升任中书舍人，令参与主持机务，赐爵中山县男，食实封二百户。第二天，又授他的两个儿子五品官，祖父、父亲一同追赠刺史。
睿宗即位，加荣誉之职银青光禄大夫，担任尚书右丞职务，仍主持政事，并晋封徐国公，加实封通前共五百户，赐彩千段，奴婢二十人，住宅一区，地十顷，马四匹，外加银杂器。景云二年(711)，刘幽求调任户部尚书，罢去主持政务的权力。一月有余，又调任吏部尚书，拜侍中。皇上降玺书说“：过去，王室无作为，中宗厌世，外戚专政，奸臣把持朝政，国家处危亡之际，朕自己与王公，都险遭祸难。卿见危思奋，在变化的形势下能灵活变通。辅助太子，协调义士，共同歼灭元凶恶徒。国家的复存，全靠此举，所以现在委卿以重任，赐封爵位，加赐卿实封二百户，并原来的共七百户。使子子孙孙，永远相传。又因卿为国家不顾个人安危，故特免卿十死罪，并书于金铁券上，传于后代。”
先天元年(712)，刘幽求拜尚书右仆射，代理宰相，监修国史。他原自谓对朝廷有大功，超过朝臣，想到自己会任左仆射，兼中书令。不久，窦怀贞被任命左仆射，崔..任命中书令，幽求心中很是不平，在言语表情上流露出来，而崔..又依附太平公主，将谋划叛乱。刘幽求便与右羽林将军张日韦请求用羽林兵诛杀他们，令张日韦密奏玄宗“：宰相中有崔..、岑羲，都是太平公主安插进来的，如果他们在内策应，不可小视。陛下如果不趁早处理，必成大患。一旦事出意外，太上皇何以得安？古人说：‘当断不断，反受其乱。’请求能尽快杀掉此贼。幽求已和朝臣定好计谋，愿以身正此事，赴死如归。臣既任职掌管禁兵，只要殿下下令，即剪除此贼。”玄宗觉得很对。张日韦又泄漏这一消息让侍御史邓光宾知道。玄宗大惧，马上把这事讲了，睿宗把刘幽求抓进狱中，令法官审理。法官认为刘幽求挑拨离间亲人，罪当死。玄宗多次相救获免，于是流放到封州，张日韦流放到峰州。
一年多，太平公主伏诛，当天皇上下诏：嘉奖刘幽求的功劳，官复原职，依旧为金紫光禄大夫，任尚书左仆射，主管军国大事，监修国史，赐爵上柱国、徐国公，依旧还封七百户，并赐锦衣一袭。
开元初年(713)，改尚书左右仆射为左右丞相。刘幽求授尚书左丞相，兼黄门监。不久，任太子少保，罢免宰相职务。姚崇一向嫉妒刘幽求，便奏言刘幽求对现在的职务不满意，兼有怨言，于是被贬到崇州任刺史，削去实封六百户。又过了一年多，调任杭州刺史。开元三年(715)，转任桂阳郡刺史，在赴任途中忧愤而死，享年六十一岁，赠礼部尚书，谥号文献，配享睿宗庙廷。建中三年(782)，重赠司徒。