王丘，是光禄卿王同皎的堂兄的儿子。父亲王同日至，左庶子。王丘十一岁时，应童子科考试登第，当时所有的童子都是以背经文应试，只有王丘独以文章考中，因此知名。他二十岁时，又应试中举，拜奉礼郎。王丘神气清古，而且志行修洁，特别善于词赋。族人左庶子王方庆和御史大夫魏元忠皆称扬推荐他。长安年中，他由偃师主簿提拔，拜监察御史。
开元初年(713)，调任考功员外郎。原先，考功举人，开后门拉关系盛行，取士很滥，每年达数百人之多。王丘一一复核材料，登科的仅只有一百人。人们议论，认为从武则天以后数十年，没有谁能赶得上王丘的，其后席豫、严挺之再其次。王丘三任紫微舍人，以主管制诰的勤谨，加朝散大夫之职，又调任吏部侍郎。选拔人才多年，都很公平恰当，他提拔任用了山阴县尉孙逖、桃林县尉张镜微、湖城县尉张晋明、进士王泠然，都被世人称为一时之秀。不久换职尚书左丞。
开元十一年(723)，王丘任黄门侍郎，那一年，山东大旱歉收，朝廷从朝臣中选刺史去安抚贫民，下旨道：“古代咎繇对大禹说：‘在知人，在安人。’这都是说心上想着国家的根本，光大帝业，小心谨慎，无一日遗忘。但是长吏中有不称职的，百姓中有不能安生的，朕深思依循良好的政治，来矫正过失，依旧要很重视诸侯的选拔。”这样就派王丘为怀州刺史，又派中书侍郎崔沔等数人都去任山东诸州的刺史。到任，皆没有什么可称道的，只有王丘在职清严，官民又敬又畏。不久，又分管吏部选拔人才的工作，入台阁任尚书左丞。父丧去职，期满，拜右散骑常侍，仍管天子的诏书等制诰之事。
开元二十一年(733)，侍中裴光庭病卒，中书令肖嵩与王丘有老交情，将推荐王丘任宰相，王丘得知坚决辞谢，并且极力推荐尚书右丞韩休，肖嵩也固请上奏，到韩休做了宰相，便推荐王丘代崔琳任御史大夫。王丘因不善言辞，奏对多不称皇上的心意。不久调任太子宾客，袭父爵为宿预男。不久带病拜任礼部尚书，后告老还乡。
王丘虽然历任要职，但却固守清廉，从不受人馈送，住宅车马，均是很敝陋的。辞官归田以后，病了连吃药的钱都有困难。皇上闻知而赞叹，下书道：“王丘一向富有才华，累升要位，由于多病，借此辞官在家。闻其家道屡空，医药不给，长期做官，竟无余资。持操如此，离古圣人何远！王丘俸禄，应当全给，以此来表示殊常的待遇，用来表彰廉洁之吏。”天宝二年(743)去世，追赠荆州大都督。