牛仙客，泾州鹑觚人。最初任县小吏，县令傅文静非常器重他。傅文静后来担任陇右营田使，召引牛仙客参加计划制定工作，因立军功多次转为洮州司马。开元初年(713)，王君..任河西节度使，让仙客任判官，非常信任他。当时又有判官宋贞，与牛仙客都是王的心腹。等王君..死了，宋贞也被回纥杀害，仙客由于没有参与而获免。不久肖嵩代替君..，担任河西节度使，又将军政大事托给牛仙客。牛清正勤奋从不倦怠，接待上下，定守信用。等肖嵩主持政事时，多次称赞推荐他。逐渐升为太仆少卿，兼任凉州别驾事，继续主持节度留后事。最后代替肖嵩任河西节度使，兼任凉州刺史。历任太仆卿、殿中监，军使如故。
开元二十四年(736)秋，代替信安王..为朔方行军大总管，右散骑常侍崔希逸代替牛仙客主持河西节度事。先前，牛仙客任河西节度时，节省开支积蓄极多，崔将这件事上奏，皇上令刑部员外郎张利贞快马前往查讯。牛所积蓄仓库盈满，器械精锐强劲，都如崔所说。皇上很高兴，任仙客为尚书。中书令张九龄上奏认为不合宜，于是加实封二百户。这年十一月，张九龄等人停止主持政事，于是牛任工部尚书，同中书门下三品，继续主持门下事。当时有监察御史周子谅私下对御史大夫李适之说“：牛仙客没有才气，滥登相位，大夫国之懿系，怎么能望观其事呢？”李适之立即将子谅的话上奏，皇上大怒，朝廷审讯这件事，周子谅没话可说，在朝廷大堂决定发配流放氵襄州，走到蓝田就死了。
牛仙客不久身居相位，独善其身，惟惟诺诺而已。所有赏赐，都缄封不启。百司商议如何处理政务，牛仙客说：“只依照标准就可以了。”不敢施行裁决。第二年，牛被特地封为豳国公，追封他的父亲意为礼部尚书，祖父会为泾州刺史。不久又升任侍中，兼兵部尚书。这年七月去世，终年六十八岁。皇宫拿出一千匹绢、五百端布派中使送到住宅用来帮助料理丧事，追封牛仙客为尚书左丞，谥号贞简。
先前，牛仙客任朔方军使，使姚崇的孙子闳任判官。等到牛主持政事，闳多次迁为侍御史，自称能通鬼道，预知美善与灾祸。牛仙客非常相信迷惑这件事。等到病重时，闳请求为牛祈祷，在牛门下，逼迫牛写下遗书，推荐闳的叔叔尚书右丞弈和兵部侍郎卢奂代替牛的位置，闳帮忙起草。牛当时危在旦夕，不能动笔，他的妻子乘中使来慰问时，将此事表上。玄宗知道后非常恼怒，降弈为永阳太守，卢奂为临淄太守，赐闳死罪。