辛云京是兰州金城人，移居京兆府，世代都任将领。辛云京有胆量和决断，抓俘虏和杀死敌人常为全军第一，积累功劳被任命为特进官、太常卿。
史思明驻军相州，辛云京率精兵四千名袭击滏阳，追击打败了敌军，打到了浪井。因功多，被封为开府仪同三司，加官代州都督、镇北兵马使。
太原军队发生了动乱，皇帝讨厌邓景山管理部下不能防患未然，因辛云京生性沉着坚毅，因此任命他为太原尹，升任金城郡王。辛云京治军执法严格，部下触犯了军法，即使一点点也不宽容，奖赏功劳也一样，因此兵将害怕并信赖他。
回纥仗着已有的功劳，每次到唐境内来，所到之处都大肆抢劫。到了太原，辛云京用对异族的方法对待他们，回纥害怕不敢乱动。几年之间，太原治理得很好。
后升任检校尚书右仆射、同中书门下平章事。
大历三年(768)，任检校右仆射。后去世了，享年五十五岁。唐代宗追悼他时流下了眼泪，赠官为太尉，赐谥号叫忠献。后来，郭子仪、元载拜见皇帝时，谈到辛云京，皇帝必定流眼泪。到他下葬时，皇帝命宦官吊唁祭祀，当时将领、宰相去祭祀的有七十多个帐幕，丧车过了一个时辰才能上路。唐德宗时，排列至德年以后的将领和宰相，辛云京排在第二位。