张元济为商务印书馆主编《四部丛刊》正续编及三编后，又致全力于《百衲本二十四史》的校刊。此后就把丛书的整理工作，交给了王云五。王一方面主编《万有文库》一、二集，一方面又从事《丛书集成》的编辑。这时尚在一九三五年，选定最有学术价值的丛书一百部，先行出版，定名《丛书集成初编》，嗣后再出二编、三编，和《四部丛刊》《万有文库》一样，陆续出版，以期集古今丛书之大成。当时曾刊《丛书集成初编目录》一书，作为宣传，刊载辑印丛书集成初编缘起，原文很长，兹摘录一段如下：“半载以还，搜求探讨，朝斯夕斯，选定丛书百部，去取之际，以实用与罕见二者为标准，而以各类具备为范围。别为普通丛书、专科丛书、地方丛书三类，各分为若干目。普通丛书中，宋代占二部，明代二十一部，清代五十七部。专科丛书中，经学、小学、史地、目录、医学、艺术、军学诸目合十二部。地方丛书中，省区郡邑二目各四部。其间罕见者如元刊之《济生拔萃》、明刊之《范氏奇书》《今献汇言》《百陵学山》《两京遗编》《三代遗书》《夷门广牍》《纪录汇编》《天都阁藏书》等，清刊之《学海类编》《学津讨原》等。虽其中间有删节，微留遗憾，要皆为海内仅存之本，残圭断璧，世知宝贵，今各图书馆藏书家斥巨资求之而不可得者也。至若清代巨制，如武英殿聚珍版、知不足斋、粤雅堂、海山仙馆、墨海金壶、藉月山房、史学、畿辅、金华等，原刻本每部多至数百册，内容丰富精审，皆研究国学者当读之书，所谓合乎实用者，其信然矣。”又云：“综计所选丛书百部，原约六千种，今去其重出者千数百种，实存约四千一百种。原二万七千余卷，今减为约二万卷。以种数言，多于《四库全书》著录者十之二；以字数言，约当《四库全书》著录者三之一。命名《丛书集成》，纪其实也。”
原来初编丛书百部中，如有一书，频见于数丛书中的，就取最足之本。同属足本，没有校注的，取最早出之本，有校注的，取最后出之本。名同而实异的，兼收并蓄。名异而实同的，择善刊入，而注其异名。缘起谓六千种去其重出，实存约四千一百种，实则四千一百种，确数为四千零六十四种。排印以五号字为主，有不宜排印的，那就改为影印，版式宽市尺三寸五分，高五寸二分，与《万有文库》完全相同。纸张用道林纸和新闻纸两种，普通本分装四千册，精装本分装一千册。一九三五年五月起发售预约，预约价普通装道林纸本四百六十元，新闻纸本三百元。精装本道林纸的一千元。自一九三五年十二月起，原拟每隔半年出书二期，第一期一百三十一种，四百册，第二期五百零三种，八百册，第三期七百五十种，八百册。不料出至第三期后，“八一三”沪战爆发，商务印刷厂地处战区，无法继续印书。后在租界另设工场，并求助于香港分厂，把没有刊出之书，重行发排，但生产力已大不如前。直至一九三八年六月续出第四期书，三百零一种，四百册。一九三九年六月，出第五期书，四百三十五种，四百册。一九四〇年初，续出第六期，八百二十八种，六百册。尚有第七期书一千一百十六种，六百册，预计一九四一年可以如数出齐，奈香港沦陷，分厂无能为助，上海日寇进入租界，业务完全停顿。所有制成的书版，无法付印，已印成的书页，无法装订，东搬西移，损失很多。抗战胜利之后，第七期印成书，已为数不多，且须清偿预约户，加之逐年配发，逐年减少。解放后，发行移归新华书店，到一九五四年四月，商务转入公私合营，第七期书只留一百多种，六十七册，即前一至六期书亦告残缺。一九五九年古籍书店为了配成整部，供应读者需要，和商务联系，有补印《丛书集成》缺书之举。在征求预约广告中，有全部共计三千四百六十七册云云，实非全璧，尚缺约一千种，五百三十三册。初编丛书百部，未能齐全，确甚感遗憾。