南社为革命性的文学集团，在清廷严密监视之下，于一九〇九年十一月十三日在苏州虎丘张公祠举行成立大会，参加者十七人，俞剑华便是其中之一。柳亚子的《南社纪略》便有那么一段记载：“在会期前四天，阳历十一月九日（旧历九月廿七日），我就赶到了苏州。老朋友太仓俞剑华、冯心侠也来了，住在阊门外惠中旅馆，热闹了好几天。”并列姓名、籍贯、履历于下：“俞剑华，名锷，一名侧，字则人，一字建华，别字一粟，江苏太仓人，中国同盟会会员”。
他发表诗文，总是署名剑华，由“建”“剑”谐声而来。这时，南社博屯艮号君剑，高天梅号钝剑，潘兰史号剑士，因有南社四剑之称。剑华生于一八八六年丙戌十一月初七日。同时有同姓名的俞剑华，那是山东济南人，为丹青家，从陈师曾游，得其神髓，辑有《中国绘画史》，固亦驰誉于大江南北，生于一八九五年，年龄较小九岁。有一次，两位剑华，在沪上相晤，合摄一影，太仓剑华微髭，立于右，济南剑华立于左，相映成趣。
剑华居娄东南牌楼街，厅堂宏敞，屋舍数间也很雅致。他倦游归来，息影家园，吟啸自遣，诗什中时露牢骚抑郁。如云：“万方多难独登楼，枨触人天百感秋。烛尽残宵难入梦，酒多困境未消愁。”又有“焚琴竟老英雄气，弹铗终惭口腹谋”等，都作颓丧衰飒语。原来他具革命思想，大有心雄万夫、澄清中原之概。一度任福建省立图书馆馆长，此后迭遭挫折，百无一成，愤懑之余，不觉形诸笔墨。不久原配夫人王氏病殁，他笃于伉俪，奉情伤神，更影响他的健康，既而病废，四肢麻痹，不能行动，且常患头风。里有何姓者某，好谈医理，因问治疗头风之方，何戏答：“伤脑一洗可愈。”剑华乃有“何当快读陈琳檄，抵得华佗一割无”之句。他既病废，而又家无恒产，生活成为问题。幸有一个儿子，英俊秀发，崭然露头角，由故人叶楚伧推荐，供职某机关，以薪俸所入，支持门庭。无奈剑华病情恶化，医治无效，于一九三六年逝世，终年五十岁。殡殓卜葬，赙金有限，未克应付，适其戚某来吊。某擅堪舆，谓：“这宅大不吉利，不如把它卖掉，得款以了丧务。”儿子听从了他，屋便易主了。遗著有《剑华集》《蜚景集》《荒冢奇书》《考古学通论》《翩鸿记》等。《翩鸿记》为传奇体，共分十出，如钗叙、酒楼、社哄、谒秋、告陵、闺思、征梦、劝妆、写笺、投荒，曾载《七襄》杂志，没有刊单行本。
他生平喜《梦窗词》，随身携带，绘有《小窗吟梦图》，广征题咏。有一征辞小启，为《南社丛刻》所未载，当时胡朴安前辈和我喜搜罗南社文献，把这小启寄给我，兹将原文录于下，藉知剑华对于词学的见解：“予始负笈游日本，于同学茅子处，藉得全唐集中词一卷，读而好之，偶有所触，辄效其制，虽未能仿佛一二，而意之所届，惘乎若不胜其幽忧者。既归，遍读两宋人词，于梦窗尤瓣香私淑，手之不忍朝夕弃，每出治行李，必首捧诸箧，垂二十年如一日。尝称其有秦柳之温腻，而不流于靡，有苏辛之沈雄，而不放于粗，神韵如美成，而句无俳谐，隽爽如白石，而字少生硬，风人之旨丽以则，纯乎其无间也。世之谈词者，类多夸尚于苏、秦、姜、史诸名家，罕有及于吴氏者，宁惑于玉田生《七宝楼台》之一语耶！或未探其堂奥乎！予既奔走南北，宿昔所志，荡然若梦，退而集唐以来乐府余绪，窃欲寻声按谱，以索二十八调之原，起古乐于未坠，以希或有所获，沈潜耽玩，至于梦想颠倒，极劳悴于斯。试检所为，复无几微之似，但觉风雨奔集，涕泗横流而已。呜呼！人何往而非梦，世何适而罔悲哉。历观古作，大抵乐不胜哀，性真所造，亘千百载，畴不蒙于其所梦，而灵均以独醒死，伯伦以长醉终，一骚一颂，均之为梦。畴又知其究竟之孰醉而孰醒。爰于今岁癸亥，乞海上朱天梵先生作《小窗吟梦图》，非敝帚之足珍，窃比于范金铸岛之义，图像维摩诘室，袈裟趺跏，芭蕉一窠，高梧三两，盖先以小词为引也。癸亥为历数之终，予梦之呻，将于是年息，幸也天不竟其寿，悠悠心魂，随甲子之新纪元以他瞩，情之所系，寄之于心，心之所系，寄之于声，声之所系，寄之于梦，即视作梦语可也，辱交诸君子，倘不嗤鄙之而下教焉，一辞之锡，荣于十赍，企予望之。”