徐温字敦美，海州朐山人。青年时以贩盐而为强盗。杨行密起兵合肥时，徐温隶属其帐下。与杨行密共同起事的刘威、陶雅等人，号称三十六英雄，唯独徐温未曾有战功。一直到杨行密要杀朱延寿等人，徐温采纳其门客严可求的计策，让杨行密假装眼睛有病，事情成功后，徐温因功升迁右衙指挥使，开始参予谋议。
杨行密病重时，平生的旧将都在外作战或防守，只有徐温一人在内，于是参予了杨渥继立之事。后来弑杨渥后，又与张颢有矛盾，派钟章袭杀张颢。钟章同意后，挑选了三十个壮士，宰牛烹羊，刺血立誓。徐温还是怀疑钟章不果断，半夜派人去试探钟章的意图，佯装对钟章说“：徐温上有老母，害怕事情不成功，不如暂且中止。”钟章说：“话已经说出口，难道还可以停止吗？”徐温于是放下心来。第二天，钟章刺杀了张颢，徐温趁机将纪祥等人全部杀掉，并把弑杀杨渥之罪转嫁给张颢，将这些事禀告杨渥的母亲史氏。史氏胆战心惊地哭着说“：我儿子年龄小，居然遭到这样的祸乱，若能保护我们全家归还合肥，就是你的大恩大德了。”
杨隆演继立，徐温专政，升迁为升州刺史，在金陵训练水师。大将李遇对徐温的专权很愤怒，说出不恭敬的话，徐温派柴再用在宣州族杀李遇。杨行密的旧将人人自危，徐温假装卑下，见到这些人如同见到杨行密，恭谨备至，诸将方才放心。天..八年(911)，徐温升为行军司马、润州刺史、镇海军节度使、同平章事。天..十年(913)，派遣招讨使李涛进攻吴越，会战临安，副将曹筠投降吴越军，李涛战败被俘。徐温暗中派人对曹筠说：“我用你为将，你军有所求，我没有给你，这是我的过错。”并赦免曹筠的妻子儿女，不仅不杀，还厚待他们。这年秋天，吴越进攻毗陵，徐温与之战于无锡，曹筠被徐温以前的话所感动，临战奔归徐温，于是打败了吴越军。天..十二年(915)，吴封徐温为齐国公，兼任两浙招讨使，开始镇领润州，以升、润、宣、常、池、黄六州为齐国。徐温居住升州，设立大都督府。天..十四年(917)徐温迁治金陵，以他的儿子徐知训在广陵辅佐杨隆演，但大事都是徐温遥为决定。徐知训被朱瑾杀死，徐温的养子徐知诰从润州先入广陵，得专政事。
徐温虽然奸诈多疑，但长于任用将吏。江西刘信围攻虔州，久攻不下，派人劝说守将潭全播出降，又派使将此事上报徐温，徐温发怒说：“刘信以十倍于敌之众，攻不下一城，反而派人劝降，凭什么威震敌国呢？”并笞打使者，说：“我这是笞打刘信。”使者被遣回。又令增派军队，于是攻破谭全播。有人诬陷刘信逗留，私下放走谭全播，并说刘信要谋反。刘信听到这些话后，亲自到金陵见徐温，报告战绩，徐温与刘信赌博，刘信拿起骰子高声祈祝说：“刘信若要背叛吴国，愿为恶彩，如果没有二心，一定是浑花。”徐温赶忙阻止。刘信一掷，六个骰子都是红面，徐温很羞愧，亲自斟酒给刘信喝，但始终对刘信有疑心。等到唐军进攻王衍时，徐温急忙将刘信召到广陵，任为左统军，假托在国内防备敌军，实际上剥夺了刘信的守地。
徐温的门客最被信任的，只有骆知祥、严可求二人。严可求擅长出谋划策，骆知祥长于聚财兴利。军旅之事，徐温经常询问严可求，国家财用，则经常请教骆知祥，吴国人称之为“严骆”。徐温也高兴自己被认为有智谋，特别赢得吴国人的心。起初徐温跟随杨行密击败赵..时，其他将领都争抢金帛财物，唯独徐温占据余留的粮仓，煮粥给饥饿者吃。天..十六年(919)，徐温呈请杨隆演即皇帝位，隆演不许。又请即吴王位，隆演才接受。于是建国改元，拜徐温为大丞相、都督内外诸军事，封东海郡王。杨隆演死后，徐温越位立隆演弟杨溥即位。顺义七年(927)，徐温又请杨溥即皇帝位，杨溥尚未同意，徐温即病死，时年六十六岁，被追封齐王，谥武。李繮称帝，尊徐温为义祖。