太清二年（548年），侯景之乱爆发，叛军攻陷建康，梁武帝被困台城，南朝陷入大乱。此时徐世谱任衡州刺史，驻守长沙，听闻都城危急，立即召集家族私兵与州郡水师，共得战船三百余艘、士兵万余人，顺江东下驰援。侯景派部将任约率军进攻江夏（今湖北武汉），意图控制长江中游。徐世谱率军赶至，与梁将胡僧佑合兵一处。他利用江夏江面狭窄的地形，将战船分为“前突、中守、后援”三队，前队以蒙冲舰冲撞叛军战船，中队用强弩射击，后队则灵活支援。战斗中，徐世谱亲自擂鼓助威，叛军战船被撞沉数十艘，任约大败而逃，江夏之围得解。此役后，徐世谱因功被封为使持节、信武将军。侯景不甘心失败，又派大将宋子仙率军数万，战船千余艘，进攻栅口（今安徽无为东南），企图切断梁军粮道。徐世谱率军迎战，他深知叛军战船虽多但阵型散乱，于是采用“火攻奇袭”之计：挑选百名精锐水手，驾驶十艘小型快船，船上满载油脂、柴草，趁夜顺风向叛军战船驶去。接近敌舰后，水手点燃柴草，快船直冲敌阵，徐世谱则率主力战船随后冲杀。叛军战船相连，火势迅速蔓延，士兵大乱，宋子仙仅率数艘战船逃脱。此役，徐世谱烧毁叛军战船七百余艘，斩杀敌军万余人，彻底稳固了长江中游防线，为后续平叛奠定基础。大宝三年（552年），陈霸先、王僧辩率军反攻建康，徐世谱率水师沿长江东进，配合主力作战。他率军攻占叛军占据的石头城水军要塞，断绝叛军水上退路。在建康城外的决战中，徐世谱水师从后方突袭叛军，与陆军夹击，叛军腹背受敌，全线溃败，侯景之乱终被平定。平乱期间，徐世谱“大小数十战，未尝败绩”，因战功卓着，被封为通直散骑常侍、衡州刺史，封鱼复县侯，食邑五百户。
侯景之乱后，南朝政权更迭频繁，陈霸先逐渐崛起，徐世谱识时务，主动归附陈霸先，成为其麾下重要将领。他凭借精锐水师，多次助陈霸先平定内乱、抵御外敌，为陈朝建立立下汗马功劳。永定元年（557年），陈霸先废梁建陈，王僧辩余部王琳在郢州（今湖北荆州）起兵反叛，拥兵十万，战船数千艘，企图夺回建康。徐世谱奉命率军抵御，他驻守武昌，利用长江天险，在江面设置铁链、铁锥，阻挡叛军战船东进。王琳率军进攻武昌，徐世谱坚守不出，同时派小股水师袭扰叛军粮道。叛军久攻不下，粮草断绝，军心涣散，徐世谱趁机率军出击，大败王琳，斩杀叛军两万余人，缴获战船三百余艘，彻底平定王僧辩余部叛乱。陈永定二年（558年），北齐趁陈朝初立，派大将萧轨率军十万，联合叛将徐嗣徽，从陆路和水路同时进攻陈朝。徐世谱率水师迎战北齐水军，在梁山（今安徽和县南）江面展开激战。他针对北齐战船高大但笨重的特点，派轻便战船绕至敌军后方，袭扰其补给线，同时亲自率领主力战船正面进攻，用撞舰撞击北齐战船，北齐水军大乱，战船相互碰撞，死者不计其数。徐世谱率军追击，斩杀北齐将领慕容恃德，俘虏敌军三千余人，大败北齐水军，为陈朝抵御外敌入侵立下大功。
陈朝建立之后，徐世谱凭借其卓越的战功，被封为安西将军、护军将军，成为陈朝军事领域的核心人物之一。他的一生充满了征战与荣耀，但也伴随着无数的伤痛和困苦。
徐世谱在战场上身经百战，历经无数次激烈的战斗。他的身体多次遭受重创，身上留下了二十余处伤痕。每当阴雨天气来临，这些旧伤就会发作，给他带来难以忍受的剧痛。然而，即使面对如此巨大的痛苦，徐世谱依然坚守在自己的岗位上，毫不退缩。
徐世谱深知水军对于陈朝的重要性。他意识到，在江河水域众多的陈朝，拥有一支强大的水师是保卫国家的关键。因此，他积极主持整顿陈朝的水师，并致力于改良战船装备。
他首先将传统的战船进行改造，将其升级为更为先进的“楼船”。这种楼船不仅体积更大，而且在船上增设了箭楼和投石机等武器装备，大大增强了战船的攻击力。此外，他还