太祖之讨吕布也，霸等将兵助布。既擒布，霸自匿。太祖募索得霸，见而悦之，使霸招吴敦、尹礼、孙观、观兄康等，皆诣太祖。太祖以霸为琅邪相，敦利城、礼东莞、观北海、康城阳太守，割青、徐二州，委之于霸。太祖之在兖州，以徐翕、毛晖为将。兖州乱，翕，晖皆叛。后兖州定，翕、晖亡命投霸。太祖语刘备，令语霸送二人首。霸谓备曰：“霸所以能自立者，以不为此也。霸受公生全之恩，不敢违命。然王霸之君可以义告，愿将军为之辞。”备以霸言白太祖，太祖叹息，谓霸曰：“此古人之事而君能行之，孤之愿也。”乃皆以翕、晖为郡守。时太祖方与袁绍相拒，而霸数以精兵入青州，故太祖得专事绍，不以东方为念。太祖破袁谭于南皮，霸等会贺。霸因求遣子弟及诸将父兄家属诣邺，太祖曰：“诸君忠孝，岂复在是！昔萧何遣子弟人侍，而高祖不拒，耿纯焚室舆榇以从，而光武不逆，吾将何以易之哉！”东州扰攘，霸等执义征暴，清定海岱，功莫大焉，皆封列侯。霸为都亭侯，加威虏将军。又与于禁讨昌豨，与夏侯渊讨黄巾余贼徐和等，有功，迁徐州史。沛国公武周为下邳令，霸敬异周，身诣令舍。部从事謥詷不法，周得其罪，便收考竟，霸益以善周。从讨孙权，先登，再入巢湖，攻居巢，破之。张辽之讨陈兰，霸别遣至皖，讨吴将韩当，使权不得救兰。当遣兵逆霸，霸与战于逢龙，当复遣兵邀霸于夹石，与战破之，还屯舒。权遣数万人乘船屯舒口，分兵救兰，闻霸军在舒，遁还。霸夜追之，比明，行百余里，邀贼前后击之。贼窘急，不得上船，赴水者甚众。由是贼不得救兰，辽遂破之。霸从讨孙权于濡须口，与张辽为前锋，行遇霖雨，大军先及，水遂长，贼船稍近，将士皆不安。辽欲去，霸止之曰：“公明于利钝，宁肯捐吾等邪?”明日果有令。辽至，以语太祖。太祖善之，拜扬威武将军，假节。后权乞降，太祖还。留霸与夏侯惇等屯居巢。
　　文帝即王位，迁镇东将军，近爵武安乡侯，都督青州诸军事。及践阼，进封开阳侯，徙封良成侯。与曹休讨吴贼，破吕范于洞浦，征为执金吾，位特进。每有军事，帝常咨访焉。明帝即位，增邑五百，并前三千五百户，薨，谥曰威候。子艾嗣。艾官至青州刺史、少府。艾薨，谥曰恭侯。子权嗣。霸前后有功，封子三人列侯，赐一人爵关内侯。而孙观亦至青州刺史，假节，从太祖讨孙权，战被创，薨。子毓嗣，亦至青州刺史。