史涣少年时就已经有任侠之风。在曹操开始发迹的时候,史涣就以门客的身份跟从曹操,任中军校尉。此后史涣就一直随着曹操东征西讨,多立战功。曹操任丞相时,置领军一职,由史涣担任,后更名为中领军。史涣的地位约与韩浩相当,二人均为曹操的亲信随从,以忠勇闻名,共同掌管禁兵,被封为列侯。至于领兵征伐方面,史涣多从曹仁、徐晃二将出阵。裴松之注《三国志》时引用鱼豢(huàn)《魏略》有其传记。
建安四年(公元199年)春二月,曹操回到昌邑。东汉大司马张杨的部将杨丑,杀了张杨,正要举众向曹操投降之际,其部将眭固又杀了杨丑,带了张杨的人马归附了袁绍。当时眭固屯兵射犬(今河南省武陟县西北)一带。夏天的四月,曹操进军临黄河,遣使史涣、曹仁领兵渡河讨伐眭固。眭固让张杨的旧长史薛洪、河内太守缪尚留守射犬,自己领兵北上向袁绍求救。眭固中途与史涣、曹仁相遇在犬城,双方展开了激烈的交战。史涣、曹仁大破眭固,斩了眭固的首级,尽降其军。曹操渡河,兵围射犬。薛洪、缪尚二人率众投降。 “大败眭固”这次战役是史涣功勋最为卓著的一场战事,其事散见于《武帝纪》的曹仁传和徐晃传。
官渡之战期间,袁绍派遣部将韩荀,正要从西道钞击曹军,却于鸡洛山遭到曹仁截击,于是袁绍再不敢行分兵钞道之计。乘此优势,史涣便与曹仁、徐晃一起抄截袁绍的运粮车,烧其粮草,大力打击袁军的士气。曹操击败袁绍后,继续追击袁氏于柳城,史涣认为远军深入的决定潜伏著一定的危险性,欲与韩浩一起进谏,然而韩浩却指我军现今士气如虹,势如破竹,作为领导中军的将领不宜打击军队士气为由作罢。虽然后来曹操的确能成功攻取柳城,但此事亦可看出史涣为人的谨慎。
建安十四年(公元209年),史涣逝世,其子史静嗣其职爵。