一进曹操的企业公司，张辽马上就给老板献上了一份见面礼，礼品的名称叫做“孤胆劝降昌狶“。当时的徐州，有多股武装势力盘踞。吕布在徐州当家的时候，他们拥护吕布。吕布被曹操消灭后，他们就面临两难的选择：追随曹操，害怕曹操追究过去的污点；对抗曹操，又害怕遭到吕布那样被消灭的下场。而这些武装首领中，有一个昌狶，盘踞在东海郡，他的大本营，就设在三公山的山上。三公山，在今山东省郯城县东北。曹操派遣张辽，与夏侯渊一同前去围剿。激战几个月，张辽的刀把子没有拿下昌狶，倒是他的嘴皮子把昌狶拿下了。这是怎么回事呢？
原来，细心的张辽沿着包围圈视察，发觉对方射出来的利箭渐渐稀少了不说，那站在高处的昌狶，还一直用眼睛注视着自己。张辽就向夏侯渊说：“昌狶这种表现，说明他心里边正在为难，是继续打还是投降。我想同他搭话，或许可以诱导他投降。“于是他走上前去，高声叫道：“曹公有命令，让我张辽向你们传达！“昌狶果然走上前来，与张辽对话。张辽隔着包围圈，向昌狶说道：“曹公神明威武，正在用德泽团结四方，先来投诚的将会受到重大奖励！“昌狶终于同意投降，张辽竟然单身一人，进了三公山上对方的营寨，到昌狶的家中与其亲属见面。昌狶非常放心和高兴，就随同张辽去见曹操。曹操重赏昌狶之后，又派昌狶回去，为自己镇守东海郡。
张辽拿下昌狶，一靠胆大，二靠心细，三靠软硬兼施。曹操看出他是当优秀将领的好材料，从此重点培养。接下来，他又建立了一场更辉煌的战功，这是什么战功呢？
建安十二年（207）五月，曹操为了安定北方，统领大军前往幽州，去征服强大的乌丸族武装力量。这乌丸族是当时幽州的草原民族，铁骑兵团极为骁悍，所向无敌。袁绍被曹操打败之后，他的儿子袁尚、袁熙，跑到乌丸族那里去躲避，两股势力结合，曹操很不放心，于是亲自动了手。
乌丸族武装力量活动的中心，是在柳城，在今辽宁省朝阳市。从华北平原前往柳城，最为近便的道路，是从东北方向，经过现今河北秦皇岛一带的滨海地区。但是在当时，这条道路在夏天和秋天，经常因为天降暴雨而被洪水淹没，根本无法通行。最初曹操不了解情况，就走了这条道路。等到他在碣石山上大发诗兴，吟诵出“东临碣石，以观沧海。秋风萧瑟，洪波涌起“的不朽名篇《观沧海》之后，七月间的洪水已经将前面的道路变成一片汪洋。好在他找到一位当地的高人，名叫田畴，来当自己的向导。这田畴极为熟悉当地情况，就带领曹操改走另外一条小路：这条路先往北，翻越卢龙塞，也就是现今河北省迁西县东北喜峰口一带的边塞；然后再转向东北，就可以直达柳城。曹操依计而行，大军来到距离柳城只有二百里路时，才被对方发觉。乌丸族首领蹋顿，立即出动几万骑兵，赶向西边应战。此时此刻，张辽作精彩表演的机会就来临了。
这年八月，双方在白狼山陡然相遇。白狼山，即今辽宁省喀喇沁左翼自治县的白鹿山。曹操站在山上，望见对方黑压压的骑兵飞驰而来，一望无边，心想今天必有一场恶战。正在思考对策之时，张辽走上前来，主动请战，意气风发斗志昂扬。曹操马上下定决心，当场任命张辽为先锋，还把自己手中的指挥旗，当时叫做“麾“，亲手交给张辽。这杆指挥旗是军队指挥大权的标志，平常都是曹操自己紧握在手里，指挥千军万马，很少交给别人。今天把它交给张辽，就是把全军的胜负放在他的肩上。