在庆祝这次大捷的同时，父亲突然提出了一个令家人都反对的方案。他希望在这个时候，寒山能否考虑去参加王忠嗣将军的军队，因为通过军功，本来也是比较容易得到仕途的，况且现在举国上下都在关注着王将军。父亲通过自己仅有的关系，找到了一个曾跟随过将军的幕僚，也得到了大力的举荐，这样一来，在父亲看来，似乎事情也就容易多了。但是，那毕竟是战争，万一不慎，后果可就不堪设想。母亲实在不愿意让寒山去冒这个险，妻子也舍不得，哥嫂也觉得不放心。究竟该怎么办？看到父亲那殷切的眼神，母亲那担忧的神情，妻子那牵挂的忧虑，哥嫂的劝阻，寒山该如何选择呢？
最后，寒山决定遵循父亲的意愿，毕竟，在年轻气盛的寒山看来，为了国家，戎马金戈，那是一种无上的骄傲。而且，自幼习武，寒山也曾梦想着有一天能够驰骋杀敌。而现在这样的机会来了，又怎么能够失之交臂呢？丈夫志在四方，男儿当驰骋沙场。在劝说了母亲和妻子之后，寒山终于可以踏上了从军之路。
在告别亲人之后，寒山可谓意气风发，大有英雄出少年的气概，“去家一万里，提剑击匈奴。得利渠即死，失利汝即殂。渠命既不惜，汝命亦何辜。教汝百胜术，不贪为上谟”（《去家》八十七）。在寒山的这首诗中，既有着英雄的轩昂气度，也有着对于未来生死的忖度，正是在这样的心情之中，寒山踏上了征途。
不过，寒山的从军之旅并没有想象中的困难，甚至丝毫没有想象中的那种宏大的场面和英雄气概。因为，在寒山踏上征途的时候，战争已然结束了。在途中，寒山得到了这个消息之后，心情自然是有点郁闷。“闻伐匈奴尽，婆娑无处游”（《少年》），战争没有了，驰骋沙场的理想也就只能就此结束，当然一起终结的还有父亲希望他以军功仕进的美好愿望。
天宝七年（748）十月，寒山再次于吏部南院参加关试，这次的铨选，寒山通过了第一轮的选拔，也就是书判的考核，但是，在第二轮身、言的考核中，因为“身”的原因而最终没有能够得以通过。
寒山“书判全非弱，嫌身不得官”（《书判》一一三），再次折戟于吏部关试，对于父亲而言，这是一种莫大的打击。寒山孩提时，父亲就曾经担心过“身”的问题，可是，这么多年了，寒山出落得一表人才，但是，终究因为“身”的问题，没有选上官。多年之前的担忧，仿佛是一句谶言，这让父亲有点难以接受。于是，在这一年的冬天，父亲日渐憔悴，开始卧病不起了。