办公场所和牌子都有了，更大的难题马上摆在他面前，当然这个问题也是大多数人的难题，它的名字叫“钱”。
曾国藩到衡州建军队，本来就名不正言不顺，所以不可能从政府那里拿到钱。他又没有点石成金的法力，所以只有一个办法：众筹。也就是劝那些富绅捐款，当然，不可能白捐。曾国藩允诺会由国家授予他们一些荣誉性的虚职，还有省政府给的大奖状。第一个被“众筹”的自然是曾国藩办公场所——祠堂的主人，主人很不情愿。他说，我已把祠堂免费让你们办公，这也算捐款啊。况且，你们从我这里拿了钱，将来是否真能保护我们，还是未知的。
这是大多数富绅的想法，所以众筹失败。曾国藩见软的不行就来硬的：强行众筹，派兵到各个富绅家里，如果拿不到钱，就捉人。由于很多人都闻“审案局”而丧胆，所以咬牙捐出了一些。
虽然如此，曾国藩的众筹之路走得仍不顺畅，他唉声叹气地对同事们说：“众筹之难，难于登天，费尽心力，仅得毫毛。”
不过他毫不气馁，一方面强行众筹，一方面四处宣传。天下事都有例外，有人就主动找上门来，要给曾国藩捐一笔让他目瞪口呆的军费。此人叫杨江，是已故湖北巡抚杨健的孙子。他让人扛着两万两白银来找曾国藩，指着银子说：“你收下，条件只有一个，把我爷爷列入祀乡贤祠。”
曾国藩被银子发出的光芒刺痛了眼，乐不可支地答应了杨江的请求。但他没想到这么点小事办起来却相当困难，咸丰皇帝得知他的请求后，马上严厉地回信道：“杨健这厮曾受过处分，其官声、政绩都不配入祀乡贤祠。名位乃国家重器，你怎么就把它当成尿壶随便予人？我看你是袒护同乡，私欲茂盛，可恶至极。降你一级！”
曾国藩大为郁闷，不是郁闷被降职，这是无关痛痒的处罚，他郁闷的是，怎么为理想做点事，就这么难。
幸好苍天垂青他，在他两手都硬的情况下，军费方面虽捉襟见肘，他也勉强把军队的架子搭了起来。可架子搭起来，里面要填充什么内容，也就是说，他要建立的这支新军到底是什么样子的，他还没有成熟的答案。
他当初建立的“大团”，只是在训练上改弦更张，实质上，“大团”仍是民兵部队。曾国藩是个善于分析归纳的人，这种人最大的优点就是，能从现存的事物中发现不足，并反向推理，从而得出自己的创见。
清帝国的武装力量主要有兵、勇和团练三部分。“兵”指的是八旗（满人部队）和绿营（汉人部队），八旗有二十五万人，绿营有六十四万人。八旗和绿营是父子相承，世代为业。正是因为有铁饭碗，再加上国家承平日久，所以这两支部队已不能打架。“勇”是国家临时招募的特种作战部队，称为官勇，有事时招募，无事时遣散。
我们常常在关于清朝的影视作品中看到士兵的后背有“兵”和“勇”的字符，指的就是这两种军队的士兵。