第二步就是借助王有龄在官场上的势力，代理公库。胡雪岩预料到王有龄不会长期待在浙江海运局坐办的位置上，一定会外放州县。到时候他可以代理王有龄所任州县的公库。依惯例道库、县库公款往来不付利息，相当于白借公家的银子开自己的钱庄。他把自己的钱庄先开起来，现在虽然大体只是一个空架子，但一旦王有龄外放州县，州县公库必须由自己的钱庄来代理，那时解省公款源源而来，空的也就变成了实的。
就这样，胡雪岩先借王有龄的关系，从海运局公款中挪借了五千两银子，在与王有龄商量开钱庄事宜的第二天，就开始延揽人才，租买铺面，把自己的钱庄轰轰烈烈地开起来了。
日后，这一小小钱庄一跃而成为江南第一大号，与山西的票号分庭抗礼，隔江对峙，形成了北票南庄的格局，并且主宰了江南金融市面。
胡雪岩在商场起步，一上手就选择了开钱庄，除了他以自己敏锐的眼光，准确地发现了在当时条件下钱庄生意是一个极有可为的财源之外，还因为他天性中有自立门户、在商界开疆拓土的大气魄。胡雪岩就是一心要自己做主，一心要自己做老板。对此，胡雪岩是这么说的：“做生意，既要有远大的眼光，又要有锐利的眼光。有远大的目光，才能从长远和大局考虑问题，而不是鼠目寸光，或步人后尘；有锐利的目光，才能审时度势，将天时、地利、