行军大总管由中央临时任命，不仅统率中央所派的大军，还有权调度本道都督属下的守军，所以也是都督的上级军事首长。不过，这仅仅是为了某一战事临时设置，一但战事结束，行军大总管便罢归京师，交出军队和军权。
随着战争形势的变化，唐军在边陲的军事战略重点，由征讨逐渐变为长期性的防守，而原先都督所管辖的守军太弱，所以行军大总管率领的征战大军(一般都在数万以上),每每被留在边镇，成为长期驻屯的部队，行军大总管也就成为该道守军的最高军事长官了。
按原来的意义，“行军即称总管，本道即称都督”,而这时行军大总管的本来含义已发生了变化。这种以行军大总管充任边镇最高军事长官的事例，在中宗神龙年间至玄宗开元初年，十分普遍。而且，这种行军大总管(也有称为镇军大总管)都赐有旌节，有权节度管内所有的军队，对属下可以军法从事，所以职衔上多加有“持节”两字。
