张辽回到河东后，第一件事就是建征北将军府，他将征北将军府放在河东而不是并州，也就意味着他仍是将河东郡作为核心，事实也正是如此，河东连接着并州和关中，更是东进冀州、南下中原的要地，岂能放弃！
至于朝廷会不会派新的河东太守来，他却是不理会了，王允当初派的河东太守杨瓒，就是在中条山口被一只猛虎追了回去，这只猛虎自然就是虎牙。
张辽的征北将军府建在司盐城北面，也就是他曾经和郭嘉规划建立盐运之城的地方，那一片原本是沼泽，但自永丰渠修建后，边上又建了几个大水库，将附近山上的水流疏导，那一片地便干了下来，加上永丰渠的淡水源流过，已经具备了建城的条件，毕竟已经开工了。
城池当初由荀彧在河东时规划，如今城墙已经初见轮廓，张辽便先在其中建了征北将军府。
府邸建设还需要一段时间，张辽先征辟僚属开府。
将军开府，下有长史、司马、主簿、各曹掾、军师、参军等属吏，而张辽同时还是并州牧，州牧下属有别驾、治中、各部从事、主簿等。
张辽以荀彧为长史，长史总揽各曹政事，官秩一千石，看似不如太守，但张辽统领数郡，长史的权力却随着他大了许多，各郡太守最终的政务也要汇到荀彧这里。所以荀彧此后便是张辽的政事大管家了。
他以张既为别驾，张既这个人很有能力，而且在他担任司隶校尉时曾任别驾，此时自然不成问题。
他以田仪为主簿，田仪曾做过董卓的相国主簿，做一个将军主簿自然还是不成问题的。
又以荀攸为中军师，郭嘉为左军师，沮授为右军师，李儒为前军师，参谋军机，并协助各将领出战，汝李儒，如今就被派在左冯翊协助徐荣、张燕等人作战。
又以徐庶、石韬、司马懿、法正为参军。
说起收法正，对张辽可谓是个大大的意外之喜，法正是扶风郿县人，张辽初时并没有想其他，不想在长安之战中，解救朝臣家眷，竟然救出了个法正，张辽也是直到回左冯翊时才知道的。
法正的父亲法衍如今在朝中任廷尉左监，法正随父亲在长安，也不足为怪。
既然鱼已到了网里，张辽岂能再放走，当即就邀法正去河东书院，法正也不是个安分恬淡的人，虽然年少，不过十七岁，却心怀大志，他早听说张辽的名声，堂堂征北将军、并州牧邀请，他岂会拒绝，便这样被张辽拐到了河东郡。
到了河东郡，张辽便不客气了，直接将法正、徐庶、司马懿、石韬几人任命为参军，参军的职位并不高，但却可以参谋军事，这几个人都是大才，但他们如今却都还年轻，没有成长起来，张辽让他们一边在书院继续学习，一边担任参军或其他职务，也是想给他们充分的历练机会，让他们成长的更好一些，作为人才储备。
当然，他储备的这几个人才可都是顶尖之属的。
除此之外，他将贾逵、王粲等人也在各曹掾之中做了任命，给他们历练成长的机会。
除了谋臣和属吏外，张辽对麾下几个大将也做了任命，他被拜为征北将军后，便向朝廷表奏了几个中郎将，朝廷同意了。
于是张辽以高顺、张郃、赵云、典韦、徐荣、张燕、毌丘毅七人为中郎将，其中徐荣和张燕本就是中郎将，又以徐晃、高览、牵招、韩却、郭成、牧寒、蒋奇等旧部为校尉，随着他的兵马扩张，这些将领的职务必须要提升了，如今他为将军，自然有了名正言顺的权力和机会。