共和初期的4个军团，其军团指挥官的人选和执政官的人选一样，由森布里亚会议选出，战争爆发后他们随执政官外出作战，并受执政官领导。执政官是整个军队的统帅，而军团指挥官的权限仅指挥本军团。后来罗马军团的数目增加，除原先4个军团的指挥官还按传统由森布里亚会议选出外，新增加的军团指挥官都由执政官来任命。这样，军团指挥官和执政官就能更好地配合，这对整个罗马军队的一体化来说是极为有利的。
    共和中叶以后，由于大量无能的贵族子弟涌入军队，占据了军团指挥官的职位。他们没有作战经验，完全凭门第和财富才当上军团指挥官的，这样或多或少地给罗马军团的指挥带来不良影响。罗马不得不限制军团指挥官的权力，把军团指挥官的军事指挥权降为单纯的行政权，由它处理军团内部的一些行政事务，如士兵的薪饷、后勤等，而整个军团在军事上的指挥权则转到了首席百夫长或统帅临时委派的副将手里。
    罗马军团的标志是鹰帜，其作用有如现代军队中的军旗，只是它不用丝织物做成，而是一只用铜或银铸成的鹰，展翅欲飞，站在一根长杆顶上。鹰帜是整个军团中最神圣的，是罗马军团荣誉和胜利的象征，有专职的鹰帜手扛着。行军、列队时位于整个军团的前面。在罗马人看来，一个军团如果丢失了鹰帜，那是莫大的耻辱，他们想方设法，不惜一切代价也要把它从敌人手里夺回，如果鹰帜被俘，那整个军团就有被解散的危险。
    罗马军团最基本的组织单位是百人队，每个军团由若干个不同武装的百人队组成。罗马百人队这一组织最早产生于塞维·图里乌改革时期。罗马各等级所出的百人队人数是不相同的，低等级的人数众多，装备差，每一百人队的人数也比较多，越往上百人队的人数减少，但装备和战斗力则越强。
    百人队不是独立的作战单位，它只是被作为军团的组成部分而编入军团中，其行政因素远多于战术因素，整个军团才是独立的作战单位，这样的军事组织是不够灵活的，它只适合于在平原地区采用方阵的队形作战，而遇到丘陵和山地则转动不灵，很容易造成混乱。
    公元前4世纪初卡米卢时代，对罗马转动不灵的军团进行了改组，他设立了介于百人队和军团之间的战术单位--中队。一个罗马军团由30个中队组成，每个中队又由2个百人队组成，这就大大改观了罗马军团的面貌。罗马的中队是能独立行动和单独作战的单位。以前的军事行动，无论是否需要，都得整个军团同时进行，而现在则可以由一个或数个中队来完成。这就使整个罗马军团变得更加机动灵活了。
    到公元前2世纪末1世纪初的马略时代，为了适应罗马军事扩张所面临的新情况，为了进一步加强罗马军队的机动性和灵活性，马略在对整个罗马军事制度进行改革的基础之上，重新改组了军团的编制，他在中队之上，军团之下设立了大队的编制。罗马军团的1个大队包括3个中队，整个罗马军团由10个大队组成，罗马军团的正规编制也从4500人扩大到6000人。
    罗马军团的大队和中队一样，都是能够独立执行军事任务的战术单位，然而大队的设置却使原来就比较灵活的军团变得更加机动了，它适宜在任何地形作战且能够迅速变换队形。
    值得一提的是罗马的百夫长，百夫长最初仅只是百人队的队长，管理百人队的行政事务和军事行动。后来由于军团指挥官的权力下降，罗马没有再设新的官职来代替，所以百夫长的地位开始上升，罗马设中队和大队，也没有设专职的中队长和大队长，中队和大队的军事行动都由百夫长负责，这样百夫长的地位就变得更加显赫了。
    一个罗马军团共有60个百人队，也就是有60个百夫长。这60个百夫长的权力是按顺序来排列的，第1大队百夫长们的权力比第2大队百夫长们的权力大，以此类推，最后一个大队，即第10大队百夫长们的权力最小，罗马百夫长的升迁也是按这个顺序由低级百夫长上升到高级百夫长的。每个大队共有6个百夫长，第1大队的百夫长称为“首列百夫长”，他们的权力比后面各大队所有的百夫长都大。在首列百夫长中，权力最大的称为“首席百夫长”，他是第1大队第1中队的第1个百夫长。这是全军团地位最高的百夫长，它一般都由最富有作战经验的老兵提任，有时他甚至可以指挥整个军团的军事行动。
    和军团一样，在罗马的每个百人队、中队和大队中都有自己的标帜，即军旗。它一般是1支长予加上矛头上的铁或铜铸成的动物，这些标帜都由专门的旗手扛着，并加以妥善保护，它们分别是百人队、中队和大队荣誉的象征。
    在罗马军队中作战的除罗马公民兵外，还有同盟者所提供的辅助部队。在征服意大利之前这种辅助部队一般由除罗马民族以外的其他意大利民族担任，后来随着意大利人获得罗马公民权，意大利人也加入了罗马正规军团，辅助部队就改由行省居民担负了。罗马军队的辅助部队虽然独立编队，但附属于罗马军团，协助罗马军团作战。通常每个罗马军团有辅助部队的步兵5000名和骑兵900名以及一定数量的特种兵。辅助步兵在战斗中不起主导作用，作战时一般配置在军团方阵或三列阵的侧翼。但同盟者提供的骑兵和特种兵有时却决定整个战役的胜负。
    罗马骑兵主要由西班牙人和北非努米底亚人等游牧民族组成，这些民族都是能征善战的骑手。在战斗中一般配置在步兵的两侧，以掩护罗马主力步兵的侧翼，并包抄敌军的侧翼和追逐逃散的敌兵。罗马的特种兵包括克里特和努米底亚的弓弩手，巴利阿里群岛的投掷手等，他们都是为弥补罗马军队的薄弱环节而被征招来的，这种特种兵在肉搏战开始之前往往能给敌人造成很大杀伤。