别驾一词，始于汉朝。不过，要想说清楚别驾，还要从汉朝另外一个官职司隶校尉说起。
司隶校尉之名始于汉武帝时期，设立的初衷是源于汉武帝末期那一场著名的“巫蛊之祸”，历史上第一任司隶校尉就是发起“巫蛊之祸”的江充。司隶校尉的权力很大，专门负责监察京畿之地的违法乱纪现象。他不仅有监察之权，还有领兵的权力，有由1200名中都官徒隶所组成的武装队伍供其指挥，司隶校尉也因此而得名。司隶校尉管辖的范围也很大，以东汉为例，除监督朝中百官外，还负责督察三辅（京兆、左冯翊、右扶风）和河东、河南、河内、弘农7郡的京师地区。历史上很多名人都担任过司隶校尉，如蜀汉的张飞、诸葛亮等。
司隶校尉需要负责这么多事情，就需要大量的帮手。按照国家制度，他可以有从事史12人、假佐25人，共37人的僚属，其中，别驾就是从事史的一员。据《后汉书 百官志》中对别驾岗位职责的描述：别驾是在司隶校尉出巡办公的时候，负责奉引、录众事（安排行程、把工作汇总汇报）的官员。这个岗位的性质就和我们现在的秘书差不多。
至于为什么把这个官职称为别驾，是因为一项制度。因为司隶校尉坐车出巡，是一个人坐一辆车，下属都是几人合乘一辆车。而别驾从事史地位比较高，有资格独乘一车，所以称为别驾。东汉末期，别驾只能是司隶校尉属官的制度被打破，各州刺史、州牧都可以自辟别驾，不过，这种别驾和以往的不同。在西汉和东汉初期，别驾属于国家在编人员，拿着国家俸禄。而东汉末期的别驾，属于刺史、州牧私辟，属于私人僚属，没有纳入国家公务员编制。如后汉益州刘璋的手下张松就是私辟别驾。
魏晋南北朝时期仍然沿用了汉朝的制度，别驾的地位却越发重要起来。在南北朝时期，别驾成为了州、府总理众务之官。南北朝时期刺史的权力比较大，同时管辖着一郡的文武事宜，别驾是负责文事方面的最高官员。到了隋朝，把郡改为州，在一州之中设立长史和司马作为刺史在文武方面的助手，别驾就改名为长史，别驾在此时由属官变成了封疆大吏。到了唐朝，把长史改为郡丞，后又把郡丞改为别驾。到了唐高宗时期，又把别驾改为了长史。
由此可见，别驾的工作性质发生了改变，由最初司隶校尉的属官变成了一郡的文官长，由监察官员变成了行政官员。到了宋朝，别驾这个职位消失了，取代它的是通判这一官职。所以，自宋朝直到明清，都把别驾作为了通判的俗称。
