汉朝骑兵创建于汉高祖刘邦，一开始使形的是楚制，但是后来高祖在入注中原之后继承了秦朝的骑兵与军制。同时，他也继承了秦朝的外族骑兵，如“南宫候张买以父越人为高祖骑将”（《史记·高祖功臣表》）在高祖一统天下之后，很快就与匈奴交战，并被包围在白登，所以很多人以此认为汉代初期骑兵还很弱。但是我们要明白，白登之前汉军对匈奴可是连战连胜。按《史记·韩信卢绾列传》的记载，匈奴派遣左右贤王带领一万多骑兵，和王黄（韩王信部将）等人驻扎在广武以南地区，到达晋阳时，和汉军交战。汉军将他们打得大败，乘胜追到离石，又把他们打败。匈奴再次在楼烦地区聚集军队，汉高祖命令战车部队和骑兵把他们打败。而白登之围也是刘邦率领的先头部队被围，而不是全军被围。
所以，以此机械的认为匈奴骑兵强于汉人并没有什么依据。之后汉朝军队仍然使用外族骑兵，如汉武帝设立的八校尉中，骑兵校尉有屯骑校尉，越骑校尉，长水校尉，胡骑校尉。这其中的三个都是外族骑兵或者说最起码是以外族骑兵为番号。这可以看出当时汉帝国的外族骑兵数量不少。那么汉朝使用外族骑兵的原因是什么？这里从晃错的一番话中就可以看出，“义渠的少数民族来投降汉朝的有数千人，他们的饮食和长处与匈奴一样，可以赐给他们盔甲棉衣、强劲的弓和锋利的箭，让边境的优秀将领统率他们……如果地势平坦无碍，就用汉朝的将领来对付匈奴。两军互相辅佐，各自发挥自己的长处，再加上数量众多，这是万无一失的方法。”
同时从考古证据来，看“杨家湾军阵所见轻、重骑兵之比为1:5.5，轻骑兵占不到20%，说明至少在汉初，骑兵部队以重骑兵兵种为主体，轻骑兵兵种为辅，与前人所谓“骑兵重在骑射，材官重在踏强部，战时以弓弩为主”的说法不尽相同(骑射者为轻骑兵)”（《西汉步骑初探》）这是汉前期出土的兵马俑。而从汉中期出土的兵马俑来看，“车骑行列共由49名骑兵俑及5辆车组成，骑兵俑从排列顺序看前后大体可分为6排，分别在车的前后或左右位置,担任护卫。骑兵俑头戴垂肩头盔,上身挺直,着铠甲,臂有披膊，大多左手握拳下垂,右手置于胸前,也有单手或双手上举者，下身呈U形跨骑于马背。”（《山东临泽山王村汉代兵马俑坑发掘简报》）。鉴于这些兵马俑没有箭筒之类的东西，所以他们都是重装的肉搏骑兵。显然，对于汉朝来说，这些异族骑兵是以轻骑兵的身份加入，来弥补汉朝骑兵远程火力的不足。
一直以来有一种观点认为罗马骑兵被外族替代是因为罗马骑兵不行，这种观点有延伸到汉代骑兵身上。但是这种本质上是错误的，罗马与汉之所以引入外族骑兵的目的，不过为了弥补自身骑兵的不足。两者虽然原因不一样，但是目的是一样的，也谈不上孰优孰劣，更多的其实是那些外族人，向汉与罗马交的“血税”。
