按照古籍记载，匈奴是一个古老的民族，其历史可以追溯到夏商周三代。司马迁在《史记·匈奴列传》中记载：“匈奴，其先祖夏后氏之苗裔也，曰淳维。”关于匈奴的起源问题，班固在《汉书·匈奴传》中几乎全文照抄《史记》：“匈奴，其先夏后氏之苗裔，曰淳维。”三国时期的史家张晏称，淳维是在商朝初年流亡北方的。乐产的《括地谱》则有更详细的论述：“夏桀无道，汤放之鸣条，三年而死。其子獯粥妻桀之众妾，避居北野，随畜移徙，中国谓之匈奴。”一言以蔽之，在中国汉代和之前时代的文献中，匈奴的先祖是商汤灭夏之后，逃亡北方草原的夏族残余。司马贞在《史记索隐·卷二十五》中虽然援引了这一说法，却对这种说法提出了质疑：“其言夏后苗裔，或当然也。”

　　四个重要起源论

　　关于匈奴的起源一直众说纷纭。古代学者因上古史料稀少，局限于索隐考据而无法深入研究。近现代学者则可以得到考古学、体质人类学、分子考古学等的帮助，在这一问题的研究上取得了丰富的成果。除了传统的夏族后裔说之外，尚有如下几种比较重要的说法：

　　第一，同种异名说。王国维先生在他的《鬼方昆夷猃狁考》中提出商朝时期的鬼方、昆夷、荤粥（Xūnyù，同“獯鬻”）、猃狁（Xiǎnyǔn，也作玁狁），春秋时期的戎、狄，战国时期的胡等，皆与匈奴“同种”。此说为20世纪以来多数学者所支持。

　　第二，义渠说。蒙文通先生在《周秦少数民族研究》等作品中认为匈奴的先祖是义渠，理由是《史记·秦本纪》中记载，秦惠文王更元七年（公元前318年），“韩、赵、魏、燕、齐帅匈奴共攻秦”；而《战国策·秦策二》记载，同年义渠“起兵袭秦，大败秦人于李帛下”。两史书互相参照，可知匈奴就是义渠。

　　第三，西来说。岑仲勉先生在《伊兰之胡与匈奴之胡》中认为匈奴是“从西北徙来之突厥种”。孙次舟先生在《匈奴出现中国边塞的时代》中亦认为匈奴为西来的游牧民族，于秦始皇二十六年（公元前221年）至三十三年（公元前214年）出现于中国北方边境。

　　第四，北方草原民族说。此说最早由俄罗斯及蒙古国考古学家提出，在国内则创始于曹永年先生的《战国历史上的匈奴》。他认为先秦时代的匈奴只是当时北方许多不同族源的部落或种族中的一个，后来由于匈奴强大，草原各部族都被称作匈奴（“皆以为匈奴”）。这一学说在20世纪80年代后得到许多学者的支持。

　　同种异名说

　　匈奴为夏后氏苗裔说不足为信，因为匈奴与夏族存在不同特征。第一，语言迥异。绝大多数学者认为匈奴语言属于阿尔泰语系，只是尚不能确定其属于突厥语族、通古斯语族还是蒙古语族，也有学者认为匈奴语属于已经消亡的阿尔泰语系第四语族（亦邻真）或三大语族形成前的“阿尔泰原语”（杨建新）。无论哪种可能，匈奴语都与华夏族所属的汉藏语系汉语族（原始汉语）存在明显差别。第二，体质不同。现挖掘出的匈奴墓葬中的遗骨显示，匈奴人种虽有欧罗巴人种或远东人种的成分，但以北亚蒙古人种（即古西伯利亚类型）为主，与东亚蒙古人种的华夏族明显不同（参见朱泓《体质人类学》）。语言和血统迥异的两个民族当然不可能是一脉相承，但是匈奴确实与夏族存在某种渊源，匈奴风俗中有华夏族的遗风，如祭祀龙（“五月大会龙城”“岁有三龙祠”）、祭祀日月（“单于朝出营，拜日之始生，夕拜月”）、尚黑（“不以墨黥其面，不得入穹庐”）等等。因此匈奴先祖和华夏族早有接触固不待言，一部分北迁的华夏族在先秦时就融入匈奴联盟也大有可能。

　　义渠说

　　义渠说缺乏依据。《史记》中所载秦惠文王更元七年匈奴参与五国伐秦之事为孤证，仅见于《秦本纪》，为其他史料所不载。而且匈奴即便参加了此次合纵攻秦行动，也不能证明匈奴就是义渠，因为两国可以同时对秦国用兵。何况义渠流行火葬，风俗和崇尚土葬的匈奴格格不入。

　　西来说

　　匈奴西来说，在匈奴进入中国北方边疆的时间和路线这一关键问题上，或与其他史料矛盾，或含糊其词，均难以确证。

　　王国维主张的同种异名说，将鬼方、昆夷、獯鬻、玁狁、戎、狄、胡都看作匈奴民族的“曾用名”，则是混淆了两类异族之间的区别。综合上古文献、甲骨文、金文和考古学的成果可知，鬼方、昆夷、獯鬻、玁狁、犬戎等戎狄系民族生活在冀北、晋北、陕北、宁夏、陇东等地，这一地带先秦时以森林草原地貌为主，属于农牧交错带；而匈奴、林胡、楼烦、东胡、月氏、丁零、屈射等草原游牧民族的生活区域则在其北面的蒙古高原、河西走廊、阿尔泰山、天山北路、外贝加尔乃至南西伯利亚地区。

　　北方草原民族说

　　正如拉铁摩尔在《中国的亚洲内陆边疆》中早已指出的，戎狄并非草原游牧民族，他们和上古的华夏民族一样从事农牧混合经济并兼营狩猎。如《左传》记载，襄公十四年（公元前559年）瓜州（今河南、山西、陕西交界处）之戎被秦国驱逐后，投奔晋国，被赐予“狐狸所居，豺狼所嗥”的“南鄙之田”。戎人“除翦其荆棘，驱其狐狸豺狼”，开垦荒地从事农业生产，也修建自己的城邑。如《后汉书·西羌传》提到义渠、大荔筑城数十。他们在战争中也以战车和步兵为主，如康王时期西周对鬼方用兵，一次战役就俘获鬼方军队的战车一百余辆；又如昭公元年（公元前541年）晋军与无终及群狄作战时，对方以步兵为主。这些特征都与“逐水草迁徙，无城郭常居耕田之业”“士力能弯弓，尽为甲骑”的匈奴迥异，而与华夏民族更为相近。

　　而且戎狄诸部族自上古时期开始就与华夏族有着时战时和、时亲时离的深厚渊源。早在五帝时代，黄帝就曾“北逐荤粥”。殷商时，武丁曾出击鬼方，经过三年商军才战胜了鬼方。周人与戎狄关系更为密切，太王亶父时期周人曾被戎狄驱赶到岐山（今宝鸡东北）；文王时攻伐畎（quǎn）夷；武王时将戎夷放逐到“泾、洛之北，以时入贡，命曰荒服”，一度征服了戎狄；但是周穆王在位时，戎狄和周人开始交战，穆王虽然攻打西戎胜利，获得四白狼、四白鹿以归，但周人与戎狄之间的盟友关系也彻底告终。终西周一朝，既有戎狄的入侵让周人损失惨重：“靡室靡家，猃允之故”，“岂不日戒，猃允孔棘”；也有宣王中兴时对戎狄的打击：“薄伐猃狁，至于太原”，“出车彭彭，城彼朔方”。最终，西周因储位之争而与西戎中最强大的申国（周平王的母族）反目成仇，被申、曾和西戎的联军消灭，周幽王父子在骊山脚下被戎人杀害。申侯引狼入室，之后戎人夺取了泾河与渭河之间的宗周故土。

　　春秋初期，戎狄一度对中原诸国咄咄逼人。山戎曾越过燕国攻打齐国，齐釐公（ 齐僖公）率军在首都郊区才将其击退。44年之后，山戎又攻打燕国，燕国向齐国求救，齐桓公率军北伐山戎，将其击退。又过了二十余年，戎狄居然兵临东周首都洛邑（今河南洛阳），攻打周襄王，将襄王驱逐到郑国。戎狄还拥立了襄王的异母弟弟王子带为天子，夺取了陆浑（今洛阳伊川），势力范围向东渗透到卫国。四年后，得晋文公出兵相助，戎狄才被赶走，王子带被诛杀，襄王之子得以继位。据《左传》记载，自闵公到宣公（公元前7世纪中叶到公元前6世纪初），70年间，戎狄曾两次攻破成周，一度灭亡邢国、卫国、温国，多次侵入晋国、齐国、鲁国、郑国。其后，晋文公和秦穆公先后成为诸侯霸主，高举尊王攘夷的旗号。秦国和晋国也就成为与戎狄交战的主力。他们的主要敌人是在圜河、洛河之间的赤狄、白狄，在陇山（今六盘山）以西的绵诸、绲戎、狄、獂，在岐山、梁山、泾水、漆水之北的义渠、大荔、乌氏、朐衍。这场战争延续了数百年，直到战国中期，随着中山和义渠的覆灭才以华夏族的胜利而告终结。

　　另一方面，戎狄也和华夏有着密切的往来，彼此通婚不绝、血脉相通。西周伐商时西戎是其重要盟友，西周王室先后曾有两位戎人王后，东周襄王又曾娶狄女为王后。晋襄公时，瓜州之戎就称自己是晋国“不侵不叛之臣”。晋悼公曾派魏绛“和戎狄”，让很多戎狄部落“遂服于晋”。

　　到了司马迁所处的西汉中期，离匈奴出现于中原视野的战国后期不过两百年时间，却已经不清楚匈奴的历史（“其传世不可得而次云”），何况其他了。

　　当然戎狄和匈奴的关系也是很重要的，因为他们构成了匈奴的重要族源。虽然匈奴起源于草原游牧民族之说得到越来越多的支持，但是其具体的形成过程依旧充满疑团。

　　公元前1000年左右（西周前期），受气候的干冷化、人口的增长、骑马技术的成熟和冶金技术的进步等因素的影响，亚欧大草原的农牧混合人群普遍向游牧生活过渡。为了追逐丰美的草场，不断有游牧部落从寒冷的北亚地区呼啸南下。在西辽河流域和鄂尔多斯高地，龙山时代遗留下来的农业群落逐渐消亡或南迁，千年间当地人迹罕至，残存的居民生活也走向游牧化。约公元前600年（春秋晚期），来自今蒙古国和西伯利亚的游牧部落也迁徙到这一地区，征服（或融合）了当地居民，形成了林胡、楼烦、东胡等游牧部族。尤其是前者，创造了辉煌的鄂尔多斯青铜器文化。其特征为随葬动物纹饰的青铜装饰品和大量青铜武器、马具，并有大量的牛马羊殉葬，而罕见陶器和农业工具。

　　同一时期，由于政治集权化、精耕灌溉农业的兴起和华夏民族意识的勃兴，实现部分统一的华夏诸国，尤其是秦、赵、燕三国，不断向北扩张。大批戎狄小国、部落被消灭，其民众不是融于华夏族，就是北逃到农牧交错地带。在长途逃亡中，他们无法带走房屋、农田和大部分家具，唯一能带走的财产就是牲畜和武器。这些北逃者虽然曾经从事农业并建筑城邑，但此时他们只能依赖畜牧和掠夺为生。几代人之后，他们已经丧失祖先原本有的农业定居生活技能和意识，而和蒙古高原南下的游牧部落无异。至迟到战国中期，戎狄作为一个独立的群体消亡，融入华夏和胡人中。农耕世界和游牧世界直接走向接触和对抗。这也是战国中期燕、赵、秦三国与胡人交战和建设长城的大背景。

　　但是，螳螂捕蝉黄雀在后。原本生活在今蒙古国中部偏北杭爱山一带的匈奴本部也从蒙古草原南下。他们在转变为游牧民族之后，属于石板墓文化的一部分。因为某种原因（可能是追寻温暖肥沃的牧场或是被邻近的游牧部落打败），他们于春秋战国之交南下，抵达阴山地带。由于林胡和楼烦在与秦国、赵国的战争中遭受重创，更为强悍的匈奴部落趁机征服了林胡和楼烦，并吸纳了当地的胡人及北逃的戎狄，建立了一个强大的部落联盟。匈奴的统治部族虽然来自漠北，但其主要文化却传承了林胡、楼烦的鄂尔多斯青铜器文化，并且吸纳了戎狄乃至一部分华夏族的文化因素。虽然后来这些原本血统不同、生产方式不同、文化不同的部族都被称作匈奴，但是其在种族和文化方面始终存在很大的差异。之后南匈奴和北匈奴的分裂也与此有关：南匈奴人种中有较多的东亚蒙古人种成分，与以北亚蒙古人种为主的北匈奴不同。