到了成吉思汗蒙古帝国时期，当时在中亚地区的康里、钦察各部先后归附蒙古帝国。1221年，成吉思汗命幼子拖雷西征呼罗珊（阿姆河以南地区，包含现土库曼斯坦、伊朗、阿富汗北部等地区）时，拖雷就把居住在哥疾宁的哈刺赤人征入蒙古军队，他们英勇善战，被称为钦察军。后来这些人又被带回到蒙古草原本部，奉命在成吉思汗汗廷的怯薛军里服务，最初的哈刺赤就是由这些人组成，这就是喀喇沁部祖先的来历。

到了元代时，由喀喇沁人组成的钦察军已多达万人，喀喇沁人为元朝东征西讨，所向披靡立下汗马功劳，驻防漠北。

明朝建立，蒙古人退居漠北，喀喇沁军和他们的家属以及喀喇沁牧民也逐渐发展成了一个强大的部族，就称为喀喇沁部，他们当时仍居于漠北地区。

土木堡之役，明损失数十万精锐，此后被迫放弃了之前所占领的漠南地区，全面退守长城以南。

喀喇沁后来与阿速部进入河套地区，成为河套的新主宰。后来卫拉特部也进入河套，蒙古各部经历了三十年的混战后，达延汗终于再度控制了蒙古诸部，并正式将蒙古划分为左右翼六万户。其中鄂尔多斯、土默特、永谢布为右翼三万户，察哈尔、喀尔喀、兀良哈为左翼三万户。

后来右翼三万户叛乱，达延汗亲自率兵讨伐右翼，经历数场大战，平定了叛乱。平乱之后，达延汗将右翼三万户分封给自己的子孙，从此，右翼的喀喇沁部也成为了黄金家族的世袭领地和属民。

这一时期，喀喇沁部已经从鄂尔多斯地区迁出，驻牧于宣府、张家口、独石口边外，并逐渐向东深入到了兀良哈三卫的驻牧地域。

后来兀良哈中的朵颜卫在其首领带领下举部归附喀喇沁部，奉喀喇沁部首领为自己的领袖。

到了林丹汗时期，后金崛起，明朝进一步衰弱，而林丹汗妄想武力兼并统一漠南各部，结果导致漠南各部纷纷归附后金。

喀喇沁部地处右翼蒙古的前沿，以前与林丹汗素来有矛盾，双方矛盾一触即发，喀喇沁部此后多次遭遇林丹汗的数次进攻，好几次兵力林丹汗调兵十万以上，最终喀喇沁部族军大部溃散，一部分逃入明边内躲避，一部分被林丹汗俘虏。

喀喇沁黄金家族首领和所拥有的人口因大多在察哈尔的兼并战争中被杀被虏而所剩无几。喀喇沁内的兀良哈人所属部民没有参加艾不哈之战，在长昂子色棱和孙苏布地塔布囊率领下归附后金，因而保存了实力，他们不久之后便参加了后金对林丹汗的战争。

原来幸免于难的喀喇沁部黄金家族台吉和部民大部分被后金编入蒙古八旗而分离出去。这样，色棱和苏布地塔布囊就继续沿用了原宗主部“喀喇沁”这一名称。

喀喇沁部领导权由黄金家族彻底转入到兀良哈人手中，兀良哈人成为喀喇沁部的新领主。这也标志着新的喀喇沁部落是由兀良哈人为主体重新组成的。

“这么说，如今的这些喀喇沁人，已经不是真正的喀喇沁人，也不再是黄金家族统领了。”刘钧对于喀喇沁部很上心，因为他新设立的燕北省，如今就是喀喇沁人的地盘。

“如今的喀喇沁部，实际上是兀良哈人。”

兀良哈，明初时又称朵颜三卫。明初，元亡，漠北蒙古分为三部，兀良哈部、瓦剌部、鞑靼部。