成吉思汗在西征时，曾经按照接受西夏输诚时所约定的条件，派使臣去要求他们出军助征。可是西夏大将阿沙敢卜对蒙古使臣说：“等到蒙古打败时，我们就派军队来支援。”成吉思汗得到使臣的报告大为震怒。当时他正在对中亚用兵，所以没有立即报复。从西域归来，他重新把注意力投向南方。碰到的又是老问题：不先降服西夏，势必难以灭亡金国。借口是现成的：西夏迟迟不纳人质，也不肯派兵参加西征。因此，1226年二月，他亲自带领窝阔台、拖雷，统军十万，再次出征西夏。察合台率领着一支军队，被留作后援。
三月，成吉思汗攻占西夏重镇黑水等城，乘胜推进至贺兰山。西夏将阿沙敢卜战败被俘。夏，成吉思汗屯兵于浑垂山（在今甘肃酒泉北）避暑，以等待与西路军队会师。
为了割断西夏西部州郡与东部州郡之间的联系，成吉思汗派忽都铁穆儿、昔里钤部等出兵沙州（今甘肃敦煌北）。西夏沙州守将伪降，以牛羊美酒犒赏蒙古军，暗地里却设伏兵，企图一举消灭蒙古军。主将忽都铁穆儿中伏，幸好被昔里钤部救出。蒙古军抓紧时机回击，西夏军大败，沙州失守。接着，西路蒙古军又进至肃州（今甘肃酒泉）。戍守肃州的西夏军民奋力抵抗。可是，肃州守将昔里都水是昔里钤部的族兄，他企图以城降蒙古，被杀。肃州城破后，成吉思汗下令屠肃州城，只有昔里钤部的亲族一百零六户幸免于难。不久，由西路东进的蒙古军到达甘州（今甘肃张掖），与主力军会合。
面对蒙古军队势如破竹的攻势，西夏王李德旺束手无策，统治集团里人人自危，忧心忡忡。这年五月，六十四岁的上皇李遵顼病死。仅仅过了两个月，李德旺也忧悸成疾，发病而死。群臣立德旺的侄子李为王。西夏的局势已经岌岌可危了。
蒙古军队会师后，继续东进，下一个目标是甘州，甘州的守将叫曲也怯律，他的儿子察罕，十多年前即投奔成吉思汗，被收为养子，这次察罕随军而来，派人劝其父献城投降，但曲也怯律和蒙古使者都被西夏副将阿绰等三十六人杀死，阿绰等坚决抵抗，不久城破，成吉思汗下令屠城，在察罕恳求下，无辜百姓才免于屠杀，阿绰等三十六人遭杀害。
1226年秋七月，成吉思汗领兵进攻西凉府（今甘肃武威），夏将斡扎箦投降，附近的搠罗、河罗诸县也被蒙古军占领。蒙古军继续前进，到达黄河九渡处，占领应理（今宁夏中卫）。蒙古军队沿河北上，十一月，成吉思汗亲率大军进攻灵州（今宁夏灵武），李遣老将嵬名令公领兵十万来援，双方展开了激战，蒙古骑兵在结冰的黄河上纵横驰骋，对夏兵猛烈冲击，西夏将士虽奋力抵抗，终究敌不过凶猛的蒙古骑士。这场战斗的激烈程度是空前的，连成吉思汗也坠马跌伤了，西夏将士的伤亡更十分惨重，灵州终于被蒙古军队占领，守将李德任（献宗李德旺的哥哥）被俘杀。蒙古军队在灵州取得重大胜利后，继续挺进，终于包围了西夏都城中兴府。成吉思汗在盐州川驻冬，蒙古军队在盐州（今陕西定边）一带肆行杀掠，当地的居民有的打土洞、石洞避难，但是死里逃生的不过百分之一二而已。
西夏军队经过灵州这一仗后，元气大伤，已经无力抗击蒙古军队了。成吉思汗对西夏的进攻也放松了下来，只用较少的兵力围困中兴。
1227年正月，成吉思汗带领大部分军队渡过黄河进攻积石州（今青海贵德东），意在彻底切断西夏的后路。接着进入金境，攻陷临洮府（今甘肃临洮）及洮（今甘肃临潭）、河（今甘肃临夏）、西宁（今青海西宁）、德顺（今甘肃静宁）等州，基本上形成了对西夏的大包围圈。闰五月，成吉思汗到达六盘山驻夏。
被蒙古军队团团围困的西夏君臣，简直是热锅上的蚂蚁，不知如何是好。李只好委托右丞相高良惠守城，高良惠坚壁拒守，兵民们都很感动，劝他保重，他感叹地说：“我身为国臣，不能消除祸乱，使敌寇深入至此，活着有什么用呢？”不久终因积劳而死。闰五月，成吉思汗在六盘山派察罕赴中兴府劝降，西夏君臣犹豫不决。六月，中兴发生强烈地震，房屋倒塌，瘟疫流行，粮尽援绝，到了山穷水尽的地步。李被迫遣使乞降，称：“为了准备贡物、迁民户，请宽限一月，到时亲来朝谒。”成吉思汗同意了。他对西夏使臣许诺说：“夏主投降以后，我会像对待自己的儿子一样地对待他的。”
他从六盘山移至清水县的西江。当时天气酷热，六十六岁的成吉思汗不能适应这种气候，竟染上了重病。他知道自己病情严重，又想起悬而未决的汗位继承问题，更加放不下心来。
原来，漠北游牧社会中长期地存在着“幼子守产”的习惯法。当儿子们长大成人的时候，就离开父母去独立生活，他们有权带走属于父母的一部分财产。最小的儿子不离开家庭，由他继承父母所留下的大部分家产。那么，偌大的一个大蒙古国，至高无上的大汗宝座，是不是也应当遵循幼子守产的习惯法来决定继承原则呢？在这个问题上，成吉思汗一直迟疑未决。
一方面，由于游牧经济的分散性，成吉思汗事实上已经按照幼子守产的原则在亲族中间划分了各人的属民和份地。他把他的兄弟们分封在东面：哈撒儿分在蒙古东北部，哈赤温（这时已死，由他的儿子按赤台受封）在蒙古东部，斡赤斤在蒙古最东北，追随他创业有功的异母弟别里古台也有自己的土地和人民，他被封在鄂嫩河、克鲁伦河中游一带，最靠近大斡耳朵。这四家后来称为“东道诸王”。据说，成吉思汗有妻妾五百人，只有五个人具有皇后的地位，其中，长妻孛儿帖所生的四个儿子地位最尊，称“四曲律”。他们是朮赤、察合台、窝阔台、拖雷。除了拖雷以外，他们也都有自己的人民和份地，称为“西道诸王”。他们的份地，从北向南，依次展开在从也儿的石河流域到畏兀儿边境的草原地带。朮赤的份地，离开大斡耳朵最远。幼子拖雷没有另外的份地，他将继承大汗留给自己统领的大片地方。成吉思汗死的时候，漠北本部属于自由民身份的蒙古骑士共有十二万九千人。其中分给诸弟、诸子的共二万八千，剩下的十万一千，都属于成吉思汗本人，在他死后，则属于幼子拖雷。
但是在另一方面，当成吉思汗为他所缔造的草原帝国遴选大汗继承人时，他似乎并不把汗位看作纯粹属于他私人，因而也可以传给幼子的个人财产。大汗是整个“黄金家族”的财产看管人，他不仅应当对属于自己的份地，而且必须对整个大蒙古国负责。所以，汗位继承人的资格，应当以能力为原则，而不是以幼子守产为原则来确定。成吉思汗对于让谁来继承汗位的问题，曾有一度非常犹豫。
不幸的是，以上这两种处置，在成吉思汗时代都已经招致了不少的麻烦，暴露出大蒙古国分裂瓦解的明显征象。
朮赤顾忌自己可疑的出身，与察合台、窝阔台长期不睦。他自从攻打玉龙杰赤后，就长期逗留在咸海北部的草原上。成吉思汗西征回来，几次召见他，他都托故不肯从命。成吉思汗对他的疑忌渐渐加深，1227年，他甚至打算出兵攻打朮赤。恰好这时传来朮赤去世的消息，才避免了骨肉间的一场血战。后来，朮赤的后裔就在也儿的石河以西、咸海、里海以北直到伏尔加河流域，建立了钦察汗国。
为了汗位继承，成吉思汗的儿子们，也早在出征花剌子模之前，就进行过一场激烈的争执。《蒙古秘史》用十分生动的语言记述了这一场争执：
“临行时，也遂夫人（成吉思汗的诸妻之一）说：‘皇帝涉历山川，远去征战。若一日倘有不讳，四子内命谁为主？可令众人先知。’太祖（指成吉思汗）说：‘也遂说的是！这等言语，兄弟、儿子并孛斡儿出（即博尔术）等，皆不曾提说，我也忘了。’于是问拙赤（即朮赤）：‘我子内你是最长的。说什么？’拙赤未对。察阿歹（即察合台）说：‘父亲问拙赤，莫不是要委付他？他是蔑儿乞种带来的，俺如何教他管？’才说罢，拙赤起身将察阿歹衣领揪住说：‘父亲不曾分拣，你敢如此说？……’说了，兄弟各将衣领揪着。……太祖默坐间，有阔阔搠思说：‘察阿歹你为甚忙？皇帝见指望你。当您未生时，天下扰攘，互相攻劫，人不安生。所以你贤明的母不幸被掳。若你如此说，岂不伤着你母亲的心？’……太祖说：‘如何将拙赤那般说？我子中他最长。今后不可如此说！’”
一场风波，最后以勉强推举窝阔台当大汗继承人才暂时了结。
辗转反侧于病床之上的成吉思汗，越是想起这些往事，便愈觉不安。他急忙召唤窝阔台、拖雷、各妃所生的儿子们到大帐中来，对他们说：“我病势沉重，眼看无法医治了。实在说，你们需要有人保卫国威和帝位，支持这根基坚实的宝座。如果我的儿子们个个都想当大汗，想当帝王，不肯相互谦让，岂不是变成了我常讲的故事中那条多头蛇？”
成吉思汗经常喜欢讲一头蛇和多头蛇的故事。这个故事是这样的：在一个寒冷的夜晚，有一条多头蛇为了御寒，想爬进洞去。可是，这条蛇的每一个头都争着要首先钻进洞里，哪个也不肯落在后头，结果，这条多头蛇就冻死在洞口的外面。而另外一条只长着一个头和一条长尾巴的蛇却顺利地爬进洞里，给尾巴和肢体找好安顿之地，从而度过了严寒。成吉思汗用这个故事教育自己的儿子们，要他们同心协力，听从指挥。现在到了病危的时候，他又想起这个寓意深刻的故事来。
“我们俯首听您的命令和吩咐。”窝阔台等跪在地上说。
“若你们想过安乐和幸福的生活，享受权力和富贵的果实，那末，如我近来让你们知道的那样，我的意见是：窝阔台继我登位，因为他雄才大略，足智多谋，在你们当中尤为出众，我意欲让他出谋划策，统率军队和百姓，保卫帝国的疆域。因此，我立他当我的继承人，把帝国的权柄交给他的勇略和才智。我的儿子们，对这想法有何意见？”成吉思汗接着说。
“谁有权力反对您的话，谁有能耐拒绝它？”诸子们异口同声说。
“既然这样，”成吉思汗继续说：“若你们的愿望和你们的话是一致的，若你们的口比着你们的心，你们必须立下文书：我死后你们要承认窝阔台为汗，把他的话当作肉体的灵魂，不许更改今天当着我的面决定的事，更不许违反我的法令。现在察合台不在我的身边，也应该使他不生叛乱之心。”
窝阔台的弟兄们遵照他的圣训，立下了由窝阔台继承大汗位的文书。
成吉思汗的病情愈来愈恶化，在他临死的时候，他对拖雷和诸大将嘱咐了灭亡金国的方略：“金朝的精兵在潼关，潼关南据连山，北靠大河，难以一下子攻破。如能假道南宋，宋金世仇，必能同意，那时即出兵唐、邓，直捣开封。这时，金朝必从潼关征兵。潼关数十万兵千里赴援，必然人马疲敝，虽能赶来却不能作战，攻破开封是必然的。”后来窝阔台灭金，基本上遵循了这一方略。
他又嘱咐左右诸将，死后秘不发丧，待李到期来朝谒时，把他杀掉，并对西夏都城实行屠城。后来诸将果然按成吉思汗的嘱咐执行了。
1227年七月己丑（公历8月25日），成吉思汗在清水县西江病逝，终年六十六岁。
成吉思汗诸子和诸将领们护送成吉思汗的灵柩到达克鲁伦河河源的大斡耳朵，为了做到秘不发丧，沿途遇人便杀。来自大蒙古国东西各地的成吉思汗诸子、诸弟、诸王及其后裔，陆续赶到漠北，举行了隆重的丧礼，成吉思汗的遗体埋葬在斡难、克鲁伦、土剌三河的发源地不尔罕山的起辇谷。