在平定了内部叛乱后，于公元633年秋，组织三支阿拉伯军队，每支7500人，从阿拉伯半岛出发，经叙利亚沙漠侵入巴勒斯坦和叙利亚。

此时，拜占庭和波斯帝国因长期战争两败俱伤，无力抵抗阿拉伯人的进攻。636年，阿拉伯军队由哈立德率领又向伊拉克、叙利亚进发，首先攻克加萨尼王朝都会巴士拉，尔后占领外约旦的斐哈勒，并乘胜直趋大马士革，围城6个月攻陷该城。

此时，东罗马帝国调兵5万人，解救大马士革。哈立德被迫放弃大马士革，撤至约旦河东支流雅穆克河畔，以25万人采取以逸待劳的战术，打败了拜占庭军队，重新收复大马士革，占领了整个叙利亚。

阿拉伯军队的接连胜利，迫使被围困两年的耶路撒冷于638年自动请降归顺。在进军叙利亚的同时，阿拉伯军队还向伊朗和埃及发动了进攻。

633年，阿拉伯军队占领伊拉克南部的希拉后，开始进军伊朗，伊朗军队用战象作为突击力量，大败阿拉伯军队，曾一度使阿拉伯人深感恐惧。

637年，阿拉伯军队在获得增援后取得卡季西亚会战胜利，轻取波斯帝国首府泰西丰，缴获大量战利品和珍宝。随后，又攻占摩苏尔和讷哈范德两城，将伊朗并入阿拉伯帝国的版图。

639年底，阿拉伯军队对埃及突袭成功，一举攻克皮卢希恩，640年，又在开罗大败拜占庭军队。尔后迅速前推，于642年9月占领亚历山大里亚，进至昔兰尼加，从此，拜占庭失去了埃及。

643年阿拉伯军队攻占利比亚，647年又侵入拜占庭在北非的领地突尼斯、阿尔及利亚和摩洛哥等地。为了进一步控制地中海，阿拉伯征集小亚细亚沿岸居民，建立了一支强大的海军，并迅速占领了地中海几个有战略意义的岛屿。到7世纪50年代，阿拉伯军队向西进占了北非部分省份，向东已逼近印度边境，向北突进至亚美尼亚以北，控制了拜占庭帝国在近东的大部分领土，形成了一个横跨欧、亚、非的新帝国。

659年，由于阿拉伯贵族内讧，阿拉伯军队暂时停止了进一步扩张。661年，倭马亚王朝以叙利亚为基地建立起伊斯兰教阿拉伯帝国的第一个王朝。在平定内乱后，阿拉伯人又重新组织对拜占庭发起新的进攻。

其后就是第二阶段，阿拉伯军队首先以拜占庭沿海城市为进攻目标，派舰队渡过爱琴海，穿越达达尼尔海峡，进入马尔马拉海，在基齐库斯城建立军事基地。

然后在673到677年，阿拉伯舰队连续在每年夏季进攻君士坦丁堡。由于拜占庭军队做好了充分准备，精心布置防卫，并采用一种叫“希腊火”的液体燃烧剂，有效地粉碎了阿拉伯舰队的进攻，保卫了君士坦丁堡。

677年6月，阿拉伯舰队被迫撤离君士坦丁堡，在途经小亚细亚南岸海面时，遭到风暴袭击和希腊舰队阻截，几乎全军覆没，陆军在小亚细亚也遭到惨败。

678年，双方再度签订和约，阿拉伯国家被迫向拜占庭纳贡。

在北非，阿拉伯军队却进展顺利。从697到698年，先是夺取迦太基，从而结束了拜占庭对北非的统治。

709年，阿拉伯军队进抵大西洋沿岸。711年春，一支由300名阿拉伯人和7000名信奉伊斯兰教的柏柏尔人组成的部队进入比利牛斯半岛，趁西哥特王国发生内讧，社会和宗教矛盾重重之，占领了半岛大部分地区，建立起阿拉伯人的统治。

从705到715年，阿拉伯军队侵入中亚细亚的费尔干纳、喀布尔地区。为了占领这些地区，阿拉伯军队与突厥族游牧部落及大唐进行了交战。

712年，阿拉伯军队进入印度，这支军队虽不足6000人，但装备精良，有可拆卸后用骆驼运载的掷石器和攻城器等。阿拉伯军队连续击败印度人后，将印度河谷并入阿拉伯帝国。