Мекканские язычники, изгнавшие мусульман из города и завладевшие всем их имуществом, продолжили свои враждебные действия по отношению к ним. В ответ мусульмане начали перекрывать караванные пути, стремясь тем самым ослабить язычников.
Во 2 году хиджры возле колодцев в местечке Бадр, находящемся в нескольких десятках километров от Медины, произошло первое крупное сражение между мекканскими язычниками и мусульманами. Там небольшой отряд мусульман из 300 человек нанес поражение численно превосходящей их армии мекканцев. Эта победа положительно сказалась на боевом духе мусульман, которые впервые после многих лет гонений и издевательств сумели встретиться со своими мучителями в открытом сражении и победить их.
Спустя год стороны встретились у горы Ухуд, расположенной неподалеку от Медины, но на этот раз успех сопутствовал мекканцам. Однако это поражение не изменило расклада сил в регионе, и мусульмане сумели сохранить почти все свои позиции.
После поражения при Ухуде ухудшились отношения мусульман с иудейским племенем Надир. Они нарушили ряд договоренностей с мусульманами и замыслили покушение на пророка Мухаммада. В результате возникшего конфликта пророк Мухаммад не допустил кровопролития и позволил этому племени покинуть Медину вместе с их имуществом.
Спустя два года после битвы при Ухуде мекканские язычники и их союзники, собрав десятитысячную армию, двинулись на Медину. Однако мусульмане, не обладавшие такими крупными силами (их было около 3000), применили новую для Аравии тактику, вырыв вокруг города ров, через который армия союзников так и не сумела перейти. Развернувшиеся вокруг рва сражения вошли в историю под названием «битва у рва» (Хандак). Положение мусульман стало еще тяжелее, когда иудейское племя Курайза, находящееся у них в тылу, нарушив договор с мусульманами, заключило союз с наступавшими на город язычниками. Однако мусульманам удалось успешно защитить город, и осада затянулась. Язычники не были готовы к такому повороту событий, и среди них начались конфликты и распри. Благодаря дипломатическим действиям пророка Мухаммада мусульманам удалось испортить отношения язычников с курайзитами. Вдобавок к этому, на измотанных язычников обрушился невиданный для тех мест ураган, который нанес им большой урон. В конце концов, мекканцы и их союзники были вынуждены отступить от города, так и не добившись никаких результатов.
После этого мусульмане выступили против курайзитов для того, чтобы наказать их за предательство, и осадили их крепости. В разгоревшемся сражении мусульмане одержали верх, и курайзиты были вынуждены сдать свои позиции. Однако они заявили о том, что сдадутся только в том случае, если они будут судимы тем человеком, которого они выберут сами. Фактически, они отказались от суда самого пророка Мухаммада, и он предложил им выбрать любого из мусульман в качестве судьи. Тогда курайзиты потребовали, чтобы их судил их бывший союзник, один из вождей мединского племени Аус, Саад ибн Муаз, который получил тяжелое ранение в битве у рва.
Мухаммад уступил требованиям курайзитов и публично обещал, что он приведет в исполнение любой приговор, который вынесет Саад ибн Муаз. Он приказал привести его, и, поскольку его состояние было тяжелым, его привезли на носилках. Накануне суда мусульмане, в особенности ауситы, упрашивали Саада ибн Муаза вынести мягкий приговор по отношению к их бывшим союзникам.
Несмотря на это, Саад ибн Муаз неожиданно вынес суровый приговор о казни всех тех, кто сражался с оружием в руках против мусульман. Этих бойцов со стороны иудеев было несколько сотен. Согласно приговору Саада, их имущество, жены и дети перешли в собственность мусульман.
Когда приговор был объявлен, пророк сказал, что это - приговор Бога. Он уже не мог изменить что-либо, так как прежде он обязался исполнить любой приговор, вынесенный Саадом ибн Муазом, которого выбрали для суда над собой сами иудеи-курайзиты, отказавшиеся от суда Мухаммада. Этот приговор был приведен в исполнение.
В 6 году хиджры, впервые за все время противостояния, пророк Мухаммад вместе с 1400 мусульманами неожиданно отправился в Мекку для совершения паломничества. В связи с тем, что они намеревались совершить религиозный ритуал, он запретил им вооружаться. Таким образом, мусульманские паломники подошли к местности Худайбия, расположенной в 17 км от Мекки. Узнав об этом, мекканцы выехали к ним навстречу и перекрыли им путь. Там, в 6 году хиджры был подписан мирный договор между пророком Мухаммадом и представителем курайшитов Сухайлем ибн Амром. В соответствии с условиями договора, мусульмане были обязаны вернуться обратно. Совершить паломничество им было позволено только в следующем году, и они должны были прибыть в Мекку безоружными. Самым тяжелым для мусульман было требование курайшитов о том, чтобы мусульмане возвращали им, по их требованию, своих единоверцев, которые прибывали к ним из Мекки. Против этого пункта выступили некоторые сподвижники пророка. Но пророк Мухаммад принял все условия курайшитов и заключил с ними мирный договор сроком на 10 лет. Как показали последующие события, он проявил дальновидность и политический талант. Именно благодаря этому миру, пусть даже на не совсем приемлемых для мусульман условиях, мусульманское государство сумело укрепиться и распространить свою власть почти на весь Аравийский полуостров.
После заключения этого мира пророк Мухаммад усилил дипломатическую деятельность. Он отправил послания к главам всех близлежащих государств с предложением принять Ислам. В это же время он принял делегацию христиан из Наджрана.
Тем временем иудеи, которые имели ряд хорошо укрепленных крепостей в оазисе Хайбар, находящимся между Мединой и Сирией, вынашивали планы нападения на Медину. В этом оазисе осела часть иудеев, выселенных в свое время из Медины. Узнав об их планах, пророк Мухаммад послал к ним Абдуллу ибн Раваху для переговоров. Однако иудеи отвергли все предложения пророка и заключили с арабским племенем Гатафан союз против мусульман. Тогда около 1600 мусульманских добровольцев отправились из Медины в Хайбар и спустя 3 дня подошли к этому оазису. Там между сторонами произошли ожесточенные сражения. Мусульманам удалось сломить сопротивление иудеев, и те запросили мира. В этих сражениях особо отличился Али ибн Абу Талиб. В результате, одна часть иудеев покинула оазис, но другая осталась там. Вслед за этой победой свою покорность мусульманам выразили иудеи Фадака (к востоку от Хайбара) и Теймы.
В месяце Зулькада 7 года хиджры, в соответствии с договором с мекканцами, пророк Мухаммад вместе с двумя тысячами мусульманских паломников выехал в Мекку. Курайшиты создали условия для посещения ими святых мест, а сами отошли к горам вокруг Мекки, откуда они могли наблюдать за ними.
После этого события из Мекки в Медину прибыли два влиятельных лидера курайшитов - Халид ибн аль-Валид и Амр ибн аль-Ас. Они объявили о принятии Ислама. Халид был талантливым полководцем. Благодаря его тактическим маневрам в свое время курайшитам удалось нанести мусульманам поражение в битве при Ухуде. После принятия Ислама он поставил свой талант на службу молодому мусульманскому государству и внес большой вклад в блестящие победы мусульманских армий на различных фронтах. За его боевые заслуги пророк Мухаммад дал ему прозвище Сайфулла (меч Аллаха).
В 8 году хиджры христиане Сирии жестоко обошлись с послом мусульман аль-Харисом ибн Умайром, убив его. В ответ на это пророк Мухаммад распорядился отправить на север трехтысячную армию. Эту армию возглавлял его вольноотпущенник Зейд ибн Хариса. Перед выступлением этой армии пророк предупредил бойцов о том, чтобы они вели войну только с вооруженными силами противника, не трогали мирное население, проявляли гуманность к пленным и не занимались вандализмом. Он делал это перед каждым походом мусульманских войск.
Когда армия подошла к Маану, выяснилось, что дальнейший путь им преградила стотысячная армия Византии, вассалами которых были арабы-христиане, проживавшие в этом регионе. Однако мусульманская армия не побоялась вступить в бой с многократно превосходящими их силами противника и подошла к Муте - местечку, расположенному к северу от Маана. Там произошло сражение, в котором мусульмане понесли значительные потери. Геройской смертью пал Зейд ибн Хариса, а также другие командиры - Джафар ибн Абу Талиб, Абдулла ибн Раваха, Сабит ибн Аркам. Командование войском взял на себя Халид ибн аль-Валид, который, перегруппировав силы, сумел дать отпор византийцам и обеспечил организованное отступление мусульман.
