Уступая тяжелым обстоятельствам, малорусс поневоле клонил голову то перед ляхом, то перед "москалем", то перед турком, а в душе не любил никого из них: его заветным желанием было прогнать их всех от себя и жить дома на своей воле. Это между тем было невозможно не только по обстоятельствам, извне влиявшим на Малороссию, но по причине внутренней безладицы, мешавшей всем помыслам и стремлениям направиться к одной цели. Казацкие старшины и вообще люди, у которых горизонт политических воззрений был шире, чем у простолюдинов, пропитаны были совсем иными понятиями, чем какие господствовали у великоруссов. Они чуяли, что русская самодержавная власть посягнет на то, что в Малороссии называлось казацкою вольностию. Уже со стороны великорусских важных лиц делались зловещие намеки на необходимость поставить Малороссию на великорусский образец. По поводу постройки Печерской крепости в Киеве, стали отрывать казаков от хозяйственных занятий и гонять на земляные работы, а великорусские служилые люди, наводнявшие Украину, обращались с туземцами нагло и свирепо. Мазепа был человек своего времени; для него, поставленного на челе власти в своем крае, независимость Малороссии не могла не быть идеалом. При невозможности достигнуть этого идеала он, наравне со своими соотечественниками, мог только втайне вздыхать, а перед великоруссами казался верным слугою царя. Но вдруг явилось искушение и надежда достичь желанной цели. Уже не раз польские сторонники шведского короля делали Мазепе соблазнительные предложения; он их отвергал, потому что не надеялся на успех. Но когда противник Карла и союзник Петра лишился короны, и Петру приходилось теперь одному без союзников бороться с победоносным соперником, когда Петр готовился уже не расширять пределы своего государства, а защищать его средину от неприятельского вторжения, Мазепа увлекся предположением, что в предстоявшем повороте военных обстоятельств победа останется за шведским королем, и если Малороссия будет упорно стоять за Россию, то Карл отнимет ее у России и отдаст Польше, а потому казалось делом благоразумия заранее стать на сторону Карла, с тем чтобы, после расправы с Петром, Малороссия признана была самостоятельным независимым государством. В этом смысле Мазепа стал вести тайные переговоры, но все еще колебался и не открывал своего замысла никому, кроме самых близких; когда же Карл приблизился к Украине, а Меншиков потребовал гетмана к себе на соединение с великорусскими военными силами для совместного действия против Карла, - Мазепа очутился в роковой необходимости выбирать либо то, либо другое: 24 октября 1708 года он присоединился к шведскому войску с несколькими лицами из казацкой старшины, с четырьмя полковниками и отрядом казаков; но те, которые пошли за ним, стали потом уходить от него, когда узнали, куда он их ведет.
Петр, никак не ожидавший такого события, узнал о нем 27 октября в Погребках на Десне, где наблюдал за движениями неприятеля. Он приказал Меншикову истребить дотла Батурин, столицу гетмана. Русские взяли Батурин, 1 ноября, и перебили в нем все живое с такою жестокостию, какою отличались в Ливонии и в собственной земле во время укрощения булавинского бунта. Вслед за тем Петр приказал съехаться в город Глухов, к 4 ноября, малороссийскому духовенству и старшине. Там избран был новым гетманом стародубский полковник Иван Скоропадский, а потом, угождая царю, малороссийское духовенство совершило обряд предания анафеме Мазепы с его соучастниками. После того между Карлом и Мазепою, с одной стороны, и Петром со Скоропадским - с другой, началась полемика манифестами и универсалами, обращаемыми к малороссийскому народу. Карл и Мазепа старались вооружить народ против Москвы, пугая его тем, что царь хочет уничтожить казацкие вольности, а Петр и Скоропадский уверяли малоруссов, что Мазепа имеет намерение отдать Малороссию в прежнее порабощение Польше и ввести унию. Петр приказал сложить с народа поборы, установленные гетманом Мазепою, и в своем манифесте выразился так: "Ни один народ под солнцем такими свободами и привилегиями и легкостию похвалитися не может, как народ малороссийский, ибо ни единого пенязя в казну нашу во всем малороссийском крае с них брать мы не повелеваем".
Малороссия не пошла за своим старым гетманом: интересы простонародной массы были противоположны интересам старшин и вообще богатых и значных людей казацкого сословия. Последние понимали вольность в таком смысле, чтобы привилегированный класс, вроде польской шляхты, управлял всею страною и пользовался ее экономическими силами за счет остального народа - так называемой черни, а простонародная громада хотела полного равенства, всеобщего казачества. Едва только пошла по Малороссии весть, что чужестранцы приблизились к пределам малороссийского края и гетман со старшиною переходят на их сторону, народ заволновался, стали составляться шайки - нападать на чиновных людей, на помещиков, грабить богатых торговцев, убивать иудеев, и Мазепа, задумавший со старшиною доставить Малороссии независимость и свободу, должен был сознаться, что народ не хочет такой независимости и свободы, а желает иной свободы, к которой стремление начинает грабежом и расправою над знатными и богатыми людьми. Те, которые носили казацкое звание и были отличены по правам личным и имущественным от посполитых людей или черни, быть может, пошли бы за своим предводителем, если бы у Карла были большие силы, а у Петра было их мало. Вышло наоборот: казаки увидали, что Карл пришел с малочисленным войском и трудно было ему дополнять его из далекого своего отечества, а Петр явился с ратью, вдвое превосходившею силы его соперника; войско Петра беспрестанно увеличивалось и готово было безжалостно разорять малороссийский край, если казаки станут заявлять расположение к шведам.
Царь стал в Лебедине. Карл занял Ромны, взял Гадяч, потом потерял Ромны. Наступили такие суровые морозы, каких не помнили в Малороссии деды и прадеды. Птицы замерзали, летая по воздуху. Воины отмораживали себе руки и ноги. Шведы терпели более русских, потому что одеты были легче; это уменьшило силы Карла, а силы Петра увеличивались прибывавшими рекрутами.
В начале января 1709 г. шведы взяли местечко Веприк, и тем ограничились их успехи. Петр услышал, что Карл возбуждает турок идти на Россию и сам намеревается двинуться на Воронеж. Это побудило Петра оставить войско и ехать в Воронеж, чтоб распорядиться там относительно своих кораблей. Он поехал в начале февраля и осматривал в Воронеже и Таврове корабельные работы; вместе с мастеровыми собственноручно сам работал, в то же время занимался внутренними делами и даже поправлял печатаемые в то время ведомости, календари и учебные книги. Со вскрытием рек царь спустил в Таврове на воду новопостроенные корабли и, несмотря на нездоровье, отправился вниз по Дону в Новочеркасск, где приказал казнить Илью Зерщикова, напрасно думавшего избавиться выдачею Булавина, посетил Азов, осмотрел Троицкую крепость, несколько раз плавал по Азовскому морю, производя морские эволюции, а в мае возвратился к войску степью, через Харьков.
Между тем в отсутствие Петра продолжались военные действия со шведами; две стычки под Красным Кутом и Рашевкою, хотя довольно кровопролитные, не имели важных последствий, но очень важным делом была расправа с запорожцами. Кошевой Костя Гордиенко, приставши к Мазепе, увлек все товарищество; запорожцы обесчестили присланных к ним царских стольников, которые привезли милостивую царскую грамоту, денег на войско и в подарок старшинам. Замечательно, что запорожцы, всегда державшиеся интересов черни в борьбе с казацкою старшиною, и на этот раз заявили такое требование, которое было противно как Петру, так и Мазепе: чтобы в Малороссии не было старшины и чтобы весь народ был вольными казаками как в Сечи. Гордиенко отправился затем с запорожцами в Малороссию; к нему начала приставать чернь из Переяславльского полка; Гордиенко провозглашал всеобщую казачину и приказывал народу на обеих сторонах Днепра собираться и бить старшин. Тогда, по приказанию Петра, полковник Яковлев из Киева двинулся на судах вниз по Днепру, разбил полчища, собравшиеся у Переволочны, доплыл до Сечи и после упорного сопротивления взял ее приступом. Большая часть из находившихся в Сече запорожцев пала в битве; до трехсот человек взято в плен и казнено по приказанию государя. Но в Сече оставалась тогда небольшая часть всего запорожского коша; остальные с Гордиенком и со всею старшиною успели пробраться через Малороссию, разбили русский отряд полковника Кампеля и соединились с Карлом.
Когда, 31 мая, Петр возвратился к войску, Карл, устроивши свою главную квартиру в Опошне, уже около двух месяцев занимался осадою Полтавы: он надеялся в ней найти большие запасы. Полтавский комендант Келин не только отвергал всякие предложения к сдаче, но делал смелые вылазки и наносил урон неприятелю. Царь, явившись из путешествия в свое войско, расположенное под Полтавой на другой стороне Ворсклы, известил о своем прибытии коменданта письмом, брошенным в пустой бомбе: Петр принял намерение переправить войско на другую сторону и дать генеральную битву, чтобы освободить Полтаву от осады. Переход через реку совершался несколько дней; 20 июня русские были уже на другой стороне реки и расположились лагерем, который стали укреплять шанцами. Шведы попытались в последний раз взять Полтаву приступом, но были отбиты, и Полтава освободилась от осады. Готовясь к битве, Петр откладывал ее со дня на день до прибытия 20000 калмыков, но Карл, узнавши об этом, приказал двинуть войско в битву, 27 июня, на рассвете. Шведскою армиею предводительствовал Реншильд. Сам Карл XII получил перед тем рану в ногу и, сидя в качалке, велел возить себя по полю битвы. Всею русскою армиею командовал фельдмаршал Шереметев, артиллериею - Брюс, правым крылом генерал Ренне, а левым - Меншиков. Сам Петр участвовал в битве, не избегая опасности: одна пуля прострелила ему шляпу, другая попала в седло, а третья повредила золотой крест, висевший у него на груди. В это-то время, ободряя своих воинов, он сказал знаменитые слова: "Вы сражаетесь не за Петра, а за государство, Петру врученное... а о Петре ведайте, что ему жизнь не дорога, только бы жила Россия, слава, честь и благосостояние ее!" Через два часа участь битвы была решена. Шведы были разбиты наголову и бежали, оставивши более 9000 на поле битвы. Бежавшим шведским войском командовал Левенгаупт. Сам фельдмаршал Реншильд с тремя генералами и тысячей воинов взяты в плен. Карла едва спасли от плена: его качалка досталась русским. Главный министр шведского короля, граф Пиппер, со всею королевскою канцеляриею явился в Полтаву и сдался русским. На поле битвы в тот же день Петр устроил пир, пригласил к нему шведских военнопленных генералов, возвратил им шпаги, обласкал, хвалил за верность своему государю и, наливши кубок вина, сказал: "Пью за здоровье вас, моих учителей в военном искусстве". - "Хорошо же отблагодарили ученики своих учителей!" - ответил Реншильд 5.