После краткой стоянки и осмотра в Ньюкасле «Ермак» направился в Баренцево море. В ночь на 8 июня вблизи южной оконечности Шпицбергена ледокол впервые встретился с полярными льдами. При столкновении со льдами в корпусе открылась течь, и Макаров принял решение вернуться в Ньюкасл. При осмотре корабля выяснилось, что сломана одна из лопастей носового винта. После короткого совещания с инженерами было принято решение снять носовой винт как не оправдавший себя в полярных морях. После ремонта, занявшего месяц, адмирал вновь отправился в полярные моря. Но вновь при попытке пробить паковые льды корабль получил повреждения. Во время плавания экспедиция Макарова встречалась с экспедициями других стран, корабль осмотрели знаменитые учёные из разных стран, включая принца Монакского. Сделав ряд научных наблюдений, корабль возвратился назад и 16 августа прибыл в Ньюкасл. Во время плавания в Атлантике кораблю удалось пережить тяжёлый шторм, когда крен достигал 45 — 47°, а частота качки составляла до 16 качаний в минуту. Штормом сбило метеобудку на ходовом мостике, в трюме возник пожар, и лично адмирал руководил ликвидацией последствий аварий.
Возвращение «Ермака» в Ньюкасл вызвало волну выступлений недоброжелателей. Была создана комиссия во главе с недоброжелателем Макарова адмиралом Бирилёвым Ф.Ф. Врангеля поразило то злорадство, с которым бывшие сторонники говорили о неудаче адмирала и сравнивали его с неудачей строительства первого жёсткого дирижабля графа Ф. Цеппелина LZ-1 в Германии. Как всегда, такие критиканы не видели дальше своего носа, и «Ермак» и построенные Цеппелином воздушные корабли уже через несколько лет стали символом своего времени, а некоторым из недругов пришлось на себе испытать силу ударов с воздуха кораблей германского графа. Его имя стало синонимом жёсткого дирижабля и именем нарицательным. Жаль, что такого не произошло с ледоколами. Да и противники Макарова не обратили внимания на тот факт, что корабль совершил длительное плавание во льдах Баренцева моря и доказал возможность активного плавания в замёрзших морях.
Комиссия Бирилёва вела работу не по разбору реального положения дел, а стремилась доказать, что сама идея большого ледокола и его конструкция неверны. Но Макаров не сдавался, и для реабилитации себя в глазах общественного мнения он пишет книгу «“Ермак” во льдах», где опроверг все выводы комиссии. Снятый во время плавания фильм был продемонстрирован царю и членам его семьи с комментариями С.О. Макарова. В это время ледокол завершил ремонт, а фирма начала проектирование новой носовой оконечности для «Ермака» с учётом отказа от носовой машины. Причём эти работы были выполнены за счёт Армстронга.
Вернувшись в Кронштадт, ледокол приступил к работе. Уже 13 ноября ему пришлось выводить из внезапно замёрзшего Морского канала затёртые льдом суда Успешно осуществил «Ермак» снятие с мели крейсера «Громобой» (крейсер вынесло на мель льдом). Особенно отличился «Ермак» при спасении броненосца береговой обороны «Апраксин», выскочившего на камни острова Гогланд Следуя к Гогланду, «Ермак» вывел изо льдов на чистую воду затёртый в них крейсер «Адмирал Нахимов». Уже одни эти события показали необходимость наличия такого корабля в составе флота на Балтике. Стоимость спасённых кораблей многократно превосходила стоимость постройки ледокола. Успехи на Балтике способствовали реальной оценке дел. Созданная постоянная комиссия во главе с адмиралом Чихачёвым признала необходимость усиления его конструкции и проведения нового плавания в Карское море, но не рекомендовала плавания корабля в высоких широтах. В это время «Ермак» вошёл в историю первого практического применения радио в ходе операции по спасению рыбаков на оторванной льдине 24 января 1900 г. В мае того же года «Ермак» убыл в Ньюкасл для переоборудования. Получив новую носовую часть, корабль успешно работал в зимнюю навигацию 1901 г. Был поднят вопрос о новой полярной экспедиции. После долгих споров было решено новый поход «Ермака» направить на изучение Новой Земли и её восточной оконечности. В это время вышла книга адмирала, посвященная первому плаванию. Среди адресатов, которым она была отправлена, был и старший брат адмирала Яков Осипович. По его мнению, плавание было ужасным, о чём он и написал Степану Осиповичу.
Но и экспедиция с ограниченными целями не принесла успеха. Ледовая обстановка в этом году была исключительно тяжёлой. 8 июля в 60 милях к западу от Северной Сульменевой губы ледокол был зажат льдами и попал в ловушку, в которой пробыл до 6 августа. Только изменение ветра позволило вырваться из западни. В дальнейшем ледокол совершил два плавания к берегам Земли Франца-Иосифа и успешно выполнил своё задание по съёмке западных берегов Новой Земли.
Во время ледовой стоянки совершались выходы на лёд с научными целями. Среди одного из таких походов адмиралу представилась возможность продемонстрировать своё хладнокровие и личную смелость. Будучи в плавании на ледоколе «Ермак», С.О. Макаров отрицательно относился к охоте на белых медведей, считая её ненужной, но через несколько дней после того как он отругал охотников за ненужную добычу, ему самому пришлось лицом к лицу столкнуться с разъяренным зверем Подпустив его на 5 метров и не потеряв уверенности, Степан Осипович вынул браунинг и уложил медведя выстрелом в голову. Вес того был 20 пудов (больше 320 кг), из него сделали чучело и поставили на входе в кают-компанию ледокола.
Но плавание 1901 г. дало противникам Макарова новые козыри, и царь принял решение ограничить плавание «Ермака» только водами Балтики, а ведение им передать от адмирала Отделу торгового мореплавания. Попытки вновь организовать экспедицию при жизни адмирала успеха не имели. Однако возможности ледокола как исследовательского судна были продемонстрированы. Макаров считал, что путешествия на собаках не могут дать должного эффекта. «Нельзя заниматься наукой в условиях, когда затруднительно даже внести несколько строк в записную книжку и когда все силы надо расходовать на потребности, вызываемые самим передвижением», — говорил он. Но неуспех первых плаваний ледокола привёл к тому, что исследования Арктики продолжались на деревянных судах. Была построена шхуна «Заря», на которой Э. Толль отправился на поиски Земли Санникова и погиб во время санного похода во льдах, подтвердив выводы адмирала. Поэтому исследования арктических вод начинают проводить специально построенными ледокольными судами «Таймыр» и «Вайгач».
Успешной была работа «Ермака» по проводке ледоколом коммерческих судов на Балтике. Оказывал он помощь и аварийным судам в 1908 г, среди которых был и крейсер «Олег». Постоянно росло число судов, проведённых через льды. В навигацию 1907/08 гг. их было 106, а в 1912/13 гг. свыше 200! Продолжает он спасать унесённых в море рыбаков (например, в январе 1911 г.). Летом 1905 г. была предпринята попытка нового поход в Карское море, но у Югорского Шара ледокол ударился о не нанесённый на карту риф и получил пробоину, но сумел сняться с него своими силами, перейти в Ньюкасл на ремонт и вернуться на Балтику.
Особого упоминания заслуживает роль «Ермака» в Ледовом походе Балтийского флота. Только благодаря этому ледоколу были спасены большинство кораблей Балтики, ставших впоследствии основой Советского флота. Макарова критиковали, что задуманный им корабль дорог, но как оценить стоимость спасённых им в 1918 г. военных кораблей? По оценкам, она достигала 500 миллионов золотых рублей! Если бы его не было, то Россия навсегда бы лишилась ВМФ. Кстати, после революции «Ермака» пытались переименовать в «Степана Разина», но это имя не прижилось, а после окончания боевых действий на Балтике ледокол вернулся к своему прямому делу — проводке судов во льдах и при необходимости к спасательным работам. В 1929 г., когда замёрзло всё Балтийское море, ледокол был зафрахтован Германией для оказания помощи более 100 вмёрзшим во льды судам. Пришлось выводить изо льда даже германские ледоколы.
В 1930-х гг. усилия всей Советской страны были обращены на освоение Северного морского пути. В 1934 г. среди ледоколов, действующих в Арктике, появляется и «Ермак». На его борту начинает базироваться небольшой гидросамолёт-амфибия Ш-2. В 1938 г. ледокол понадобился для спасения дрейфующей станции СП-1. Форсированным темпом был завершён ремонт, и ледокол отправился в Гренландское море для спасения И. Папанина и его товарищей. Хотя первыми к льдине подошли «Таймыр» и «Мурман», но в Ленинград полярников доставил «Ермак». Но в Арктике сложилась неблагоприятная ледовая обстановка. В лёд вмёрзли 25 судов, в том числе и ледоколы. Главной силой в спасении пяти вмёрзших в лёд караванов стал «Ермак». С 1 июля ему удалось вывести караваны и 17 судов на чистую воду. В августе удалось пробиться к каравану с ледокольным пароходом «Садко» на широте 82°45', но удаётся вывести лишь два судна из трёх. Имевший повреждения руля «Седов» пришлось оставить на зимовку из-за того, что льдинами обломало вал и винт правой машины «Ермака». В этот день «Ермак» установил рекорд свободного плавания во льдах, достигнув 83º5' северной широты. Ему удалось вывести «Садко» и «Малыгина» из ледовою плена, несмотря на аварию левой линии вала.
