В 1853 году Алексей был принят в число братии Оптиной пустыни, будучи 23 лет от роду, а старец Макарий сказал матери будущего инока: "Благословенна ты, добрая женщина, на такой хороший путь отпустила сына!".
Алексей всей душой отдался под духовное руководительство преподобного Макария, который воспитывал его с особенной любовью. Старец вел Алексея суровой тропой иноческого подвига, не отнимая от него множество скорбей и искушений, выпавших на долю юного подвижника. Эти скорби создавали в усердном ученике старца доброе иноческое устроение и закаляли его дух в терпении.
С первых лет пребывания в обители его жизнь была посвящена служению ближним. Когда он работал на кухне, у него не оставалось времени даже на сон, да и спал-то он здесь же, на дровах; а для уединенной молитвы он уходил далеко в лес. Внизу башни, где он жил в первое время, кололи дрова, и постоянные головные боли от стука топоров и недосыпания мучили юного послушника. Часто переводили Алексея из келлии в келлию, тем самым также испытывая его терпение. В тиши монашеской обители среди трудов, чтения святоотеческих творений и откровения помыслов перед старцем зачиналась и развивалась та духовная опытность, которая впоследствии поставила его рядом с великими Оптинскими старцами. Преподобный Макарий, видя в нем особенное расположение к молитвенному подвигу, сам стал обучать молодого инока молитве Иисусовой, однако за своей занятостью благословил Алексея кроме него обращаться за духовным наставлением и к преподобному Амвросию.
Когда скончался старец Макарий (1860), Алексей горько оплакивал своего авву, но большим утешением в этой утрате было то, что у него остался другой наставник, отец Амвросий, с которым его еще более сблизило общее горе. Впоследствии отец Анатолий сам рассказывал о своих чувствах, которые он испытал при кончине старца Макария: "Как я чувствовал эту потерю, я не могу даже выразить, но вместе с тем, у меня на душе была Пасха — я боялся на минуту отойти от гроба и потерять свое радостное настроение, я ощущал сильное благоухание, и это очень утешало меня, грешного".
В 1862 году послушник Алексей Зерцалов был пострижен в мантию с именем Анатолий. В 1866 году он был посвящен в сан иеродиакона. В 1870 году рукоположен в сан иеромонаха, а уже в следующем году был назначен настоятелем Спасо-Орловского монастыря с возведением в сан архимандрита. Но любовь к родной Оптиной и старцу Амвросию заставила его отказаться от почетного назначения.
Со временем преподобный Амвросий стал посылать отца Анатолия в гостиницу для паломников утешать скорбящих, а когда счел его вполне созревшим для наставления других, то стал постепенно вводить его в старческий труд, готовя себе ближайшего сотрудника и помощника.
Преподобные старцы, оказывая особенную любовь и заботу об отце Анатолии, вели его суровой тропой иноческого подвига, и много пришлось ему перенести скорбей и тягостей пустынного жития. Старцы же не отнимали от него этих скорбей, а напротив, обогащали ими с благой целью создать в нем доброе иноческое устроение и закалить его дух в терпении.
Так, однажды в Оптину пустынь приехал Преосвященный Игнатий (Брянчанинов) и пожелал видеть и беседовать с тем из иноков, который опытно проходит святоотеческое учение об умной молитве. Ему указали на отца Анатолия, бывшего в то время иеродиаконом. Епископ дважды посылал за ним, но смиренный инок не спешил на зов. Наконец Преосвященный, встретившись с отцом Анатолием, заметил ему, что он удивлен тем, что в Оптиной есть такие гордые монахи. Тогда отец Анатолий спросил у старца, который сейчас же велел ему идти.
Преосвященный принял его очень ласково, и они долго беседовали о разных духовных предметах. Прощаясь, Преосвященный сказал ему, что очень рад встретить такого образованного инока: и знакомого со светскими науками, и опытного в предметах духовных.
Возвращаясь от Преосвященного, отец Анатолий встретил своего старца, шедшего из скита и окруженного толпой инокинь и других лиц. Старец спросил отца Анатолия: "Ну, что же тебе сказал владыка?". Отец Анатолий в простоте души все передал старцу. Тогда он начал при всех бить его палкой, говоря: "Ах ты, негодяй, что вообразил о себе, что он такой умный! Ведь Преосвященный из любезности сказал тебе так, а ты и уши развесил, думая, что это правда!". Со стыдом отошел от старца молодой иеродиакон, а старец сказал бывшим с ним лицам: "Ведь вот как не пробрать, он монах внимательный, умный, образованный и уважаемый людьми, — долго ли загордиться? Вот и надо было смирить его". Так мудрые наставники оберегали своих питомцев от пагубного самомнения.
В 1874 году отец Анатолий был назначен братским духовником, благочинным скита, а затем и скитоначальником. Он принял свое назначение со смирением единственно из послушания своему старцу, к которому по-прежнему продолжал относиться с верой и покорностью; сделавшись начальником, он до конца жизни отца Амвросия не изменял своего обычая становиться перед ним на колени во время беседы. Одна особа приехала в Оптину; ее позвали к старцу. Когда она вошла в его келлию, то увидела стоявшего на коленях перед ним весьма представительного монаха, которого она не знала. Благословив приезжую и указав на монаха, старец сказал: "Рекомендую тебе, это — мой начальник". Особа эта была поражена смирением того и другого.
С должностью начальника скита отец Анатолий принял на себя и должность духовника, и все касавшееся внешней и внутренней жизни скитского братства он предлагал на рассмотрение старца; когда требовалось сделать какому-нибудь брату выговор или наложить наказание, он прежде спрашивал, что и как сказать. Таким образом, монастырь и скит с их начальниками и старцами составляли единое стадо с единым пастырем.
В своих новых должностях преподобный Анатолий был великим и самоотверженным тружеником. Ничто не ускользало от его взора, и он ревностно заботился о внешнем успокоении братии, стараясь получше устроить их жизнь с ее несложными, но строгими порядками. Для этого он внушал братии нести свое послушание с усердием и добросовестно. Так, однажды постом он сделал строгое внушение скитскому пекарю за то, что хлеб был испечен плохо; начальник пояснил ему при этом, как много огорчения доставила его небрежность истомленной постом и службами братии.
Теперь, когда отец Анатолий был обременен различными делами, заботами и неизбежной суетой, душа его еще более искала отдыха и, испытывая голод духовный, стремилась подкрепить себя молитвой и чтением. Поэтому, когда выдавалась свободная минута, отец Анатолий спешил уйти в лес и там, где-нибудь в глуши, зримый одним Богом, питал свою душу богомыслием и молитвой.
После открытия в 1884 году Шамординской Казанской Горской женской общины преподобный Амвросий, тяжелобольной, назначил туда духовником иеромонаха Анатолия. Преподобный Амвросий говорил шамординским сестрам: "Я редко беру вас к себе на беседу, потому что я за вас спокоен: вы с отцом Анатолием". Преподобный Анатолий имел необыкновенно милостивый, сострадательный характер. Если он узнавал о чьем-нибудь горе, то так волновался, что у него возникала сильная головная боль, а потом начинало болеть и сердце. 21 год отечески окормляя шамординских сестер, старец входил во все их нужды, как духовные, так и житейские; первым его вопросом всегда были слова: "У тебя все есть?".
Смотря на иноческую жизнь как наиболее приспособленную для всецелого служения Господу, старец Анатолий при каждом случае пояснял сестрам высокое значение этой жизни и ее частностей. На общежитие он смотрел как на прекрасную школу для выработки смирения и терпения:
"Общежитие умерщвляет страсти, а то в норе и змея тихо сидит. Если разных камней положить в мешок и трясти, то камни сделаются гладкими и круглыми, так и в общине монах сглаживается скорбями".
Он говорил:
"Дева, посвятившая себя Богу, должна всячески удаляться не только худых дел, но и мыслей; ее душа должна блестеть чистотою и предстать непорочною Жениху-Христу. Идя по монастырю, не размахивай руками, не гляди в окна, всем, кого встретишь, кланяйся, не ходи без дела по келлиям, сиди дома и будешь покойна. Если монах будет держаться келлии, то будет преуспевать в духовной жизни и молитве, а если он ходит по келлиям, то потеряет мир душевный и будет никуда не годным".
Высоко славя иночество, он еще выше ценил старческое окормление (воспитание или руководство). Про себя он говорил, что дня не мог пробыть, чтобы не быть у старца и не открыть своих помыслов. "Откровение положено святыми отцами, чтоб легче спастись, так как откровение облегчает тяготу душевную, это я на себе испытал, — писал он одной своей ученице, — а страсти искоренять начинай с самоукорения, познания своих (а не сестринских) немощей, и считай себя достойною скорбей. Такая жизнь успокоит тебя". Пользу откровения, в частности, он определял в том, что оно развивает сознание и болезнование о своей греховности, от чего рождается столь необходимое для дела спасения смирение. "Люблю, — говорил старец, — тех, кто все откровенно говорит о себе. Враг не может ничего посеять там, где все открывается духовному отцу". Вообще о покаянии он говорил так:
