На самом деле Григорий не собирался позволять иностранному королю становиться императором. Он даже предусмотрительно отказался от кандидатуры Отакара Чешского, поскольку германские электоры все равно бы его не избрали. Среди германцев наиболее вероятным кандидатом был Генрих Баварский, дядя и наследник Конрадина. Но хоть он и разделил семейное наследство со своим братом Людвигом, который стал пфальцграфом, Генрих все равно был слишком могущественным. К тому же он и не стремился занять императорский престол. Его брат, граф Людвиг, предложил свою кандидатуру. Как пфальцграф, он входил в число князей-электоров, но единственный голос, на который он мог рассчитывать, был его собственный. Следующей кандидатурой являлся граф Отто Ангальтский, но он был совершенным ничтожеством. Наконец, Фридрих, бурграф Нюрнберга, родоначальник династии Гогенцоллернов, предложил кандидатуру Рудольфа Габсбургского, ландграфа Эльзаского.
Рудольф был хорошим кандидатом. Он был человеком, известным своим опытом и набожностью, высокого роста, с довольно суровой наружностью и спокойным и учтивым нравом, пятидесяти пяти лет от роду. Его семья была традиционно предана Гогенштауфенам, и сам Рудольф неоднократно подвергался анафеме за услуги, оказываемые этой династии; в последний раз его отлучили от церкви, когда он сопровождал Конрадина до Вероны. Он был только графом империи, а не князем, но зато он был богат. Владения семьи Рудольфа располагались в Северо-Западной Швейцарии, где в его собственности находилась большая часть страны, расположенная между Рейном, Аарау и озером Люцерн, к тому же он недавно унаследовал богатое графство Кибург, которое находилось приблизительно на территории современного Цюрихского кантона; еще Рудольф владел большей частью Верхнего Эльзаса. Таким образом, он пользовался уважением, был богат, но не слишком могущественен. К лету 1273 г. он оказался наиболее подходящим кандидатом для германцев. Но электоры не спешили принять решение. Вольные города империи уже объявили, что примут только того, кто пройдет единогласное голосование выборщиков — в отличие от князей, они больше не хотели неопределенности и анархии. В августе Григорий написал суровое письмо выборщикам, где говорилось, что, если они не завершат свое дело в установленные сроки, он сам назначит Римского короля. Одновременно Рудольф получил поддержку в Германии, пообещав, что в случае его избрания он не будет отчуждать никакие земли, принадлежащие короне, без разрешения князей.
Ландтаг был в итоге назначен на 29 сентября 1273 г. 11 сентября три электора от духовенства, архиепископы Кельнский, Майнцский и Триерский, совместно с пфальцграфом выпустили манифест, в котором говорилось, что они примут любого, кого другие князья согласятся назвать. Похоже, они были уверены, что герцог Иоганн Саксонский и маркграф Бранденбургский решили поддержать Рудольфа. Отакар Чешский все еще надеялся на свое избрание и отказался голосовать за кого-либо другого.
Отакар сам не явился на заседание, но прислал епископа Бамбергского в качестве своего представителя, дав ему указания чинить как можно больше препятствий процедуре выборов. Остальные князья ответили на это заявлением, что король Чехии не имеет права участвовать в выборах и что статус седьмого электора должен принадлежать герцогу Баварскому. Таким образом, они получили возможность единогласно поддержать Рудольфа. Он был провозглашен Римским королем во Франкфурте 1 октября и коронован в Ахене 24 октября.188
Григорий, возможно, предпочел бы, чтобы выбрали Отакара, но, несмотря на гневный протест короля Чехии, выраженный в письме, Папа принял выбор электоров, выказав всяческое великодушие и сердечность.189 Прошло несколько месяцев, прежде чем Папа формально признал выборы состоявшимися, и только к следующему сентябрю он пригласил Рудольфа, Римского короля, приехать в Рим, чтобы короновать его императорским венцом. Но до тех пор Папа давал понять, что рассматривает Рудольфа как законного короля, и тепло встречал его представителей на Лионском соборе.190
Избрание Рудольфа вернуло Германии надежду. Не все ожидания сбылись, но его мудрое и осторожное правление смогло восстановить порядок в стране и заложить основы ее процветания в следующем столетии; а его победоносная война с Отакаром принесла Рудольфу и его потомкам контроль над Австрийской и Штирийской провинциями, которые послужили впоследствии основой могущества Габсбургской династии. Для Карла избрание Рудольфа было дипломатическим поражением. Появление действующего избранного императора неизбежно подрывало его авторитет в Северной Италии и воодушевляло его врагов. Главным недругом Карла на тот момент была Генуя. В ноябре 1272 г. он спровоцировал войну, арестовав все товары и всех граждан Генуи, которые находились в пределах его владений, за исключением гвельфов. Генуэзское правительство обратилось к Папе, который осудил Карла, но рекомендовал генуэзцам восстановить гвельфов у власти в своем городе. Но в то же время, стремясь организовать крестовый поход, Папа пытался помирить Геную и Венецию, между которыми последние десять лет происходили более или менее серьезные столкновения в восточных водах. Венецианцы были готовы прийти к некоторому соглашению. В своем искреннем обращении к Генуе они указывали на то, что у них у обоих есть опасный сосед, который оставит их в покое, только если они объединятся. Но хотя власти обоих городов, возможно, и рады были бы примирению, вражда между их купцами на Востоке была слишком серьезной. Переговоры ни к чему не привели.191
Открытая вражда между Карлом и генуэзцами вспыхнула в конце 1272 г. Генуэзцы сохранили свои позиции. Единственным достижением Карла был захват их порта Аяччо на Корсике. Но осенью 1273 г. Карл предпринял более активные действия и атаковал со стороны Тосканы и Пьемонта. До того момента генуэзцы не вступали в союзы с другими гибеллинскими городами в надежде снискать благосклонность Папы. Но Григорий ничего для них не сделал, так что в конце октября они заключили союз с Павией и Асти, пообещав свою поддержку Альфонсу Кастильскому, который собирался вторгнуться в Ломбардию в запоздалой надежде заявить свои права в качестве избранного императора прежде, чем выборы в Германии вообще состоятся. Альфонс оказался бесполезным союзником, но Генуя уже оказалась втянутой во всеобщий мятеж северных гибеллинов против Карла Анжуйского.192
Война с Генуей стоила дорого, а Карлу и так пришлось потратиться на восстановление своего флота после Тунисского крестового похода. Он не мог планировать новый поход на Константинополь, пока Папа Григорий не сообщит о своих пожеланиях касательно церковной унии. Григорий хорошо знал Восток и понимал то, чего не понимал никто со времен его великого предшественника Урбана II: для успешного крестового похода необходимо добровольное сотрудничество восточных христиан. Бессмысленно было полагать, что возрождение Латинской империи поможет в этом деле. Предыдущий опыт доказал обратное. Но если бы Византийская империя добровольно покорилась Риму, она могла бы стать бесценным союзником. Григорий выбрал правильный момент, поскольку окруженный врагами со всех сторон император Михаил Палеолог очень боялся нападения из Италии. Если покорение Риму было единственным способом нейтрализовать Карла, тогда в Константинополе следовало серьезно задуматься о политике церковного подчинения. Михаил был осторожным дипломатом. Он понимал важность союза с папством, но до сих пор его попытки угодить Риму оканчивались неудачей. Когда новый Папа прислал Михаилу написанное в дружественном тоне приглашение присутствовать на Соборе, посвященном объединению церквей, византийский император незамедлительно ответил, хотя церковная уния означала бы принижение его собственной церкви. Михаил видел в этом единственный способ сохранить за собой трон и ошибочно надеялся, что его народ поймет, что политическая независимость стоит этой жертвы.193
Григорий X был достаточно проницателен: он понимал, что для Константинополя главным аргументом в пользу объединения церквей служит опасное положение, в котором оказалась Византийская империя. Поэтому он не собирался улаживать политические трудности императора Михаила, пока не получит от него четкое заявление в пользу церковного подчинения Риму. Это заявление следовало сделать даже раньше, чем делегаты из Константинополя успеют прибыть на Вселенский Собор для обсуждения подробностей унии. Тем временем Григорий слегка надавил на императора, запретив любому западноевропейскому государству, например Венеции, желавшему вступить в договор с Михаилом, заключать с византийцем долгосрочные соглашения. Папа также намекнул, что не сможет все время сдерживать Карла, но пока что сицилийскому королю было запрещено предпринимать какие-либо враждебные действия. Напротив — его обязали предоставить гарантии безопасности любому византийскому послу, который проезжал через его владения на своем пути в Рим. Церковные переговоры продолжались весь 1273 г.