Нескольких месяцев хватило, чтобы разрушить политическое образование, укрепленное волей Гогенштауфенов. Они попытались залатать трещины, которые когда-то разрушили целостность империи. Снова проявились слабые места, четко выраженные и глубокие, как только князьям стало известно о смерти Генриха VI. Те, кто склонялся к династической преемственности, считали, что следует избрать совершеннолетнего. Королевская власть в руках ребенка будет чисто символической, а ситуация была слишком серьезной, чтобы фиктивный правитель, даже самый очаровательный, мог с ней справиться. Тогда 8 марта 1198 г. они выбрали младшего сына покойного императора, Филиппа Швабского. Этот красивый молодой человек, самый любезный из членов семьи, был, несомненно, очаровательным, но от отца он унаследовал лишь приветливость, оставляя старшему черты, необходимые для руководителя. И вот 9 сентября князья, предпочитавшие избирательный характер имперской власти, выдвинули против Филиппа Оттона, одного из сыновей Генриха Льва. Во время ссылки отца он рос в Англии и получил от короля Ричарда графство Пуату. Он был поистине богатырского роста и уверенно чувствовал себя только в бою. Храбрый до безрассудства, он был лишен внутренней силы, которая закаляет душу от уныния. Его кидало от дерзости к состоянию подавленности. Ни один из соперников не был достаточно сильным, чтобы главенствовать. «И будет две головы под одной короной», — сокрушался миннезингер Вальтер фон дер Фогельвайде. В действительности за двумя соперниками теснились их сторонники. Со стороны Оттона были Кельн со своим архиепископом, тешивший себя возможностью укрепить связи с Англией, в частности коммерческие и финансовые. В противоположность этим торговцам, воины, министериалы предоставляли свои услуги только представителям рода Гогенштауфенов.

Самые лучшие из этих доверенных лиц упорно боролись, чтобы сохранить для наследника их господина его итальянские владения. На Сицилии борьба была более тяжелой, так как Констанция выступила против них и договорилась с папским престолом, чей сюзеренитет она признавала, и согласилась сделать папу законным опекуном ее сына. Однако немцев не полностью оттеснили. Маркварду Анвейлерскому удалось даже отвоевать после смерти Констанцы в 1198 г. Палермо, в котором Фридрих-Роджер на протяжении нескольких лет находился под суровой властью матери. Он не смог воспрепятствовать курии провести «возврат имущества», которое, как она утверждала, было неправомерно узурпировано императором. Эта операция была проведена твердой рукой папы Иннокентия III, который взошел на святой престол 8 января 1198 г. Он был в расцвете сил, ему не было и сорока лет, никакие усилия его не отталкивали. «Человек создан, чтобы трудиться, как птица создана, чтобы летать», — говорил он. Благодаря обучению в Париже, а потом и в Болонье он стал отличным теологом и почти таким же отличным знатоком права, чего долгое время не замечали. Ему удавалось избежать ригидности, которая замыкала некоторых интеллектуалов в не подлежащей изменению схематичности. Проницательный наблюдатель за реальностью, он без колебаний лавировал, чтобы достичь своей цели, вопреки ветрам, дующим навстречу, невзирая на средства их достижения. «Окунув руку в смолу, нельзя достать ее чистой», — признавал он. Политика не была его первоочередным заданием. Он хотел вывести церковь из тени на свет, переделать ее под единственно достойную модель, Христа. В этом отношении речь, которую он произнес по поводу Пасхи в 1215 г. на открытии IV Лютеранского собора, очень четко демонстрирует его позицию. Церковь для выполнения своей миссии нуждается в свободе; недопустимо, чтобы Рим попал в окружение империей; ей необходимы простор и гарантия независимости через восстановление ее государств. В конечном счете светская власть, даже имея некоторую автономию в своих владениях, не имеет права пользоваться ею по своей прихоти. Эта власть получает свою миссию от папы, который в случае необходимости должен проверять, достойна ли она такой передачи полномочий. Личность Иннокентия III была на целую голову выше двух принцев, оспаривавших право на корону. Равновесие между империей и папством, с таким трудом установленное Фридрихом I, было нарушено.

Иннокентий III заявил в 1198 г., что ему полагается судить соперничество между Филиппом и Оттоном. Князья, как духовные, так и светские, бессмысленно пытались протестовать в Шпейере в 1199 г. против этого вмешательства папы в дела империи, в 1120 г. был оглашен вердикт, сформулированный в «Решении проблемы империи». Как того и следовало ожидать, он высказался в пользу Оттона, который уступил императорские права в Центральной Италии и признал сюзеренитет святого престола над нормандским государством. С кандидатом-Вельфом окружения можно было избежать. Но Иннокентий III по-другому аргументировал свое решение. Его размышления, дополненные в 1202 г. декреталией Per venerabilem,касались в первую очередь основоположений. Да, в 800 г. была передача прав империи, но ее провел папа, отняв у греков и отдав франкам. Его преемнику полагалось засвидетельствовать соответствие кандидата империи, и проверка этого была бы невозможной при наследовании империи; а представитель Гогенштауфенов, рода гонителей церкви, означал бы победу династического принципа. К тому же избрание Филиппа было недействительным, ему не хватало голосов важных выборщиков.

Но поддержка папы не обеспечила победу партии Вельфов. У Оттона было больше союзников за пределами государства, чем приверженцев внутри Германии. Филиппу удалось пройти повторное избрание и коронацию в Ахене; даже Кельн оставил Оттона в 1206 г. Будучи реалистом, папа Иннокентий III повернулся в сторону того, кто побеждал. В мае 1208 г. переговоры привели к компромиссному решению в обмен на несколько договоренностей, которые обязывали обе стороны к тяжелым, но сносным уступкам. Папа согласился признать Филиппа, но в это время новый поворот судьбы напрочь разрушил надежды тех, кто уповал на разрешение конфликта. По личным мотивам Баварский пфальцграф убил Филиппа в Бамберге 21 июня 1208 г. Конечно империя могла бы достичь мира под скипетром Оттона, Оттона IV, поскольку папа, вновь поддерживая его сторону, 4 ноября 1209 г. короновал его в Риме. Даже министериалы перешли в другой лагерь: Оттон взял в жены невесту своего соперника, и эта свадьба через брачный союз сделала из него в некотором роде Штауфена. Сразу после коронации Оттон влез в шкуру своих предшественников, Фридриха и Генриха. Призывы немцев, крепко стоявшие на своем на Сицилии, достигли его, и в ноябре 1210 г. он отправился в путь с твердым намерением восстановить то, что папе не без труда удалось развалить. Реакция Иннокентия III не заставила себя долго ждать. Оттон, не выполнивший своих обязательств, был незамедлительно отлучен от церкви, позже, реагируя на советы, приходящие из Франции, папа вспомнил о Фридрихе-Роджере, молодом короле Сицилии, чьим наставником он был. Он побудил противников Оттона IV его избрать, что те и сделали летом 1211 г.

Фридрих-Рожер отправился в дорогу после недолгих колебаний. Его неуверенность понятна: на Сицилии его власть не была очень устойчива, что же он найдет в другом месте? По дороге в Рим он получал поощрения папы, но переезд через Ломбардию был трудным; ему еле удалось улизнуть от миланцев. Как встретят немцы нового «короля священников», покорный инструмент папской политики? Констанция готовилась к встрече с Оттоном IV, когда легат заставил город принять его конкурента. Это было сигналом, что мнения резко изменились. «Дитя Апулии», увенчанного славой имени Гогенштауфенов, будто бы пронесли на волне народного воодушевления, подстегиваемого папскими благословениями и французскими деньгами. Снова избранный князьями, которые опять же встали не на его сторону в декабре 1212 г. во Франкфурте, он не смог бы вытеснить Оттона из его Кельнского бастиона, если б Филипп-Август в Бувине 22 июля 1214 г. не одержал победу над союзником Иоанна Безземельного. Оттон переправился через Ла-Манш и вплоть до своей смерти в 1218 г. оставался потенциальным врагом, которого следовало остерегаться. Фридрих II — теперь можно называть его так — и не подумал разрывать связи, соединяющие его с папством. В 1213 г. в Эгерской Золотой булле подтвердил все концессии, которые Оттон IV предоставил Курии, в частности возвращение владений в Италии, а также отказ от условия Вормсского конкордата, в котором говорилось о присутствии императора на избрании епископов. Кроме того, Фридрих решил выступить против ересей. Как только последние сторонники оставили Оттона IV, Фридрих отправился в Ахен, где полвека тому назад его дед сделал Карла Великого святым. После коронации он поместил мощи императора в богато украшенную раку, на боковых поверхностях которой был изображен он сам рядом с суверенами, которые до него продолжали дело первого императора Запада. Затем, чтобы оставаться до конца верным тому, кого легенда сделала первым крестоносцем, Фридрих поклялся также отправиться в крестовый поход. Он взял под свою защиту не только цистерианцев, но и рыцарей тевтонского ордена, великий магистр которых, Герман фон Зальца, стал его советником и другом. Фридрих имел желание ознакомиться с Германией, которую он покинет только в 1220 г., на свой лад практикуя странствие верхом, предписанное обычаем. Эти годы можно назвать его Wanderjahre, временем, которое молодые ученики проводят, объезжая страну. Когда в августе 1220 г. он отправился на коронацию в Рим, ученичество «Дитяти Апулии» завершилось.