(1566 г.) Изъявляя усердие ко благу Церкви, Иоанн хотел дать ей Пастыря отличного Христианскими достоинствами. Выбор пал сперва на Архиепископа Казанского Германа, который долго уклонялся от сана опасного в таких обстоятельствах России и при таком Царе, но должен был, исполняя решительную волю его, согласиться. Уже все Епископы съехалися в Москву; уже написали грамоту избирательную, и Герман несколько дней жил в палатах Митрополитских, готовясь к посвящению. В сие время, беседуя с Иоанном наедине, он хотел испытать его сердце: начал говорить с ним, как должно Первосвятителю, о грехах и Христианском покаянии, тихо, скромно, однако ж с некоторою силою; упомянул о смерти, о Страшном Суде, о вечной муке злых. Иоанн задумался; вышел от него с лицом мрачным, пересказал любимцам своим речи Архиепископа и спрашивал, что они думают? Алексей Басманов ответствовал: «Думаем, Государь, что Герман желает быть вторым Сильвестром: ужасает твое воображение и лицемерит в надежде овладеть тобою; но спаси нас и себя от такого Архипастыря!» Германа изгнали из палат, и Царь искал другого Первосвятителя.
Среди хладных волн Белого моря, на острове Соловецком, в пустыне дикой, но знаменитой в России святостию своих первых тружеников Савватия и Зосимы сиял добродетелями Игумен Филипп, сын Боярина Колычева, возненавидев суету мира в самых цветущих летах юности, и служа примером строгой жизни для Иноков-отшельников. Государь слышал о Филиппе: дарил его монастырю сосуды драгоценные, жемчуг, богатые ткани, земли, деревни; помогал ему деньгами в строении каменных церквей, пристаней, гостиниц, плотин: ибо сей Игумен был не только мудрым наставником братии, но и деятельным хозяином острова, дотоле дикого, неприступного: очистил леса, продолжил дороги, осушил болота каналами; завел оленей, домашний скот, рыбные ловли, соляные варницы; украсил, сколько мог, пустыню; смягчил суровость климата: сделал воздух благораствореннее. Бессмертный Сильвестр кончил дни свои в монастыре Соловецком, любимый, уважаемый Филиппом. Вероятно, что они вместе сетовали о перемене Иоаннова нрава; вероятно, что первый открывал Игумену свою душу, некогда блаженную исправлением юного Царя, устройством и счастием Царства: сии беседы могли приготовить Филиппа к великому его подвигу, хотя он, ревностию труженика удаленный на край вселенныя, и не мог ожидать такой славы. Никто без сомнения не мыслил об нем, кроме Иоанна: отвергнув Германа, Царь вздумал – мимо Святителей, мимо всех Архимандритов – возвести Филиппа на Митрополию, желая изъявить тем свое особенное уважение к Христианским добродетелям, и показать, что самые отдаленные пустыни не скрывают их от глаз его. Филипп, Царскою милостивою грамотою призываемый в Москву для совета духовного, отслужил Литургию, причастил всю братию, и со слезами выехал из своей любимой обители, как бы предчувствуя, что одно мертвое тело его туда возвратится. За три версты от Новагорода встретили смиренного Соловецкого Игумена все жители сей древней столицы с приветствием, с дарами и с молением, да ходатайствует за них пред троном: ибо носился слух, что Иоанн угрожает им гневом. Царь принял Филиппа с отменною честию, обедал, беседовал с ним дружелюбно, и наконец объявил, что ему быть Митрополитом. Пустынный Инок изумился, плакал, не хотел сей блестящей тягости; убеждал его не