Командовать этой странной «армией» был назначен Тайра Корэмори, самурай, который отступил от Фудзигава. Под его началом были Тайра Митимори, Тайра Таданори, Тайра Цунэмаса, Тайра Киёфуса и Тайра Томомори. Они выступили 10 мая. Снабжение армии было так плохо организовано, что, когда они отошли всего на девять миль от Киото, у них кончились припасы. В дальнейшем армии предстояло кормиться с земли, уже опустошенной голодом и эпидемией. Фуражиры действовали как грабители; Тайра подобно саранче уничтожали все, что нашлось на узкой полоске земли между озером Бива и горами. По иронии судьбы провинция Оми была исконной территорией Тайра, она выставила многих солдат для их армии. Опустошение полей, которые едва оправились от стихийных бедствий 1181 г., вынудило жителей бежать. Многие солдаты, несомненно, последовали их примеру.
Единственными людьми, которых ни мародерство, ни дезертирство солдат совершенно не волновало, были их командиры, не имевшие практически никакого военного опыта. Корэмори и Митимори уже ушли далеко вперед, а остальные военачальники остановились у озера Бива для знакомства с местными достопримечательностями и даже нашли время прокатиться на лодке, чтобы Цунэмаса, который считался одаренным поэтом, смог посетить знаменитый Бамбуковый остров и обрести вдохновение. «Так красиво было вокруг, что Цунэмаса со спутниками поспешили покинуть лодку и, выйдя на берег, любовались прекрасным видом».
Подобные эмоции, несколько смягчающие традиционный образ самурая, были не совсем уместны в обстоятельствах, когда армия, которой командовал поэт, разбегалась быстрее, чем продвигалась вперед.
Тем временем передовые отряды Тайра уже приближались к своему Рубикону. Древняя граница между Оми и самыми южными провинциями Хокурикудо, Вакаса и Этидзэн проходила по вершине хребта высотой 800 метров. Достигнув вершины, многие самураи, должно быть, остановились, чтобы взглянуть на сверкавшее в лучах солнца озеро Бива, посмотреть в сторону Киото, лежавшего где-то в пятидесяти милях к югу, и испытали наплыв более искренних чувств, чем те, что выражены в стихах Цунэмаса. Недаром равнины вокруг Киото именуются «внутренними» или «домашними» провинциями. Спускаясь вниз по склону, самурай навсегда терял из виду родные земли. Глядя на длинный изгиб побережья Японского моря, на встающие на севере грозные скалы, он чувствовал, что не просто вошел в провинцию Этидзэн, но вступил на вражескую территорию.
Если Тайра и задавали себе вопрос, где же находится их противник, то вскоре их любопытство было удовлетворено. К 17 мая, примерно через неделю после того как войско покинуло столицу, авангард Тайра наткнулся на часть армии Ёсинака – гарнизон, который тот поставил в провинции Этидзэн, в месте, известном как Хиутияма. Занимаемая им позиция называлась Хиутидзё, или «Замок Хиути». Это была даже не крепость, а возвышенность, укрепленная частоколом, земляным валом и камнями. Строители «Замок Хиути», по-видимому, хорошо учли особенности местного рельефа. Он занимал выгодную позицию среди скал и расселин. Минамото сделали перед ним запруду, и поднявшиеся воды горной речки заполнили ров. Согласно «Хэйкэ моногатари», один предатель из гарнизона пустил стрелу с запиской в лагерь Тайра, посоветовав им разрушить плотину и осушить ров. Странно, что осаждавшие сами не додумались до этого, однако они последовали совету и вскоре сумели захватить укрепление.