7 мая началось наступление на Прагу. Малиновский задействовал для этой цели четыре общевойсковые армии, одну танковую армию и одну конно-механизированную группу, которые с воздуха поддерживали 1100 самолетов 5-й воздушной армии. Основной удар Малиновский осуществлял, как ему и предписывалось, из района Брно, разворачиваясь затем к участку германской 1-й танковой армии, которая входила в состав группы армий «Центр». 8-я армия, сосед справа 1-й танковой армии, должна была подвергнуться ударам советских войск только 8 мая.

Тем временем командованию 8-й армии стало известно о результатах переговоров Рендулича с американцами, после чего генерал-полковник уже 6 мая отдал приказ подчиненным ему командующим армиями о прекращении военных действий против американской армии с 8.00 7 мая. К вечеру того же дня эти армии должны были отойти с удерживаемых ими участков Восточного фронта в западном направлении. В то время как русские сосредотачивали на своем фронте артиллерийские и пехотные силы 8-й армии, генерал Крейзинг, равно как и другие командующие армиями группы армий, готовили добровольный отход с занимаемых ими участков фронта и отступление армий за американскую демаркационную линию. На участке 96-й пехотной дивизии (входившей в XXXXIII армейский корпус) все это выглядело следующим образом: «7 мая генерал Харрендорф еще раз собрал всех командиров своих частей на КП в Мариатале неподалеку от города Холлабрунн. Во время этого совещания царило весьма серьезное и подавленное настроение. Генерал сообщил, что под давлением неприятеля Австрия отделилась от Германского рейха и с 4 мая признана странами антигитлеровской коалиции в границах 1937 года как независимое государство. Ранним утром в Реймсе была подписана капитуляция германского вермахта[132]. Таким образом, война окончена, капитуляция, которая воспрещает всякие передвижения войск, вскоре должна вступить в силу. Речь сейчас может идти лишь о том, чтобы ускоренным маршем продвинуться как можно дальше на запад, чтобы попасть в плен к американцам, 3-я армия которых должна продвинуться до Линца и Ческе-Будеёвице. Сам генерал видит теперь свою задачу в том, чтобы по возможности избавить своих отважных солдат 96-й дивизии от ужасов русского плена…»

После этого вечером 7 мая, передав свой участок фронта моторизованному арьергарду, 96-я пехотная дивизия снялась с фронта и маршем двинулась в направлении на запад. Расстояние между русскими и американскими линиями составляло 90 километров. Этот марш представлял собой бросок в неизвестность, поскольку никто не знал, примут ли американцы капитуляцию дивизии. Так же как и другие командующие соединениями группы армий «Австрия» – за исключением 6-й армии, генерал Харрендорф должен был лично вести с американцами переговоры о капитуляции. Командиру американской 26-й дивизии он никак не мог втолковать, почему американский плен предпочтительнее, если также и русские должны в течение 14 дней отправить взятые ими в плен части на родину. В ходе четырехдневных настойчивых переговоров ему наконец удалось уломать американца. Тот сообщил, что готов принять капитуляцию 96-й пехотной дивизии в своей зоне.