Дело осложнялось ещё и тем, что Рокоссовский пришёл в Войско Польское не на пустое место. До него министром национальной обороны Польши был маршал Михал Роля-Жимерский. Во время Второй мировой войны он командовал Армией Людовой, военным формированием Польской рабочей партии, созданной в 1944 году на основе Гвардии Людовой, а также части Батальонов Хлопских, отрядов народно-рабочей милиции Рабочей партии польских социалистов, Союза борьбы молодых и отдельных отрядов Армии Крайовой. В отличие от более польской Армии Крайовой, где национальный дух порой перехлёстывал через край, в Армии Людовой воевали не только поляки, но и евреи, а также советские граждане, бежавшие из плена красноармейцы, белорусы, украинцы. Оружие и боеприпасы Армия Людова получала в основном со складов Красной армии и по партизанским каналам, проложенным по украинскому и белорусскому Полесью. Генерал Роля-Жимерский объединил все разрозненные подразделения в единую армию под крылом Люблинского комитета, подконтрольного Ставке Верховного главнокомандования и Кремлю. Бур-Коморовский называл отряды Армии Людовой «коммунистическими бандами». Популярность Жимерского была чрезвычайно велика не только в войсках, но и в той части польского общества, которое придерживалось просоветской идеологии и так или иначе связывало будущее страны с могущественным восточным соседом, который только что одержал блистательную победу над Германией. Именно Красная армия Советского Союза, включив Войско Польское в боевые порядки 1-го Белорусского фронта, подарила полякам возможность принять участие в завершающей схватке — Битве за Берлин. После Победы Сталин высоко оценил роль маршала Польши и наградил его высшим советским орденом Победа»: «За выдающиеся заслуги в деле организации вооружённых сил Польши и за успешное проведение боевых операций Войска Польского в решающих битвах против общего врага — гитлеровской Германии».

И вот Роля-Жимерский, по сути дела, смещён и заменён маршалом польского происхождения из Советского Союза. Для «хорошего поляка» Рокоссовский, пожалуй, во всех отношениях был неполноценным поляком: служил и прославился в Русской, а потом и Красной армии, женился на русской, да и в младенчестве был крещён в православную веру. В ортодоксально католической стране это было хотя и допустимо, но со многими условиями. А их-то, эти условия, как вскоре станет очевидным, сталинский маршал выполнять не стремился.

Странно было Маршалу Советского Союза и кавалеру высших орденов армии-победительницы начинать свою карьеру в стране, которую он когда-то покинул. Польша по-прежнему оставалась его родиной, но это была уже далёкая страна, почти чужая. В ней остались его детство, юность, сестра, родня, но не оказалось места для настоящего.

Рокоссовский сразу же потребовал от польского правительства увеличения расходов на армию. Бюджет военных расходов стал расти и в первой половине 1950-х годов достиг 15 процентов валового внутреннего продукта. Для бедной аграрной Польши, нуждавшейся в восстановлении разрушенного войной хозяйства, такой бюджет оказался крайне напряжённым.

Рокоссовский был введён в состав высшей государственной элиты. Ему пошили великолепный мундир маршала Польши, на который он тут же повесил звёзды Героя Советского Союза и орденские колодки. Одновременно с должностью министра национальной обороны он занял пост заместителя председателя правительства, а в 1950 году был избран членом Политбюро ЦК ПОРП. Рокоссовский был полным хозяином в польской армии и за непродолжительное время, пользуясь поддержкой правительства ПНР и, конечно же, Сталина, сумел создать из разрозненных по своей природе и идеологии формирований полу-партизанского типа регулярную армию. Войско Польское вскоре имело прекрасно обученные и способные выполнять задачи любой сложности сухопутные войска, ракетные соединения, войска ПВО, авиацию и военно-морской флот.