Во время Зимней войны представления как самого Маннергейма, так и правительства о том, как наиболее оптимально строить свою политику, значительно изменились.

В результате он всё же рекомендовал согласиться на предложенные Советским Союзом условия мира, и начал энергично укреплять новую восточную границу.Поскольку мировая война ещё продолжалась, Маннергейм после окончания Зимней войны остался главнокомандующим, хотя этот пост в мирное время должен был занимать президент. Связным главнокомандующего при правительстве был промышленник, генерал Рудольф Вальден. После окончания Зимней войны он стал министром обороны.

После зимней войны уважение к Маннергейму в мире выросло. Иностранные государства, в том числе, например, Германия, искали контактов с ним для решения политических вопросов. Во время Войны-продолжения армия Финляндии захватила территории, утраченные ею по условиям заключённого после Зимней войны мира, а также и часть Советской Карелии. Начиная наступательную войну, Маннергейм десятого июля 1941 года направил в свои войска знаменитый приказ "о ножнах".

Из своего Главного штаба Маннергейм вёл войну в соответствии с ресурсами маленькой страны, осторожно. Впоследствии ему выражалась благодарность за то, что финская армия не двинулась на Ленинград и не была перерезана Мурманская дорога. Но его обвиняли в том, что Англия, в ответ на продолжение Финляндией наступления за пределы её старых границ, шестого декабря 1941 года объявила ей войну.

Авторитет Маннергейма был столь высок, что в политических кругах возникло подозрение, не стал ли Миккели второй столицей страны, и не управляет ли Маннергейм на самом деле Финляндией. Проблемы управления страной в военное время, соотношение сил между правительством, парламентом и главнокомандующим и десятилетия спустя остаются предметом споров.

 Маннергейм остерегался давать политические советы правительству, но несмотря на это его мнение оказывало влияние и на принятие внешнеполитических решений. Формально же ответственность лежала на гражданском руководстве. Конечно, авторитет Маннергейма был столь велик, что он мог бы задать тогдашней политике  Финляндии совсем иную ориентацию, и поэтому на нём лежала огромная ответственность за принятые в то время решения.

Под руководством Маннергейма армия Финляндии смогла поставить заслон масштабному наступлению советских войск в июне-июле 1944.