С января 1923 года по апрель 1925 года Пауль Гауссер командовал 3-м батальоном 4-го пехотного полка. С апреля 1925 года служил начальником штаба 2-й дивизии, с 1 января 1927 года — командиром 10-го пехотного полка, с 1 июля 1927 года — командиром учебного полигона Мюнзинген. С декабря 1930 года — командующим пехотой 4-й дивизии и командир Магдебургского военного отдела. 31 января 1932 года Пауль Гауссер вышел в отставку в чине генерал-лейтенанта.

С февраля 1933 по апрель 1934 года возглавлял Берлинско-Бранденбургскую земельную организацию Союза солдат-фронтовиков Стальной Шлем (Штальгельм), примыкавшего к Германской (Немецкой) Народно-Национальной партии, Г(Н)НП. В марте 1933 года Пауль Гауссер вступил в штурмовые отряды НСДАП, получив звание штандартенфюрера (полковника) 125-й резервной бригады СА.

5 ноября 1934 года он вступил в ряды Шуцштаффеля (служебное удостоверение СС № 239 795) и вскоре был назначен комендантом (директором) Брауншвейгского юнкерского училища СС. На этом посту Пауль Гауссер разработал учебный план училища, сделав основной упор на физическую подготовку юнкеров. Действия Пауля Гауссера заслужили высокую оценку рейхсфюрера СС Генриха Гиммлера. 1 августа 1935 года штандартенфюрер СС Гауссер был назначен инспектором юнкерских училищ СС. С 1 июня 1936 года по 1 октября 1937 года Пауль Гауссер был начальником Оперативного управления Главного управления СС, а с 1 октября 1936 по 10 августа 1939 года — Инспектором частей СС особого (специального) назначения и отвечал за военную подготовку всех военизированных формирований СС, за исключением частей СС Мертвая голова.

1 мая 1937 года Пауль Гауссер вступил в ряды НСДАП (партийный билет № 4 138 779). Именно он настоял на введении в частях СС-ФТ камуфлированной формы одежды. Под его непосредственным руководством были сформированы первые полки «зеленых СС» — Дойчланд, Германия и Дер Фюрер. 18 мая 1939 года была сформирована дивизия СС особого (специального) назначения (СС-Ферфюгунгсдивизион), переименованная впоследствии в дивизию СС Рейх (а затем — в дивизию СС Дас Рейх) под командованием Гауссера. Однако командование германского вермахта, опасавшееся чрезмерного усиления боевй мощи Шуцштаффеля(«партийной армии НСДАП»), приняло решение не использовать дивизию Гауссера в качестве единого целостного соединения, поэтому входившие в нее полки СС действовали в составе различных формирований вермахта. В период Польской кампании Гаусссер, оказавшись в роли «комдива без дивизии», состоял при штабе танковой дивизии генерала Вернера Кемпфа. 8 октября 1939 года Пауль Гауссер был назначен командиром моторизованной дивизии СС Рейх.

В 1940 году он участвовал во главе своей дивизии в военных действиях в Нидерландах, Бельгии и Франции. В июне-августе 1940 года был начальником Командного управления Ваффен СС в Главном оперативном управлении СС. В марте 1941 года 2-ядивизия СС Рейх под командованием Пауля Гауссера была передислоцирована в Румынию и приняла участие в быстротечной Балканской кампании против Югославии и Греции.

С июля 1941 года «папаша» Гауссер сражался на германо-советском фронте. В июле части моторизованной дивизии СС Рейх под его командованием уничтожили 103 неприятельскх танка и разбили советскую 100-юдивизию. 8 августа 1941 года Пауль Гауссер был награжден Рыцарским крестом Железного креста. 14 октября в бою на Бородинском поле он попал под обстрел советских гвардейских реактивных минометов-«катюш» (или, говоря по-немецки, «сталинских органов»), был тяжело ранен и лишился правого глаза. В декабре 1941 года дивизия СС Рейх была переформирована в бронегренадерскую (мотопехотную).

После выздоровления Пауль Гауссер, назначенный в марте 1942 года командиром бронегренадерского (мотопехотного) корпуса СС (с 1 июня 1942 года — II танкового корпуса СС), руководил пополнением корпуса (бронегренадерских дивизий СС Лейбштандарт СС Адольфа Гитлера, Дас Рейх и Мертвая голова) во Франции.