В те дни в Москве было по-настоящему жарко — шли бои между большевиками и представителями законной власти. Жаров выбрал сторону первых и записался добровольцем в дружину, которая стояла заставой в Камергерском переулке. Но длилось это недолго: в первую же ночь застава вступила в бой с противником и Жаров оказался в самом пекле побоища. Именно тогда он впервые в жизни увидел, как убивают людей. Это произвело на молодого человека такое сильное впечатление, что он после этого слег и три дня провалялся в горячке. И в дружину больше не вернулся.

В 1918 году Жаров стал студентом Театра-студии художественно-просветительского союза рабочих организаций. Но через год руководитель студии Федор Комиссаржевский уехал в Англию и его детище было закрыто. После этого Жаров записывается в Передвижной фронтовой театр, где едва не умирает. Но не от шальной пули какого-нибудь белогвардейца, а от тифа, который свирепствовал в те годы по всей России. В течение девяти дней Жаров валялся в беспамятстве и был на волосок от смерти. Но судьба оказалась к нему благосклонна: он выздоровел.

Жаров вернулся в Москву и поступил в труппу Театра имени Сафонова. Играл почти каждый день: Тринкуло в «Буре» Шекспира, Лепорелло в «Каменном госте» Пушкина, в комедиях Мольера. Однако, несмотря на столь плотную занятость, жил Жаров в ту пору небогато: актерские ставки были небольшими. Поэтому, когда в стране наступил НЭП, Жаров стал параллельно выступать по ночам в частном кабаре «Не рыдай!», которое помещалось в двухэтажном флигеле в Каретном Ряду, близ сада «Эрмитаж». Он пел там куплеты, читал скетчи-диалоги.

В начале 20-х Жаров поступил в Театр РСФСР-I под руководством Всеволода Мейерхольда (1874, Петух), где сразу же стал получать главные роли. Однако спустя пять лет Жарову стало неуютно в этом театре и с этим режиссером (недаром говорится, что «Свинья Петуху не товарищ»), и он уезжает в провинцию: три года играет в Баку, затем один сезон в Казани. На рубеже 30-х Жаров возвращается в Москву и поступает в Реалистический театр. А потом семь лет играет у другого режиссера-Петуха — Александра Таирова (1885) в Камерном театре. Именно тогда к нему и приходит слава. Правда, не в театре (там она придет к нему чуть позже, когда он сыграет Алексея в «Оптимистической трагедии» в паре с гениальной Алисой Коонен), а благодаря «великому звуковому» — кинематографу.

Как мы помним, свою первую роль в кино Жаров сыграл, еще будучи подростком, в 1915 году. Потом, уже став профессинальным артистом, он снялся еще в нескольких немых фильмах, причем среди них было несколько, принадлежащих маститым режиссерам: Якову Протазанову (у него Жаров снялся в пяти картинах), Всеволоду Пудовкину, Борису Барнету, Льву Кулешову. Однако везде талантливому актеру перепадали сплошь одни эпизоды, из-за чего его так и звали — «актер окружения». Так продолжалось до 1930 года, когда режиссер Николай Экк (14 июня 1902 года, Близнецы-Тигр), который работал с Жаровым в Театре Мейерхольда, приступил к съемкам первого советского звукового фильма «Путевка в жизнь», рассказывающего о борьбе с беспризорностью. В нем Жарову была предложена первая главная роль в жизни, но роль необычная: он должен был играть главного злодея — бандитского главаря Фомку Жигана. Услышав это, Жаров удивился: «Убийц играть мне еще никто не предлагал». На что режиссер ответил: «Потому и беру тебя, что ты не похож на жулика и убийцу». Именно эти слова и решили исход дела: Жаров согласился. Хотя на тот момент должен был сниматься у другого режиссера из породы «кошачьих» — Юлия Райзмана (15 декабря 1903 года, Стрелец-Кот) в фильме «Земля жаждет» в роли честного комсомольца.