Кроме работы в театре, Черкасов довольно активно снимался и в немом кино. Летом 1932 года он сыграл роль постового милиционера в фильме «Встречный».

В 1934 году Черкасов поступает в труппу Ленинградского академического театра имени А.С. Пушкина. Этот приход многими актёрами театра был воспринят с недоумением: зачем нам нужен актёр-эксцентрик, вопрошали они. Возразить им Черкасову было нечего: его первая роль на Малой сцене в комедии «Чужой ребёнок» была лишена всякой драматургии и строилась на одной эксцентрике. Однако уже во втором спектакле — «Вершины счастья» по пьесе Дж. Дос Пассоса — молодой актёр удачно сыграл роль серьёзного сыщика Айка Ауэрбаха. Скептики притихли.

И всё же настоящая слава к Черкасову пришла благодаря кино. В 1934 году он снялся в фильме «Горячие денёчки», а год спустя режиссёр Владимир Вайншток предложил ему сыграть профессора Паганеля в «Детях капитана Гранта» (фильм снимался в августе 1935 – апреле 1936 года). Успех этого фильма был настолько огромен, что после него посыпались предложения от многих режиссёров. Причём роли предлагались непохожие одна на другую. Так в 1936 году он начал одновременно сниматься в роли царевича Алексея в «Петре Первом» и профессора Полежаева в «Депутате Балтики».

В оба фильма актёр попал отнюдь не просто. В первом случае он сам явился к режиссёру Владимиру Петрову и заявил: «Роман А. Толстого знаю наизусть и готов сыграть в фильме роль самого Петра!» Дерзость актёра понравилась режиссёру, и он попросил гримёра загримировать его. Однако Пётр Первый из Черкасова явно не получался. (В театре он всё-таки сыграл Петра, но после успеха Н. Симонова в киноверсии от роли отказался.) Актёр расстроился, и тогда режиссёр внезапно предложил ему роль царевича Алексея. После недолгих колебаний Черкасов согласился.

С ролью во втором фильме тоже помогла случайность. Снимаясь в «Петре», Черкасов захаживал в павильон, где Александр Зархи (он снимал нашего героя в «Горячих денёчках») работал над фильмом «Беспокойная старость» (первое название «Депутата Балтики»). Неожиданно режиссёр предложил актёру почитать сценарий: «Может, подыщешь для себя какую-нибудь роль». Черкасов хотел было отказаться, он ведь был по горло загружен в «Петре», но затем согласился. И, прочитав сценарий, вдруг загорелся ролью профессора Полежаева. «Да какой из тебя старик?» — удивился Зархи. Но Черкасов обладал удивительным свойством убеждать людей. И Зархи сломался. На дворе была весна 1936 года.

Премьера «Депутата Балтики» состоялась 1 января 1937 года в Ленинградском Доме кино и вызвала бурю восторга. Заключительная речь профессора Полежаева утонула в аплодисментах публики. Ни один советский фильм не удостаивался ещё таких оваций. В том же году на Международной выставке в Париже фильм был удостоен высшей премии — «Гран-при».

Летом 1937 года Черкасов внезапно принял предложение сняться в первом советском фильме о Кавказе в непривычной для себя роли — горца Беты. Съёмки картины «Друзья» проходили в горах Кабардино-Балкарии.

Ровно через год после этого актёр начал сниматься в главной роли в фильме Сергея Эйзенштейна «Александр Невский». Причём предложение великого режиссёра застало актёра врасплох. Одной из причин было то, что Черкасов в душе боялся режиссёра Эйзенштейна, он знал, что тот зачастую подавляет индивидуальность актёра. После первой встречи с Эйзенштейном он понял, что им будет трудно работать вместе. Их взгляды на образ Александра Невского расходятся. Однако режиссёр оказался настойчив в своём стремлении заполучить на главную роль именно Черкасова и уговорил актёра работать вместе.