За период с 1961 по 1965 год Демьяненко снялся на разных киностудиях в нескольких картинах, однако лишь три из них можно записать в актив его удач: комедия-сказка «Каин XVIII» (1963), приключенческий фильм «Сотрудник ЧК» (1964, 5-е место в прокате — 32,1 млн. зрителей) и политический детектив «Государственный преступник» (1964). Последняя картина в прокате 1965 года заняла 3-е место, собрав на своих сеансах 39,5 млн. зрителей. Ни один фильм с участием Демьяненко до этого не достигал такой отметки. Однако в том же году актера ждал еще более грандиозный успех.

В 1964 году режиссер-комедиограф с «Мосфильма» Леонид Гайдай готовился к постановке своей очередной комедии — «Операция «Ы» и другие приключения Эдика» (именно так в первоначальном варианте звали главного героя комедии). На главную роль — студента Эдика — пробовались около сорока различных актеров, однако ни один из них не подошел режиссеру. И тогда кто-то из группы внезапно сообщил: «В Ленинграде работает прекрасный актер Александр Демьяненко. Он же вылитый Эдик!» Так впервые на горизонте у Л. Гайдая возник наш герой. Буквально в те же дни он сел на «Красную стрелу» и отправился в Ленинград. Как заявляет сам Александр Демьяненко: «Я как прочел сценарий «Операции «Ы», понял, что фильм обречен на успех, — «ничего подобного в нашем кино тогда не было».

Съемки фильма начались в Москве летом 1964 года. Александр Демьяненко вспоминает: «В Шурике я ничего не играл, просто существовал в предлагаемых обстоятельствах. Мы были похожи в отношении к людям, я и с Алексеем Смирновым, игравшим громилу Федю, избегал общения: он казался мне человеком неуправляемым, капризным, даже завистливым, с очень специфическим пониманием доброты. Не монтировались мы и с Моргуновым. А с Никулиным, Вициным контакта не получалось, потому что они гораздо старше, у них другие интересы, другой взгляд на актерство…

Фильм «Операция «Ы» вышел на экраны страны в 1965 году и мгновенно стал лидером проката — он занял 1-е место, собрав на своих просмотрах 69,6 млн. зрителей. На фестивале в Кракове новелла «Наваждение» из этой картины была награждена главным призом. Как потом признавался сам Л. Гайдай, даже он не ожидал такого оглушительного успеха.

Оглушительный успех этой картины сослужил неплохую службу и нашему герою — в 1965 году ему было присвоено звание заслуженного артиста РСФСР.

Между тем, вдохновленный восторженными откликами на свою картину, Л. Гайдай в 1966 году приступает к съемкам очередных приключений Шурика — теперь уже на Кавказе. И вновь — грандиозный успех. «Кавказская пленница» в прокате 1967 года занимает 1-е место, собрав 76,54 млн. зрителей!

Безусловно, конец 60-х годов в творчестве Демьяненко был самым плодотворным периодом. Ворвавшись благодаря своему Шурику в обойму самых известных советских актеров, он тогда усиленно пожинал плоды огромной зрительской популярности. Все у него спорилось: и поездки с гастролями по стране, и работа в дубляже различных картин (в «Мертвом сезоне» (1968) герой Д. Баниониса говорит голосом Александра Демьяненко), и съемки в новых фильмах. Например, в 1967 году режиссер Ярополк Лапшин пошел на риск и пригласил нашего героя на драматическую роль — приказчик Илья Сохатых — в свою картину «Угрюм-река». Остальные режиссеры, видимо, введенные в заблуждение образом Шурика, приглашать Александра Демьяненко на серьезные роли просто боялись. Как вспоминает сам актер:

«Возникла чудовищная пауза, когда не было никаких предложений, — просто катастрофа. Выпивал. Потом друзья начали вытягивать на эпизоды. В моменты простоя выручали встречи со зрителями (я их не очень люблю, актерских баек у меня нет, не верю, когда коллеги говорят, что такое общение заряжает их творческой энергией, но это заработок) и дубляж.