К середине 70-х, успев шесть раз стать "Мистером Олимпия", Арнольд решил завязать с бодибилдингом и целиком сосредоточиться на кино. Первое время ему не везло. Везде, куда бы он ни обращался, ему говорили: "Парень, и думать забудь про карьеру артиста. С твоим чудовищным телом и таким же акцентом тебя и близко не подпустят к съемочной площадке". Но Арнольд был парень упрямый. Он продолжал свои попытки и наконец-то вытянул счастливый билет. Все началось с того, что однажды ему удалось попасть на телевидение в передачу "Игра в свидания", которую вела Люсиль Болл. В ней Арнольд предстал в образе наивного иностранца, приехавшего в Америку пять лет назад и так и не научившегося ни хорошо говорить по-английски, ни понимать американский образ жизни. Эту передачу увидел режиссер Боб Рафелсон, который собирался снимать фильм о бодибилдинге "Оставайся голодным". Он и предложил Арнольду второстепенную роль в своем творении - друга главного героя. Фильм вышел в 1976 году и принес Арнольду неожиданный успех: премию "Золотой Глобус" за самый многообещающий дебют. А следующим фильмом Арнольда стала лента Д. Батлера "Качая железо". Это была экранизация одноименной книги, которую написал... сам Арнольд Шварценеггер. После выхода ленты на экран критики писали, что открыли для себя необычайное обаяние Арнольда.

"Качая железо" изменил и личную жизнь Арнольда. Его посмотрел один из представителей клана Кеннеди - Бобби Кеннеди - и пригласил Шварценеггера посетить в качестве гостя теннисный турнир Роберта Ф. Кеннеди, который проходил в Форест Хиллз в штате Нью-Йорк. Арнольд приехал туда 28 августа 1977 года, и там состоялось его знакомство с сестрой Бобби Кеннеди Марией Оуингс Шрайвер, которая в то время училась репортерской работе на телевидении в Филадельфии и работала телережиссером в Балтиморе. Молодые люди понравились друг другу, и вскоре между ними вспыхнул роман. Причем у Арнольда на тот момент была девушка - 25-летняя ассистентка парикмахера Сью Морэй, но он тут же с ней расстался, едва на горизонте появилась Шрайвер. Как будет вспоминать позднее сам актер: "Мария всегда говорит, что я ей действительно сразу понравился, что это была любовь с первого взгляда. Я в таких делах не спешу. Со временем, больше общаясь с ней и чаще видясь, я полюбил ее".

В том же 1977 году Арнольд подписал договор с компанией "Парамаунт" договор на пять фильмов сериала о воине-богатыре Конане. Однако этот фильм начнут снимать только в начале 80-х, а пока Арнольду приходилось довольствоваться ролями более мелкого масштаба. Например, в том же 77-м он сыграл крохотную роль европейца-бодибилдера в телефильме "Улицы Сан-Франциско". Правда, ему повезло на другом поприще - литературном. Его книга "Арнольд. Воспитание бодибилдера" сразу после выхода стала бестселлером.

В начале 1978 года Арнольд имел шанс вновь выйти на съемочную площадку, да еще в одной из главных ролей. Но он отказался. Дело в том, что ему предложили сыграть молодого любовника 85-летней звезды Голливуда 30-х годов Мэй Уэст в фильме "Секстет". Это предложение его не обрадовало. А вот роль Красивого Незнакомца в вестерне Хола Нидхэма "Негодяй" Арнольда вполне устроила. Он снялся в ней в конце того же 78-го. Затем был эпизод в комедии "Охота на стервятника" (1979) и роль второго плана - бодибилдер и бывший "Мистер Вселенная" - в телефильме "История Джейн Мэнсфилд". Единственным утешением для актера в то время была его любовная связь с Марией Шрайвер да новая победа на поприще бодибилдинга, куда он временно вернулся - в 1980 году Арнольд был провозглашен "Мистером Олимпия" (турнир проходил в Сиднее).