В октябре 1933 года по решению политуправления РККА направлен секретарем бюро ВЛКСМ 63-го отдельного строительного батальона, расквартированного в Советской Гавани Дальневосточного края. Там прошел отличную школу работы с людьми в трудных условиях.

Демобилизовавшись из армии в декабре 1934 года, вернулся в Ленинград. Через год был избран секретарем комитета ВЛКСМ Канонерского судоремонтного завода в Ленинграде, затем переведен в Балтийское государственное морское пароходство, в парткоме которого работал инструктором по воспитанию молодежи. В 1938 году избран секретарем парткома пароходства.

В феврале 1939 года по партийному набору направлен на работу в органы государственной безопасности. Был заместителем начальника отделения Водного разведотдела Транспортного управления УНКВД по Ленинградской области. В 1940 году более семи месяцев находился в плавании в качестве помощника капитана пассажирского судна. Побывал в нескольких странах Адриатики.

Управление НКВД по Ленинградской области жило напряженной жизнью. Ленинград и область ощущали дыхание войны. Только что, в марте 1940 года, закончилась война с Финляндией, но уже в апреле гитлеровские армии захватили Данию и Норвегию. После поражения Франции Германия ввела свои войска в Финляндию. Накануне войны в УНКВД был создан Первый (разведывательный) отдел, который возглавил Сахаровский. Отдел занимался подготовкой разведывательно-диверсионных групп для заброски в тылы противника и операциями по ликвидации немецких парашютистов и других диверсантов.

Ветеран внешней разведки, полковник в отставке Борис Яковлевич Наливайко, который работал с Александром Михайловичем в ту пору в Ленинграде, так вспоминал этот период:

«Я ушел на фронт добровольно и находился в составе 276-го отдельного артиллерийско-пулеметного батальона. Осенью 1941 года вышел указ Сталина о возвращении студентов пятых курсов ряда технических вузов на учебу. В то время я был студентом Ленинградского кораблестроительного института. С мая 1942 года по направлению райкома комсомола я начал работать оперативным уполномоченным в разведывательном отделе, начальником которого был майор Сахаровский. Когда я решил жениться и доложил об этом Сахаровскому, он расспросил меня, кто моя невеста, поинтересовался, сколько мне лет. Было мне тогда 24 года. «Ну, что ж, — сказал Александр Михайлович, — наверное, пора».

Поздравив меня с принятым решением, он написал записку начальнику хозяйственного отделения, по которой мне выдали 300 граммов сала, пол-литра водки и 1 килограмм черных сухарей. Царский подарок к свадьбе!»

Левый берег Невы был передним рубежом обороны Ленинграда. Оттуда организовывались выводы разведывательно-диверсионных групп под Шлиссельбург, в тыл к немцам. Сахаровский выполнял и другие задания, связанные с обороной Ленинграда и прорывом блокады города. В 1945 году участвовал в операциях по ликвидации действовавших на территории СССР резидентуры СД противника и группы вражеских разведчиков из «Абверкоманды-204».

О работе А. М. Сахаровского в тот период в его характеристике, составленной 15 марта 1942 года, в частности, говорилось:

«В период наиболее напряженного положения в Ленинграде лично провел специальную работу по созданию разведывательно-диверсионных групп в городе.

При непосредственном участии тов. Сахаровского было создано и переправлено в тыл противника более 40 разведывательно-диверсионных групп, нанесших оккупантам значительный ущерб в живой силе и технике. Истреблено свыше 100 немецких солдат и офицеров, взорвано 3 железнодорожных моста на коммуникациях противника, систематически нарушалась связь противника с основными штабами, уничтожались огневые точки и автомашины с боеприпасами и вооружением».

За успешные действия в борьбе с немецкими захватчиками Сахаровский в 1942 году был награжден орденом «Знак Почета», в 1943 году — медалью «За оборону Ленинграда».