В конце 1918 года Рабцевич пошел добровольцем в Красную Армию. В 1920-м по окончании красноармейской школы командного состава был отправлен на воевавший с поляками Западный фронт и возглавил в 29-м стрелковом полку команду разведчиков. С подписанием Рижского мира в марте 1921 года хлопот у Александра только прибавилось: в последующие четыре года он ловко партизанил на отошедшей к Польше территории Западной Беларуси. Мероприятия, активное участие в которых принимал и Кирилл Орловский, наносили серьезный урон репутации польских властей. На словах поляки похвалялись быстро ассимилировать проживавших в границах их страны белорусов, а на деле вооруженные белорусские партизаны то и дело громко напоминали о себе.
В 1925 году "активную разведку" приказано было свернуть, и Рабцевич на время вернулся к мирной жизни. В деревне Кочеричи в родных местах руководил колхозом, возглавлял Осоавиахим в созданном в 1935 году Кировском районе. Там же с 1938-го заведовал районным отделом здравоохранения. А между двумя должностями районного масштаба была секретная командировка на гражданскую войну в Испании в 1937-м, отмеченная орденом Красной Звезды. Александр Маркович руководил разведотрядом в бригаде республиканской армии: ему удалось лично взять в плен полковника из войск генерала Франко, в одном из боестолкновений отважный белорус был ранен, что впоследствии сказалось на его здоровье.
В конце 1939 года после присоединения к БССР Западной Беларуси Рабцевича перевели в Брест руководить городским здравоохранением. В 1941-м новая большая война, Великая Отечественная, заставила вспомнить навыки разведработы. Он поступил на службу в ОМСБОН - Отдельную мотострелковую бригаду особого назначения НКВД СССР. Летом 1942 года Александр Маркович был переброшен с группой бойцов за линию фронта. Партизанский диверсионный спецотряд НКВД БССР "Храбрецы" под командованием Рабцевича почти сразу же стал наносить настолько наглядно ощутимый урон гитлеровцам, что у тех сложилось впечатление, что против них в лесу действует крупное соединение.
Начинали с дерзкого захвата молочного завода, позволившего расширить отряд за счет советских военнопленных, работавших на этом предприятии. Сильнейшей чертой "Храбрецов" было тщательное планирование операций Рабцевичем, основанное на уникальной ловкости партизан в получении ценнейшей информации. Ее источниками были отъявленные на первый взгляд пособники нацистов - полицаи, старосты, даже бургомистры, а также почтовые служащие и работники военных аэродромов. Полученные сведения использовались как для громких диверсий, так и для отправки на Большую землю, в Центральный штаб партизанского движения, возглавлявшийся главой белорусской компартии Пантелеймоном Пономаренко.
Уже летом 1942 года Москва получила от "Храбрецов" достоверные сведения о гитлеровских военных коммуникациях, включая аэродромы, железную дорогу и склады, в Могилевской, Гомельской и Витебской областях, и в частности о том, что под Оршей имеется хранилище боеприпасов более чем в тысячу вагонов. Свои диверсии партизаны Рабцевича проводили в 14 районах БССР, когда же против них осенью 1942-го немцы бросили целую охранную дивизию, удалось своевременно перебраться в Октябрьский район Гомельской области. Там на реке Птичь близ сожженной нацистами деревни Рожанов база "Храбрецов" располагалась вплоть до освобождения Беларуси летом 1944 года.
Бойцы Рабцевича организовали в общей сложности 218 диверсий, в ходе которых подорвали бронепоезд, пять мостов, 24 танка, 23 бронемашины и 102 автомобиля. Большой ущерб понесли гитлеровцы на железной дороге - "Храбрецы" подорвали 91 вражеский эшелон. Четыре из них взорвались одновременно 30 июля 1943 года на узловой станции Осиповичи, а диверсия эта вошла в историю всей Второй мировой войны. По плану "Храбрецов" подпольщик Федор Крылович, работавший на станции монтером, сначала вывел из строя светофор, а затем в суматохе установил на цистернах с горючим две магнитные мины. В огне страшного десятичасового пожара сгинуло полсотни нацистов, больше шестидесяти вагонов с боеприпасами и танками, большие запасы бензина, угля и продовольствия. Эта история положена в основу снятой на "Беларусьфильме" и вышедшей на экраны в 2021 году картины известного российского режиссера Дмитрия Астрахана "Судьба диверсанта".
После войны Рабцевич служил в органах госбезопасности БССР, осенью 1952-го в звании полковника ушел в отставку. Здоровье все чаще беспокоило прославленного партизана, и 11 апреля 1961 года он ушел из жизни. В белорусском райцентре Кировск его именем названа улица.