Первый раз таланты Щербины как крупного хозяйственника проявились в Иркутске, где в 1951-1955 годах он занимал должность секретаря, а в 1955-1961 годах - второго секретаря Иркутского областного комитета КПСС. Иркутская область богата полезными ископаемыми - древесиной, железной рудой, цветными металлами. За десять лет руководства Щербины огромный запас природных ресурсов удалось превратить в не менее впечатляющий объем выпуска промпродукции. Так, именно тогда была построена Иркутская гидроэлектростанция, начато строительство знаменитых Братской ГЭС и Ангарского нефтехимического комбината.
В 1961 году Щербину "перебросили" на работу в другой тогда еще "дикий" регион - Тюменскую область. "Это полтора миллиона квадратных километров неосвоенной территории. Когда Щербина туда приехал, в регионе не было ни одного километра автомобильных и железных дорог, ни одного аэропорта", - вспоминает соратник Щербины, видный советский государственный деятель нефтегазовой отрасли Владимир Чирсков.
Уже в декабре 1961 года Щербина отправляет в Москву записку с обоснованием огромных перспектив Тюменской области в добыче нефти и газа. Ход она получила не сразу. Но в мае 1962 года после долгих дискуссий и экспертиз было принято постановление Совмина СССР "О мерах по усилению разведочных работ на нефть и газ в районах Западной Сибири". Фактически оно коренным образом изменило регион. В нем говорилось не только о расширении геологоразведочных работ, но и о строительстве баз, дорог, пристаней, взлетно-посадочных полос, создании новых образцов техники.
После этого открытия нефтяных и газовых месторождений посыпались как из рога изобилия. Только за 1965 год было открыто двенадцать нефтяных и газовых месторождений, включая известнейший Самотлор. Тюменская область тогда стала главным нефтедобывающим регионом страны и остается им по сей день. Так, Чирсков не скрывает, что считает сегодняшний объем поступлений нефтедолларов в бюджет главным результатом деятельности Щербины.
Такие заслуги не могли не остаться незамеченными наверху. С 1973 года Щербина становится министром строительства предприятий нефтяной и газовой промышленности. При нем СССР строил новые трубопроводы и разрабатывал новые месторождения, что позволяло продавать все больше углеводородов на внешних рынках.
В начале 1984 года Щербина становится зампредом совета министров СССР. В 1986 году Щербина возглавил комиссию по расследованию причин и ликвидации последствий катастрофы на Чернобыльской АЭС. Он был на месте аварии уже вечером 26 апреля, а следующей ночью ему пришлось принимать решение об эвакуации десятков тысяч людей из 30-километровой зараженной зоны вокруг Припяти. Комиссия под его руководством занималась также тушением пожара на станции, строительством саркофага над четвертым энергоблоком, возобновлением работы уцелевших энергоблоков. Скорее всего, полученная там доза облучения подорвала здоровье Щербины.
Но в 1988 году он успел ликвидировать последствия мощнейшего землетрясения в Армении. Щербина, руководя штабом, привлек к работе спасателей из Чехословакии и Австрии, имевших обученных собак и тепловизоры для поиска людей под завалами. Чирсков вспоминает, что уже после Армении Щербина попал в больницу, но все же решил потом отправиться с главой государства Михаилом Горбачевым в Чернобыль. В самолете у Щербины случился инфаркт, после которого он уже не смог оправиться. Он умер 22 августа 1990 года.
Чирсков вспоминает, что одной из главных черт Щербины была любовь к порядку. Он также обладал даром общаться с кем угодно и сплачивать вокруг себя людей. "За ним надо было успевать, но многим это оказалось не по плечу", - констатирует Чирсков.