Николай Гаврилович Щербина родился 1 апреля 1919 года в деревне Яковлевка, Николаевской области. Окончил Качинскую летную школу в 1938 году. Лётчик-истребитель, гвардии подполковник.

Участник Великой Отечественной войны с июня 1941 г.  Воевал в составе 19 иап (Ленинградский ВО), 487 иап, 26 гв.иап 2 гв аик, был штурманом полка. К июлю 1944 г. совершил 424 боевых вылета (из них 120 ночных), в 51 воздушном бою сбил 11 самолётов противника, 12 уничтожил на аэродромах.

22 августа 1944 года  Николаю Гавриловичу Щербине присвоено звание Герой Советского Союза.

После войны служил в ПВО, командовал полком. Погиб в авиационной катастрофе 21 ноября 1952 года.