Родился 19 декабря 1909 года в селе Быково Быковского района Сталинградской области, в крестьянской семье.

В 1931 году окончил Быковский зоотехнический техникум и в течение восьми лет работал зоотехником, старшим зоотехником в совхозах.

В 1940 году окончил ускоренный курс Махачкалинского пехотного училища с присвоением звания «старший лейтенант». В июле-августе 1941 года в должностях командира пулеметной роты 518-го стрелкового полка 129-й стрелковой дивизии участвовал в оборонительных боях под Ельней, а в сентябре - в должности командира батальона этого же полка в Ельнинской наступательной операции. В тяжелых оборонительных боях в «Вяземском котле» в октябре 1941 года, исполняя обязанности командира 518-го стрелкового полка, организовал и успешно вывел из окружения свой полк в составе 205 человек. В дальнейшем участвовал в оборонительных и наступательных боях под Москвой уже в качестве командира 27-го гвардейского стрелкового полка 11-й гвардейской стрелковой дивизии.

В 1942 году при наступлении на жиздринском направлении 27-й гвардейский стрелковый полк вслед за огневым валом успешно прорвал вражескую оборону на всю тактическую глубину, за что Н.В. Харченко был награжден орденом Суворова II степени. Это было редким (если не единственным) случаем награждения командира полка таким орденом.

Летом 1943 года в Курской битве полк первым вышел на железную дорогу Орел-Брянск в районе города Карачев. В течение нескольких дней, находясь в тылу Орловской группировки противника, полк отражал контрудары танковых сил врага, чем обеспечил устойчивое положение войск 11-й гвардейской армии. В декабре 1943 года в должности заместителя командира 11-й гвардейской стрелковой дивизии участвовал в Городокской наступательной операции.

В Белорусской наступательной операции 1944 года и в Восточно-Прусской операции 1945 года неоднократно руководил подвижными группами (отрядами) в ходе преследования противника, при форсировании реки Березины и выходе к заливу Фришес-Хафф, юго-западнее Кенигсберга.

После войны продолжил службу на территории Германии в должностях коменданта района, представителя Советской военной администрации. В 1950-1960 годах работал начальником военной кафедры Белорусской сельскохозяйственной академии. В 1960 году вышел в отставку.

Находясь на пенсии, в течение 17 лет работал директором фабрики. Много сил и времени уделял военно-патриотическому воспитанию молодежи.

Награжден четырьмя орденами Красного Знамени, орденом Суворова II степени, двумя орденами Отечественной войны, орденом Красной Звезды, орденом Британской империи IV степени, медалью «За боевые заслуги», многими другими наградами.