Ратная служба во все времена считалась делом хотя и нелегким, но почетным и славным. В 1920-е годы человек в военной форме был окружен заботой и любовью народа. Красный командир олицетворял собой в глазах людей благородство, достоинство, мужество. Для мальчишек военный был кумиром. Поэтому Алексей не сильно сопротивлялся наказу комсомола. Полгода назад курсанты Красноярской артиллерийской школы проходили через Кемерово, останавливались в городе на привал. Для горожан устроили показ действий боевых расчетов орудий, верховой езды, разных военных приемов. Так что многие юноши с удовольствием выбирали для себя военную стезю.

В то время боевая роль танков и самолетов была еще не так велика и артиллерия, безусловно, считалась «богом войны». Артиллеристы были элитой армии — еще и потому, что их специальность требовала вдумчивого изучения математики и механики. Красноярская артиллерийская школа была одной из многих военных школ, открытых после Гражданской войны для подготовки командных кадров РККА. Алексей начал учебу в сентябре 1925 года, а в следующем году школу объединили с другими артиллерийскими школами Сибири и перевели в Томск. Там Нестеренко не только постиг основы артиллерийской науки, но и воспитал в себе те человеческие качества, которые отмечали все, кто его знал, — честность, ответственность, верность своему долгу.

Артиллерийскую школу Алексей окончил в 1929 году. По выпуску из Томской школы командовал огневым взводом гаубичной батареи 21-го артиллерийского полка в городе Томске (Сибирский военный округ).

В этой должности он участвовал с полком в конфликте на КВЖД в 1929 году. Китайско-Восточная железная дорога, проложенная русскими инженерами в начале XX века в Маньчжурии, находилась в совместном управлении СССР и Китая. В 1920-е годы гоминьдановский режим при поддержке западных держав начал враждебные действия против нашей страны. Летом 1929 года железная дорога вместе с ее обширной инфраструктурой была захвачена китайцами, а работавшие там советские граждане арестованы. Когда попытки решить конфликт мирным путем не привели к успеху, в октябре советские войска начали операцию по освобождению дороги. Их численность не превышала семнадцати тысяч, а китайских солдат было более 100 тысяч, однако китайцы были разбиты и запросили мира. В декабре в Хабаровске был подписан протокол, восстановивший права СССР по управлению железной дорогой. Комвзвода Нестеренко принял участие в боях у городов Маньчжурия и Чжалайнор (Далайнор), где обеспечивал артподготовку наступления и отражения контратак китайской конницы и пехоты огнем прямой наводкой. Водил в атаку в конном строю группу разведчиков, численно превосходящую группу китайской конницы.

Алексей Иванович вспоминал: «Осенью 1929 года участвовал в боях на КВЖД в должности командира огневого взвода 3-й гаубичной батареи. Бои проходили под Маньчжурией и Далайнором. Это было первое мое боевое крещение. В боях я почувствовал мощь и действенность огня своей батареи. Приходилось вести огонь не только с закрытых позиций, но и дважды прямой наводкой картечью, отражая контратаки противника. Я был горд, что служу в таком грозном роде войск, каким является артиллерия. 20 ноября в районе Абагатуйского разъезда пришлось вступить в рукопашную схватку в конном строю с белокитайской конницей. Эти эпизоды послужили серьезным уроком и экзаменом в бою. За эти бои приказом командующего ОКВД тов. Блюхера был награжден ценным подарком и памятным значком КВЖД».

В 1930 году Нестеренко служил командиром взвода полковой школы, командиром топографического отряда полка. В 1931 году был назначен курсовым командиром Томской артиллерийской школы с присвоением внеочередного звания и служил там в должностях командира мензульного и теодолитного взвода топографической батареи (в 1932 году он поступил на курсы низшей геодезии при Томском университете, где учился без отрыва от службы, и успешно окончил эти курсы в следующем году), первым помощником начальника штаба дивизиона, командиром батареи до поступления в 1936 году в академию.

Военной службе помогали хорошая физическая форма, занятия разными видами спорта. Нестеренко был чемпионом Сибирского округа 1934 и 1935 годов по военному многоборью. Он писал: «Для меня лыжи — родная стихия. Еще в 1935 году я возглавлял тысячекилометровый пробег отряда курсантов Томского артиллерийского училища. Расстояние в 1070 километров мы прошли за 11 ходовых дней. Средний суточный переход составил 97 километров. К финишу прибыли без единого отставшего. Этот переход был отмечен приказом наркома обороны К. Е. Ворошилова».

Участники пробега тщательно отбирались. К 1 февраля 1935 года все тренировки, начиная от массовых, в которых участвовала вся школа, и, кончая 200-километровым пробегом в Анжерку, когда был отобран основной состав команды, закончились. Лыжники, включенные в группу, на тренировках к началу большого перехода уже прошли 1083 километра.

Переход оказался намного труднее, чем ожидалось. Лыжников с самого начала взяла в оборот суровая сибирская погода. Лютый мороз сменялся снежными метелями, на смену им приходила такая оттепель, что на лыжи налипали пудовые комья снега. Во время этого лыжного перехода проявились лучшие человеческие качества Алексея Ивановича. Вот только один из эпизодов: целый день группа поднималась к перевалу. Лютовал мороз. Люди шли из последних сил. Труднее всего пришлось Нестеренко — ведь ему часто приходилось прокладывать по снежной целине лыжню. Смеркалось. До населенного пункта, где намечалась ночевка, оставалось километров десять, когда сзади по цепи доложили: «Отстал курсант Кочетов». Нестеренко остановил колонну. «Кому идти на помощь товарищу?» Взгляд Алексея скользил вдоль колонны. Его самого переполняла гудящая усталость. Он представил, что то же самое испытывает каждый из тридцати шести человек, стоящих в строю. И командир сам повернулся лицом к обжигающему ветру и отправился на помощь отставшему. Он исходил из того, что был самым подготовленным среди участников пробега. Так и всю свою жизнь Алексей Иванович брал все самое трудное на себя.

Ценным подарком наркома было охотничье ружье, которое так никогда и не использовалось на охоте — Алексей Иванович не любил стрелять дичь, считая это занятие пустой тратой времени.

Через две недели после лыжного перехода Нестеренко участвовал в окружных соревнованиях на дистанции 50 километров, в полном снаряжении, со стрельбой. На этой спартакиаде он установил всеармейский рекорд по бегу на лыжах на 50 километров со стрельбой (аналог современного биатлона) и стал мастером спорта СССР. Кстати, на этой же окружной спартакиаде, в гонке на 10 километров среди женщин второе место завоевала представительница Томской артиллерийской школы Екатерина Харлампиевна Нестеренко — жена Алексея Ивановича. Ее девичья фамилия — Великопольская, они поженились в мае 1930 года, свидетельство о браке было выдано Томским окружным бюро ЗАГС.