В 1936 г. ВВС РККА располагали многочисленной тяжелобомбардировочной авиацией. В августе 36-го только в европейской части страны базировались три тяжелобомбардировочных корпуса — 4-й, 6-й и 10-й, по две бригады в каждом. Еще четыре бригады входили в Авиационную армию особого назначения. Ее начали формировать в январе 1936 г. Это соединение стратегической авиации могло нанести мощный удар любому потенциальному противнику. В него входили части тяжелых бомбардировщиков, «крейсеров», дальних разведчиков и истребителей. Позже создали еще две такие армии, после чего они получили номера — 1-я, 2-я и 3-я (сокращенно АОН-1, АОН-2 и АОН-3). Каждая армия включала 250-260 самолетов, в том числе 150-170 ТБ-3.
Около половины из них представляло собой машины выпуска 1932-34 годов с моторами М-17. В частях они постепенно модернизировались. Двигатели М-17 и М-17Б заменяли на более надежные М-17Ф. В феврале 1935 г. изучали возможность доработки старых самолетов под М-34Р и М-34РН. Эту работу хотели поручить заводу №84 в Химках. Однако пришли к выводу, что объем переделок слишком велик, и от этой идеи отказались.
Детали и узлы, по статистике наиболее склонные к разрушению, постепенно заменялись доработанными, усиленными. Наземный состав авиачастей или заводские бригады монтировали новые водо-воздушные и водо-масляные радиаторы, усиленные моторамы и полуоси тележек, проводили подкрепление хвостовой части самолетов. В ходе ремонта некоторые машины получали узлы от более поздних модификаций. На ТБ-3 ранних серий встречались тормозные колеса от ТБ-3Р, на последних — хвостовые колеса-«дутики» от ТБ-3РН.
В 1935-36 годах активно велись работы по установке на выхлопные коллекторы моторов различных типов глушителей. Когда радиолокаторов еще не существовало, самолеты обнаруживали только визуально и по звуку. Звукоуловители могли выявить самолет и за пределами видимости. Уменьши шум — и дистанция обнаружения резко сократится, зенитчики противника не успеют подготовиться, истребители не взлетят вовремя. На ТБ-3 и ТБ-3Р опробовали разные глушители. Испытывали многокамерный глушитель системы Андрианова, а также АП-10, сконструированный в СНИИ ГВФ. Последний в НИИ ВВС поставили на четыре ТБ-3Р. Но ни один из типов глушителей не приняли на вооружение, поскольку испытания показали, что они уменьшают лишь шум от мотора, а почти половину силы звука дает винт, шум от которого убавить не удается.
Постоянно модернизировалось вооружение. На ТБ-3 с М-17 ставили комплект наружных бомбодержателей Дер-23, Дер-25 и Дер-26, но со сбросом только от механического Сбр-9. Эти работы начали на Дальнем Востоке с осени 1934 г. Затем на части машин появилось и электрифицированное бомбовое вооружение.
С лета 1936 г. самолеты начали оснащать бортовыми компрессорами АК-60 (скопированными с итальянского «Гарелли»). Теперь пневмопуск моторов не зависел от запаса сжатого воздуха в баллонах, он постоянно пополнялся компрессором. К 1 августа оборудовали 24 самолета в 101-й бригаде в Домно и 46 — в 29-й в Нерчинске. Затем последовали Хабаровск и Воздвиженка.
В 1937 г. три эскадрильи оснастили системой «Шутка». Это устройство по радиосигналу с ведущего самолета задействовало бомбосбрасыватель на ведомой машине. Это позволяло осуществить сброс бомб залпом всего звена или эскадрильи. «Шутку» отрабатывали с 1934 г., затем провели войсковые испытания в 1-й тбаб и, наконец, внедрили в строевых частях. Но широкого распространения она не получила.
Постоянно расширялся ассортимент боеприпасов, включавший фугасные, осколочные, бронебойные, бетонобойные, зажигательные и химические. Так, во второй половине 30-х годов к нему добавились мощная ФАБ-2000, бронебойные БРАБ-500 и БРАБ-800, а после введения на модификации ТБ-3РН ротативно-рассеивающих бомб — большое количество мелких осколочных и зажигательных боеприпасов.
ТБ-3 ставит дымовую завесу на полигоне