Фюзеляж технологически состоял из трех блоков: средней части, хвостовой и концевой балок. В передней части фюзеляжа, не являющейся отдельным агрегатом, располагался двигательный отсек, образуемый внешними капотами В средней части, выполненной в виде дюралюминиевого клепаного полумонокока, размещалась грузовая кабина, объемом около 16 куб.м. Ее симметричное расположение относительно центра масс вертолета (под главным редуктором) упрощало центровку.
Грузовая кабина снабжалась двумя входами: двустворчатым хвостовым, образующим задний обвод средней части фюзеляжа, и входной дверью по левому борту. Последняя открывалась вбок против направления полета. Размеры кабины позволяли разместить в ней 11 пассажиров со снаряжением (масса каждого 100 кг), а при перегрузке - 15 человек. В грузовой кабине могли располагаться различные грузы массой до 1250 кг, в том числе и на тележке, а также некоторые типы техники и вооружения (ГАЗ-60, «Победа», мотоциклы с колясками (2 шт.) с водителями или артиллерийская пушка калибра 76 мм). Перевозка крупногабаритных грузов предусматривалась на внешней подвеске. Ее оборудование представляло собой четыре силовых троса с замком-держателем и грузовым крюком, к которому при помощи кольца крепилась грузовая подвеска. Силовые тросы крепились к фюзеляжу в четырех точках: два на узлах в зоне передних стоек шасси, а два на узлах крепления подкосов основных стоек. Ми-4А мог оснащаться следующим транспортным оборудованием: трапами, электролебедкой ЛПГ-2, крепежными тросами, стрелой для подъема грузов и др.
Над передней частью грузовой кабины располагалась кабина экипажа. В ней устанавливалось два сиденья для пилотов, приборное оборудование и органы управления вертолетом. Она снабжалась двумя боковыми сдвижными дверями и сообщалась с грузовой кабиной при помощи люка. За кабиной экипажа размещались редукторный и топливный отсеки. В зоне, примыкающей к стыку с хвостовой балкой, располагался отсек радиооборудования.
Под фюзеляжем находилась гондола. В случае ее демонтажа - вырез закрывался съемной панелью с обтекателем.
Хвостовая балка (монококовой конструкции) несла в себе промежуточный редуктор, хвостовой вал трансмиссии, стабилизатор площадью 0,7 кв.м и хвостовую опору. К ней крепилась концевая балка (с обтекателем, рулевым винтом и хвостовым редуктором).
Силовая установка вертолета состояла из одного двухрядного звездообразного 14-цилиндрового двигателя АШ-82В, снабженного муфтой включения трансмиссии, системой принудительного воздушного охлаждения с осевым вентилятором и спрямляющим аппаратом. Запуск двигателя осуществляется электростартером СКД-2В или, в аварийной ситуации, ручным способом. Двигатель устанавливался под углом 28° к оси фюзеляжа. Система выхлопа состояла из двух выхлопных коллекторов, отводящих газы за обшивку кабины.
Топливная система включала в себя один мягкий протектированный бензобак емкостью 960 - 1000 л, установленный в специальном контейнере, и бензопровод, снабженный необходимыми агрегатами (фильтры, клапаны, краны и др.). Имелась система заполнения бензобака инертным газом и противопожарное оборудование двигательного отсека.
Маслосистема двигателя включала в себя один маслобак из алюминиевого сплава, установленный в верхней части двигательного отсека, систему маслопроводов, маслорадиатор, фильтры, систему разжижения масла бензином и др.
Трансмиссия вертолета включала в себя:
- главный вал, передающий усилия от двигателя к главному редуктору;
- главный редуктор, состоящий из пары конических зубчатых колес и двухступенчатой планетарной передачи;
- хвостовой вал, соединяющий главный редуктор с промежуточным редуктором, а промежуточный редуктор - с хвостовым;
- промежуточный редуктор, изменяющий направление оси хвостового вала;
- хвостовой редуктор, передающий крутящий момент на рулевой винт;
- тормоз несущего винта, установленный в передней части хвостового вала (в месте сочленения его с выводом главного редуктора).
Система смазки главного редуктора - автономная, циркуляционная, смазка промежуточного и хвостового редуктора осуществлялась разбрызгиванием (барбатажем масла).
Несущая система представляла собой четырехлопастный воздушный винт левого вращения с шарнирным креплением лопастей. Форма лопасти в плане прямоугольная, профиль - NACA-23012 постоянной толщины. Конструктивно лопасть выполнялась в виде прессованного лонжерона из алюминиевого сплава по форме носка профиля с приклеенными к нему хвостовыми отсеками. Хвостовые отсеки изготавливались из сотового заполнителя из алюминиевого сплава с приклеенной дюралевой обшивкой толщиной 0,3 мм. По торцам отсека установлены хвостовые нервюры для придания жесткости.
Рулевой винт - трехлопастный, толкающий, с механическим изменением шага в полете и возможностью реверса. Угол установки лопастей от +20° до -8°. Лопасти - деревянные, с металлической окантовкой, подвешены к втулке при помощи горизонтальных и осевых шарниров.
Шасси вертолета - четырехопорной схемы. Передние опоры снабжались самоориентирующимися нетормозными колесами размером 100x150 мм и жидкостно-газовыми амортизационными стойками. Основные опоры пирамидального типа с жидкостно-газовыми амортизационными стойками и тормозными колесами размером 700х250мм.
Для защиты рулевого винта от удара о землю имелась хвостовая опора, снабженная жидкостно-газовой амортизацией.
Управление вертолета в продольно-поперечном направлении и управление вертикальным перемещением осуществлялось с помощью автомата перекоса; путевое управление - рулевым винтом. С ползуном автомата перекоса цепью управления связан стабилизатор. Перемещение ползуна вызывало изменение угла установки стабилизатора и создавало соответствующий режиму полета продольный управляющий момент силы. В кабине экипажа имелись, ручка управления, педали и рычаг «шаг-газ».