Родился в Московской губернии в семье крестьянина. Трудовую деятельность начал в четырнадцать лет чернорабочим на железной дороге. В 1925 г. без отрыва от производства окончил рабфак МГУ. С 1930 г. работал в строительных организациях, пройдя путь от начальника участка до заместителя председателя Мосгорисполкома по строительству (1938). В период Московской битвы руководил оперативной группой по строительству Можайской линии обороны, аварийно-восстановительной службой города, управлением по строительству оборонительных сооружений, непосредственно прикрывавших столицу. Был награжден орденом Красного Знамени.

В январе 1950 г. заменил Г.М. Попова на посту председателя Исполкома Моссовета. При нем началось осуществление второго плана реконструкции столицы. Резкое увеличение численности населения, замедление темпов строительства в годы войны усилили остроту жилищной проблемы, и Михаил Алексеевич немало сделал для создания мощной производственной базы, укрупнения строительных организаций, сооружения домостроительных комбинатов и заводов железобетонных изделий.

В эти годы было завершено возведение высотных здания, быстрыми темпами велась застройка Юго-Запада, Измайлова, Песчаных улиц и других районов столицы. Продолжалась прокладка новых линий метрополитена, в частности в 1953 г. закончилось строительство большого кольца. В целом объемы капитального строительства в Москве в 1950-1955 гг. увеличились вдвое.

В 1956-1957 гг. - председатель Совмина РСФСР, в 1957 г. М.А. Яснов был назначен первым заместителем председателя совета Министров РСФСР, в 1966-1985 гг. возглавлял Президиум Верховного Совета Российской Федерации. Награжден шестью орденами Ленина, Герой социалистического труда. В 1952-1986 гг. - член ЦК КПСС.