Сын императора Александра II. По традиции императорского дома, с момента рождения записан в лейб-гвардии Преображенский полк прапорщиком. Участник русско-турецкой войны 1877-1878 гг.; находился при осаде крепости Плевна. За отличие в делах с турками награжден орденом Св. Георгия 4-й степени. В 1891 г. уже в чине генерал-майора получил назначение на пост московского генерал-губернатора. Одновременно был произведен в генерал-адъютанты. В 1894 г. назначен членом Государственного совета, а 26 мая 1896 г. - командующим войсками Московского военного округа.

Подобно своим предшественникам - П.А. Тучкову и В.А. Долгорукову - великий князь внес свою лепту в развитие выборных органов городского управления. В мае 1892 г. состоялось торжественное открытие и освящение нового здания думы на Воскресенской площади, в конце того же года - проведены выборы гласных по новому Городовому положению 1892 г.

В 1893 г. завершилось сооружение новой очереди Мытищинского водопровода, что положительно сказалось на решении многих хозяйственных проблем. В 1904 г. городской транспортный парк пополнили трамваи, улучшившие состояние пассажирских перевозок. Важное значение для социального развития города имело проведение в 1902 г. однодневной переписи населения. По инициативе великого князя в 1892 г. в доме на Тверской положено начало создания портретной галереи генерал-губернаторов.

Рядом событий ознаменовалась и культурная жизнь Москвы: открылся Музей городского хозяйства, в 1898 г. - Художественный общедоступный театр. В мае 1901 г., впервые в России, в Москве был проведен Праздник цветов.

1 января 1905 г. великий князь согласно прошению оставил пост генерал-губернатора, назначен на должность командующего войсками Московского военного округа.

4 февраля 1905 г. погиб в Кремле от взрыва бомбы, брошенной эсером И.П. Каляевым. Похоронен в храме-усыпальнице под Алексеевской церковью кремлевского Чудова монастыря.