Александр Яковлевич Михайлов родился 5 октября 1944 года в поселке Оловянное Читинской области. В 1959–1961 годах учился в ремесленном училище, в 1961–1963 годах работал на рыболовецких судах. В 1969 году окончил театральный факультет Дальневосточного института искусств и стал артистом Приморского краевого драматического театра им. Горького, где дебютировал ролью Раскольникова в спектакле «Преступление и наказание».

В 1970–1979 годах работал в Саратовском академическом театре драмы им. К.Маркса, на сцене которого играл Константина в «Детях Ванюшина», князя Мышкина в «Идиоте», Шаманова в спектакле «Прошлым летом в Чулимске».

На киноэкране дебютировал главной ролью в фильме «Это сильнее меня» (1973), после чего обаятельного и фактурного актера стали охотно приглашать в основном на главные и положительные роли в кино и телефильмах.

Наиболее заметной из ранних экранных работ Михайлова стал деревенский шофер Федор в фильме «Приезжая» (1977). Сыграв знаменитого шахматиста Алехина в фильме «Белый снег России» (1980), Михайлов заявил о себе в кино как серьезный драматический актер.

Расширению его экранного амплуа способствовали отрицательные роли в сериале «Следствие ведут знатоки» и фильме «Белый ворон» (1981). В 1981 году стал лауреатом премии Ленинского комсомола. Государственную премию РСФСР им. братьев Васильевых (1983) Михайлову принесла роль Павла Зубова в картине «Мужики!..» (1981).

В 1973–1985 годах играл в Московском театре им. Ермоловой. Среди киноработ этих лет наиболее заметной стала острохарактерная роль Васи Кузякина в комедии «Любовь и голуби» (1984), которую признанный «реалист» Михайлов играл в ранее не свойственной ему условной, почти гротесковой манере. За роль Павла Шорохова в остросюжетном фильме «Змеелов» (1985) в 1986 году был признан «Актером года».
Запомнились зрителям его роли в фильмах «Мы веселы, счастливы, талантливы» (1986), «Мужские портреты» (1987), «Очарованный странник» по роману Н.С.Лескова (1990).

С 1985 года Михайлов – актер Малого театра, где исполнял главные роли в спектаклях «Леший», «И аз воздам», «Царь Иоанн Грозный». Его Грозный по пластическому рисунку напоминал Иоанна в исполнении Н.К.Черкасова в фильме С.М.Эйзенштейна и так же трактован Михайловым с акцентом на драматизм судьбы и личностную значительность этой сложной исторической фигуры.

В 1992 году Михайлов попробовал себя в кинорежиссуре, сняв фильм «Только не уходи...», посвященный теме СПИДа. В 1997 году дебютировал как певец, составив концертную программу из русских и казачьих песен, с которой выступал в филиале Малого театра и гастролировал по стране.

Сегодня он любимый зрителями и профессионально востребованный актер.