Магомаев родился 17 августа 1942 года в Баку. Учился в музыкальной школе при Бакинской консерватории по классу фортепиано и композиции, окончил Азербайджанскую консерваторию по классу пения Ш. Мамедовой (1968).

Всесоюзная известность пришла после его выступления в Кремлевском Дворце съездов на заключительном концерте фестиваля азербайджанского искусства в 1962 году. Первый сольный концерт Магомаева состоялся 10 ноября 1963 года в концертном зале имени Чайковского.

В 1963 году Магомаев становится солистом Азербайджанского театра оперы и балета им. Ахундова, продолжает выступать на концертной эстраде. В 1964-1965 годах стажировался в миланском театре «Ла Скала», в 60х годах выступает в крупнейших городах Советского союза в спектаклях «Тоска» и «Севильский цирюльник». В 1966 и 1969 годах с большим успехом прошли гастроли Магомаева в знаменитом театре «Олимпия» в Париже.

В 1969 году на фестивале в Сопоте Магомаев получает I премию, а в Каннах — «Золотую пластинку».

В 1973 году ему было присвоено звание Народного артиста СССР, минуя звание Народного артиста АзССР. С 1975 по 1989 годы Магомаев был художественным руководителем созданного им Азербайджанского государственного эстрадно-симфонического оркестра, с которым много гастролировал по СССР.

В концертном репертуаре Магомаева более 600 произведений (русские романсы, классические, эстрадные и неаполитанские песни). Он снялся в фильмах: «Низами», «Поет Муслим Магомаев» и «Москва в нотах». Магомаев автор более 20 песен, музыки к фильмам. Он также автор и ведущий цикла телепередач о жизни и творчестве американского певца Марио Ланца, написал книгу об этом певце.

В 1997 году его именем 4980 Magomaev названа одна из малых планет Солнечной системы, известная астрономам под кодом 1974 SP1.