Родился в селе Мсмна (НКАО). В 1936 г. Бабаев был таристом народно-инструментального ансамбля Азербайджанского радио. В 1940 г. поступил в Бакинскую консерваторию им. У. Аджибекова, класс композиции. С 1941 по 1945 гг. участвовал во Второй мировой войне. После войны продолжил учебы и в 1950 г. окончил Бакинскую консерваторию, класс композиции К. Караева. В 1939-1941 гг. работал помощником дирижера оркестра азербайджанских народных инструментов Азербайджанского радио. С 1946 по 1947 гг. - художественный руководитель Ансамбля исполнительниц на сазе Бакинской филармонии, в 1947-1950 годах - хормейстер Ансамбля песни и пляски филармонии. В 1953 г. Бабаев окончил аспирантуру Московской консерватории (руководитель Юрий Шапорин). С 1950 года жил и работал в Москве. Автор ряда опер, симфонических и фортепианных произведений, музыки для театра и кино, многих песен. В 1958 г. Андрей Бабаев был удостоен звания Заслуженного деятеля искусств Армянской ССР. Умер в Москве.