Abdullah Yüce, 4 Aralık 1920 tarihinde İstanbul Eyüp Sultan'da dünyaya geldi.
Annesi Sultan Hanım, babası Hafız İsa Efendi'dir.
Çocukluğu fakirlik içinde Eyüp Sultan'da geçti.
Reşadiye 36. ve 37. ilkokullarında okudu. Tahsilini ortaokuldan terk etti.
1942 yılında askere gitti ve 4 yıl askerlik yaptı.
Sanat hayatına 18 yaşında başlayan Abdullah Yüce, Ali Rıza Bey'den musiki eğitimi aldı.
İlk bestesi olan Hüzzam makamındaki "Bu ne sevgi ah bu ne ızdırap" isimli şarkısını 1938 yılında yaptı.
Sanat hayatı boyunca, Sadettin Kaynak, Selahattin Pınar, Kemanî Hacı Maksut, Kadri Şençalar, İsmail Şençalar hocası udî Edip Erten ve Ali Rıza Bey gibi üstatlardan feyiz aldı.
1946 yılında Fındıklı Salı Pazarı'nda sahne hayatına başladı.
1949 yılında ilk plak çalışmasını yaptı. 50'ye yakın taş plak doldurdu.
3 arkadaş, "Kara Sevda" ve "Hicran Yarası" gibi çeşitli sinema film çalışmaları yaptı.
Abdullah Yüce, sahneden çabuk inmeyi planladığı zaman, istek üzerine Makber şarkısını söylerdi. "Bis-bis", yani "tekrar" diyen seyircilere hemen yanıtını verirdi: “Yoook, Makber’in üzerine şarkı söylenmez” der ve sahneden inerdi.
"Uzayıp giden tren yolları", "Söyle bana doktor", "Hiç mi gülmeyecek benimde yüzüm" daha bir çok şarkıları taş plağa doldurarak ün yaptı. Taş plakları günümüzde kaset ve CD olarak firmaları tarafından piyasa sürüldü.
Evli ve 2 çocuk babası olan Abdullah Yüce, 1995 yılının Aralık ayında vefat etti.