17 Aralık 1897'de İstanbul'da doğdu. Eğitim hayatı sırasıyla Mekteb-i Osmani, Vefa İdadisi, Cağaloğlu Darülmuallimin-i Aliye (Yüksek Öğretmen Okulu) okullarında geçer. 19 Aralık 1922 yılında öğretmenliğe başladı.

Bir grup meslektaşıyla Muallimler Birliği ve Türk Ocağını kurdu. 1924 yılında Kuleli Askeri Lisesine tayin edilen Yücel, burada edebiyat öğretmenliği yaptı.

1927 başında, Hasan-Âli, Reşat Şemsettin (Sirer) ile birlikte "Mıntıka Müfettişleri" unvanıyla İstanbul Maarif Emirliğine verildi. Hasan-Âli, 1929 sonunda İkinci Sınıf Maarif Müfettiş Umumiliğine yükseldi ve Maarif Emirlikleri kaldırılınca Maarif Vekaleti Teftiş Kurulu Üyesi oldu. 1930'da Maarif Vekili Cemal Hüsnü (Toray), kendisini araştırma ve inceleme göreviyle Paris'e gönderdi. 1930'un sonunda, geniş bir inceleme ve araştırma dosyasıyla Türkiye'ye döndü.

1932'de Türk Dili Tetkik Cemiyeti kuruldu. Hasan-Âli, Cemiyet’in Etimoloji Kolu Başkanlığına getirildi.
Hasan-Âli, 1933 yılı sonunda Maarif Vekaleti Orta Tedrisat Umum Müdürlüğü'ne atandı. Bu dönemde, üniversiteye geçişteki önemi nedeniyle liselerde reform düşüncesi üzerine yoğunlaştı. 1934'te Cumhuriyet Halk Partisi'ne dilekçe vererek "Milletvekili adayı olarak önerilmesi"ni sağlar; İzmir Milletvekili olarak Meclise girer. 28 Aralık 1938'de, Hasan-Âli Yücel, 41 yaşında iken, Celal Bayar kabinesinde Maarif Vekili oldu. Özellikle Cumhurbaşkanı l.İnönü'nün desteğiyle, yakın çalışma ve dost grubunun katılımıyla büyük bir reform hareketi başlatır ve gerçekleştirir. Hasan-Âli Yücel, 1945'te, 4-20 Kasım arasında Londra'da toplanan ve 43 ülkenin katıldığı UNESCO toplantısında ülkemizi temsil eder.

Bakanlığı döneminde, 1940’ta Köy Enstitüleri Yasası çıkarılarak, köy okullarında görev alacak olan öğretmenleri yetiştirmek üzere kent ve kasabalardan uzak, geniş arazisi bulunan uygun yerlerde Köy Enstitüleri kurulmaya başlandı. Fakat 1947’den sonra Köy Enstitüleri kapatılmaya başlandı. Yine bakanlığı döneminde önemli bir çeviri hamlesi yapılarak pek çok sayıda dünya klasik eseri Türkçe'ye çevrildi. Yücel, 5 Ağustos 1946 ’da bakanlıktan, 1950’de de CHP’den istifa etti.
Şair Can Yücel'in babası, Japonya kıyılarında batan Ertuğrul Fırkateyninin kaptanı Ali Beyin torunudur.