Hilmi Yavuz 14 Nisan 1936'da İstanbul’da doğdu.

Hilmi Yavuz'un çocukuluğu ve ilk gençliği babasının kaymakamlık yaptığı kasabalarda geçer. İlkokulu Terme'de bitirir. Ortaokula Çarşamba'da başlar, memleketi Siirt'te tamamlar. Babası Yahya Hikmet Bey, oğlunun en az bir yabancı dil öğrenmesi gerektiğini düşünüp uygulamaya koyacak kadar ileri görüşlü bir insandır ve oğluna ortaokulda Fransızca dersleri aldırır.

Kabataş Erkek Lisesi'ni bitirdi. İstanbul Üniversitesi Hukuk Fakültesi'ndeki eğitimini yarıda bıraktı. İngiltere'ye gitti. BBC'nin Türkçe bölümünde çalıştı. Londra Üniversitesi Edebiyat Fakültesi Felsefe Bölümü’nü bitirdi.

Türkiye'ye döndükten sonra çeşitli yayınevleri ve ansiklopedilerde görev aldı. Cumhuriyet, Milliyet, Yeni Ortam gazeteleri ve çeşitli dergilerde "Ali Hikmet" imzasıyla inceleme, eleştiri ve denemeler yazdı. Mimar Sinan Üniversitesi, İstanbul Teknik Üniversitesi ve Boğaziçi Üniversitesi’nde öğretim görevlisi olarak çalıştı. İlk şiirleri Kabataş Erkek Lisesi'nde edebiyat öğretmeni Behçet Necatigil yönetiminde çıkan "Dönüm" dergisinde yayınlandı.
Bu dönemde daha çok İkinci Yeni akımının etkisinde imgeci şiirler yazdı. Sonraki yıllarda gelenekçilikle çağdaş bir bakışı kaynaştıran, biçim ve özün dengelendiği bir düzey sergiledi. İslam mistisizmi, özellikle de tasavvuftan yararlanarak kendine özgü bir sözcük dağarcığı geliştirdi. Halen Zaman gazetesinde kültür yazılarına ve Bilkent Üniversitesi'nde öğretim görevlisi olarak çalışmaya devam etmektedir.

Talat Halman tarafından Şairi Azam sıfatı verilmiştir. Mustafa Şerif Onaran, Talat Halman ile beraber TRT2 de Pazar günü " Önce Şiir Vardı " adlı bir program yapmaktadır.