Çok küçük yaşta bağlama ve keman çalmayı öğrendi. Çocuk yaşlarında babasıyla yörenin eğlencelerinde saz çalıp türküler söylemeye başlayan “saz üstadı”, 8 yıl boyunca Kırşehir, Nevşehir, Niğde, Kırıkkale, Keskin, Yerköy, Kayseri, Yozgat gibi birçok yeri gezerek babası ile geçimlerini sağlamaya çalıştı. Bu yüzden de okula gidemeyen Neşet Ertaş’a, okumayı ağabeyi Necati Ertaş öğretti.
Babasıyla aynı ruhun insanı olduğunu belirten Ertaş, 1950’li yılların başında 14 yaşındayken İstanbul’a geldi ve babasının yazdığı “Neden Garip Garip Ötersin Bülbül” adlı türküyle ilk plağını müzikseverlerle buluşturdu. İstanbul Şen Çalar Plak’tan 1957’de çıkan bu çalışmasıyla halk tarafından çok beğenilen Ertaş, geniş kitlelere ulaşmayı başararak, tüm Anadolu’da dinlenilen bir halk ozanı haline geldi.
Geniş halk kesimlerinin yanı sıra musiki çevrelerinde de hayranlıkla dinlenilen usta müzisyen “Garip” mahlasıyla yazdığı şiirlerinde kendi hayatını anlattı.“Türkülerin Babası”, “Anadolu Efsanesi” ve “Abdal Müzisyen” gibi lakaplarıyla da bilinen sanatçı, İstanbul’da kaldığı iki yıl boyunca yaptığı plak, kaset ve konser çalışmalarının ardından Ankara’ya yerleşti ve sanat hayatına burada devam etti.Ankara Radyosu’nda “mahalli sanatçı” unvanıyla programlar da yapan Ertaş, Ankara’da çalıştığı bir gazinoda Leyla Hanım’la tanışıp evlendi ve 3 çocuk sahibi oldu.
7 yıl sonra 1970’te eşinden ayrılan Ertaş, yaşadığı sağlık sorunları sebebiyle enstrüman çalamaz hale geldi ve kardeşinin daveti üzerine tedavisi için Almanya’ya yerleşti. Ertaş, çocuklarının eğitimi ve sanatsal çalışmalarından dolayı uzun süre Almanya’da ikamet etti. Türkiye’de çıkardığı plaklar, yaptığı radyo programları, konserler ve düğün performansları sayesinde büyük bir üne sahip olan Neşet Ertaş, Almanya’daki birinci kuşak Türk göçmenlerin de gönlünü kazandı. Gelenekten gelen türküleri kendine has üslubuyla icra eden Ertaş, 2000’de İstanbul’da verdiği konserle sevenlerinin karşısına yıllar sonra yeniden çıktı.
Ertaş, Süleyman Demirel’in cumhurbaşkanlığı döneminde kendisine teklif edilen “Devlet Sanatçısı” unvanını ise “Herkes bu devletin sanatçısı” diyerek kabul etmedi. Abdallık kültürünün son efsanesi olarak bilinen Ertaş, hayatta olduğu dönemde “Unesco Somut Olmayan Kültürel Mirasın Korunması Sözleşmesi” kapsamında Kültür ve Turizm Bakanlığı’nca “Yaşayan İnsan Hazinesi” ilan edildi. Eserlerinde Anadolu insanının acı ve kederini dile getirdiğini ifade eden Ertaş’a, İstanbul Teknik Üniversitesi Devlet Konservatuvarı tarafından 2011’de fahri doktora unvanı verildi. Aynı zamanda sanatçının bağlamadaki tavrı ve türküleri konservatuvarlarda ders olarak okutuldu. Hayatı ve eserleri Prof. Dr. Erol Parlak tarafından iki ciltlik bir kitap halinde yayımlanan Neşet Ertaş, 25 Eylül 2012’de İzmir’de prostat kanserine yenik düşerek 74 yaşında vefat etti.Babası Muharrem Ertaş’la birlikte Kırşehir’de bir de anıtı bulunan Ertaş, dünyada robot heykeli yapılmış ilk saz sanatçısı oldu. Sanatçı Adil Çelik’in tasarladığı “android” heykel, Kırşehir Neşet Ertaş Gönül Sultanları Kültür Evi’nde bağışlandı.
Yaşamı boyunca yaklaşık 400 plak, onlarca kaset ve bir o kadar “long play” kaydetmiş olan Neşet Ertaş külliyatının önemli bir kısmı “Kalan Müzik Yapım” tarafından 16 CD halinde piyasaya sunuldu.
Neşet Ertaş, hapse düştüğünde Yaşar Kemal, usta sanatçıya bir kitap göndermişti. Edebiyatımızın devi, Neşet Ertaş için imzaladığı kitapta “Bozkırın Tezenesi’ne selam olsun, geçmiş olsun” diyordu. Bozkırın tezenesi (çalgıç) böylece ortaya çıkmış oldu.