Sekolah di SMP Muhammadiyah 3 dan melanjutkan ke SMA Muhammadiyah I. Di sana ia aktif di PII (Pelajar Islam Indonesia). Namun, ia tidak dapat melanjutkan kuliah ke Fakultas Ekonomi Universitas Gadjah Mada karena ketiadaan biaya. Ia lebih memilih bergabung dengan grup vokal ketika ayahnya yang pensiunan memberinya opsi: Ebiet masuk FE UGM atau kakaknya yang baru ujian lulus jadi sarjana di Universitas Jenderal Soedirman, Purwokerto.
Nama Ebiet didapatnya dari pengalamannya kursus bahasa Inggris semasa SMA. Gurunya orang asing, biasa memanggilnya Ebiet, mungkin karena mereka mengucapkan A menjadi E. Terinspirasi dari tulisan Ebiet di bagian punggung kaos merahnya, lama-lama ia lebih sering dipanggil Ebiet oleh teman-temannya. Nama ayahnya digunakan sebagai nama belakang, disingkat AD, kemudian ditulis Ade, sesuai bunyi penyebutannya, Ebiet G. Ade. Kalau dipanjangkan, ditulis sebagai Ebiet Ghoffar Aboe Dja'far. Sering keluyuran tidak keruan, dulu Ebiet akrab dengan lingkungan seniman muda Yogyakarta pada tahun 1971. Tampaknya, lingkungan inilah yang membentuk persiapan Ebiet untuk mengorbit. Motivasi terbesar yang membangkitkan kreativitas penciptaan karya-karyanya adalah ketika bersahabat dengan Emha Ainun Nadjib (penyair), Eko Tunas (cerpenis), dan E.H. Kartanegara (penulis).
Malioboro menjadi semacam rumah bagi Ebiet ketika kiprah kepenyairannya diolah, karena pada masa itu banyak seniman yang berkumpul di sana. Meski bisa membuat puisi, ia mengaku tidak bisa apabila diminta sekedar mendeklamasikan puisi. Dari ketidakmampuannya membaca puisi secara langsung itu, Ebiet mencari cara agar tetap bisa membaca puisi dengan cara yang lain, tanpa harus berdeklamasi. Caranya, dengan menggunakan musik. Musikalisasi puisi, begitu istilah yang digunakan dalam lingkungan kepenyairan, seperti yang banyak dilakukannya pada puisi-puisi Sapardi Djoko Damono. Beberapa puisi Emha bahkan sering dilantunkan Ebiet dengan petikan gitarnya. Walaupun begitu, ketika masuk dapur rekaman, tidak sebiji pun syair Emha yang ikut dinyanyikannya. Hal itu terjadi karena ia pernah diledek teman-temannya agar membuat lagu dari puisinya sendiri. Pacuan semangat dari teman-temannya ini melecut Ebiet untuk melagukan puisi-puisinya.
Ebiet pertama kali belajar gitar dari kakaknya, Ahmad Mukhodam, lalu belajar gitar di Yogyakarta dengan Kusbini. Semula ia hanya menyanyi dengan menggelar pentas seni di Senisono, Patangpuluhan, Wirobrajan, Yogyakarta dan juga di Jawa Tengah, memusikalisasikan puisi-puisi karya Emily Dickinson, Nobody, dan mendapat tanggapan positif dari pemirsanya. Walau begitu ia masih menganggap kegiataannya ini sebagai hobi belaka. Namun atas dorongan para sahabat dekatnya dari PSK (Persada Studi Klub yang didirikan oleh Umbu Landu Paranggi) dan juga temannya satu kos, akhirnya Ebiet bersedia juga maju ke dunia belantika musik Nusantara. Setelah berkali-kali ditolak di berbagai perusahaan rekam, akhirnya ia diterima di Jackson Record pada tahun 1979.
Jika semula Ebiet enggan meninggalkan pondokannya yang tidak jauh dari pondok keraton, maka fakta telah menunjuk jalan lurus baginya ke Jakarta. Ia melalui rekaman demi rekaman dengan sukses. Sempat juga ia melakukan rekaman di Filipina untuk mencapai hasil yang lebih baik, yakni album Camellia III. Tetapi, ia menolak merekam lagu-lagunya dalam bahasa Jepang, ketika ia mendapat kesempatan tampil di depan publik di sana. Pernah juga ia melakukan rekaman di Capitol Records, Amerika Serikat, untuk album ke-8-nya Zaman. Ia menyertakan Addie M.S. dan Dodo Zakaria sebagai rekan yang membantu musiknya.
Lagu-lagunya menjadi trend baru dalam khasana musik pop Indonesia. Tak heran, Ebiet sempat merajai dunia musik pop Indonesia di kisaran tahun 1979-1983. Sekitar 7 tahun Ebiet mengerjakan rekaman di Jackson Record. Pada tahun 1986, perusahaan rekam yang melambungkan namanya itu tutup dan Ebiet terpaksa keluar. Ia sempat mendirikan perusahaan rekam sendiri EGA Records, yang memproduksi 3 album, Menjaring Matahari, Sketsa Rembulan Emas, dan Seraut Wajah. Sayang, pada tahun 1990, Ebiet yang "gelisah" dengan Indonesia, akhirnya memilih "bertapa" dari hingar bingar indutri musik dan memilih berdiri di pinggiran saja. Baru pada tahun 1995 ia mengeluarkan album Kupu-Kupu Kertas (didukung oleh Ian Antono, Billy J. Budiardjo (alm), Purwacaraka, dan Erwin Gutawa) dan Cinta Sebening Embun (didukung