8 yaşında şarkı söylemeye başlayan Küçük İbo lakaplı İbrahim Küçük, müzikle iç içe bir hayat yaşadı, memleketi Şanlıurfa'ya gelen sanatçıların konserlerini kaçırmadı.
İbrahim Küçük'ün 'Küçük İbo' olma serüveni ise İbrahim Tatlıses'in memleketinde verdiği konserle başladı.
1994 senesinde İbrahim Tatlıses'in Şanlıurfa konserine giden İbrahim Küçük, bir şekilde sanatçıya ulaştı ve sahnesine çıkıp 2-3 parça okuma fırsatı yakaladı. Güçlü yorumu ve yanık sesiyle tüm dikkatleri üzerine çeken Küçük, 1995 yılında da Urfa'da bir demo kaset çıkardı. Urfa içinde satılan ve ilerleyen dönemlerde referans olarak göstereceği kasetle birlikte İstanbul'un yolunu tutan Küçük, babasıyla geldiği Unkapanı Plakçılar Çarşısı'nda bir yapım şirketiyle anlaştı.
Öğretmenlik mesleğini icra eden babası memlekete dönmek zorunda kalsa da Küçük İbo, hayallerinden vazgeçmedi ve ailesi İstanbul'a taşınana kadar yapım şirketinin sahibinin evinde misafir olarak kaldı.
TAKVİM'den Mehmet Özkan'a röportaj veren İbrahim Küçük o günleri şöyle anlattı:
"1995 senesinde
Urfa'da bir demo kaset yaptık. 16 şarkılık bir kaset. Bilinen şarkıları orada okudum. O kaseti aynı zamanda kendime referans olarak kullandı. 1996 yılında babamla birlikte İstanbul'a Unkapanı Plakçılar Çarşısı'na geldik. Dönemin müzik şirketi olan Akbaş Müzik'le yolumuz bir şekilde kesişti. Kaseti dinlettim, sesimi canlı olarak dinledi. Ve ondan sonra Akbaş Müzik'te ilk kaset çalışmalarımızın altyapısını zeminini hazırlamaya başladık. Tabii o süre zarfında babayla geldik ama babam Urfa'da öğretmenlik yaptığı için geri dönmek zorundaydı. Patronum da beni bir süre evinde misafir etti. Evinde kaldım Allah razı olsun; bir evladı gibi bir gibi ilgilendi. Tabii sonra şarkımız beklenmediği bir şekilde tutulunca sevilince ailemi getirmeye karar verdim. Babam tayin istedi ve İstanbul'a taşındılar"
Kısa sürede halkın kendisini benimsediğini dile getiren Küçük İbo, "Kimisi kardeşi kimisi evladı olarak görüyor. Sokakta yürüyorum, insanlar evladı gibi seviyor beni. Ben onu hissedebiliyorum. Bir sanatçı gibi değil. 'Oğlum' diyor 'kardeşim' diyor. Bu ne kadar güzel bir şey. Bunu parayla pulla ölçemezsiniz. Bambaşka bir duygu" ifadelerini kullandı.