Sermet Atay, 29 Haziran 1964' te Gaziantep'te doğdu. Baba adı İbrahim Cahit, anne adı Mübeccel'dir. İlk, orta ve lise öğrenimini Gaziantep'te tamamladı. İstanbul Üniversitesi Hukuk Fakültesini 1986'da bitirdi. 1989-1990 yılları arasında Maliye Bakanlığı Muhakemat Genel Müdürlüğüne bağlı hazine avukatı olarak çalıştı. 1988-1990 yılları arasında Gaziantep Polis okulunda sözleşmeli öğretim elemanı olarak görev yaptı.