Awal mula pelayanan Methodist di Palembang dimulai pada tahun 1908 ketika Salomon Pakianathan, seorang pekerja gereja dari Medan, diutus untuk melayani orang-orang Ambon, Menado, dan Tionghoa yang rindu akan firman Tuhan. Ia membuka sekolah berbahasa Inggris dan mengadakan ibadah dalam bahasa Melayu. Dari sinilah terbentuk jemaat kecil lintas etnis yang pada 25 Juli 1909 diresmikan oleh Pdt. John Russel Denyes sebagai jemaat Methodist pertama di Sumatera Selatan—cikal bakal GMI Efrata Palembang.

Pelayanan berlanjut dengan penginjilan dari Ding Hong Sek serta kedatangan misionaris Amerika seperti Pdt. E.R. Hiebard dan Pdt. C.S. Buchanan. Sekolah Methodist semakin berkembang dan menjadi sarana penginjilan yang efektif. Namun jemaat menghadapi banyak tantangan, termasuk wabah influenza, persaingan dari sekolah lain, hingga tekanan dari pemerintah kolonial. Walaupun demikian, semangat pelayanan tidak padam dan jemaat terus bertumbuh.

Setelah Indonesia merdeka, tongkat pelayanan mulai dipercayakan kepada pendeta bangsa sendiri. Pada 1 Agustus 1950, Pdt. Tan Hong Kie ditetapkan sebagai gembala jemaat. Saat itu kebaktian dilaksanakan di Chapel Sekolah Methodist (MMS) tiga kali dalam seminggu: ibadah Sekolah Minggu berbahasa Inggris, ibadah umum berbahasa Indonesia, dan ibadah berbahasa Hokkian. Pertumbuhan jemaat semakin pesat sehingga muncul kerinduan untuk memiliki gedung gereja sendiri.

Atas prakarsa majelis jemaat, diputuskan membangun gedung gereja di atas tanah yang sebelumnya dibeli Pdt. E.R. Hiebard di Jalan Talang Jawa Lama No. 13, Palembang. Panitia pembangunan dibentuk pada 16 Februari 1952 dengan Albert Hamel sebagai ketua. Pembangunan berjalan dengan penuh perjuangan, dan akhirnya jemaat memiliki tempat ibadah yang permanen. Dari sinilah pelayanan gereja berkembang semakin luas, tidak hanya ibadah tetapi juga sekolah minggu, pelayanan pemuda, dan berbagai kegiatan penginjilan.

Seiring perkembangan GMI secara nasional yang pada tahun 1964 menjadi gereja otonom di Indonesia, jemaat di Palembang pun semakin teguh berdiri. GMI Efrata menjadi salah satu pusat pelayanan di Sumatera Selatan. Dari Talang Jawa, pelayanan terus berkembang dengan fokus pada pendidikan Kristen, penginjilan, pembinaan pemuda, pelayanan sosial, dan musik gerejawi.

Hari ini, GMI Efrata Palembang dikenal sebagai jemaat yang kokoh dengan sejarah panjang penuh berkat dan perjuangan. Dari ibadah sederhana di rumah jemaat, kemudian bertumbuh di Talang Jawa, hingga kini melayani generasi demi generasi, GMI Efrata tetap setia memegang visi: menjadi gereja yang hidup, bersaksi, dan membawa berkat bagi masyarakat Palembang dan sekitarnya.