Sekolah  Kebangsaan Ngee Heng Johor Bahru telah dibuka pada tahun 1920. Bahasa pengantarnya adalah dalam Bahasa Inggeris dan dinamakan NGEE HENG ENGLISH SCHOOL.

Asal bangunan sekolah ini terletak dipersimpangan Jalan Abdul Rahman Andak dengan Jalan Draper. Dalam tahun 30-an, sekolah ini dipindahkan ke Jalan Glendening.

Selepas tahun 1946, sekolah ini telah dinamakan NGEE HENG PRIMARY SCHOOL(2). Pentadbirannya dibahagikan kepada dua orang Guru Besar.

Pada tahun 1973  apabila Dasar Pelajaran Kebangsaan dilaksanakan, sekolah ini dinamakan SEKOLAH RENDAH KEBANGSAAN NGEE HENG. Sekolah ini ditadbir oleh seorang Guru Besar sahaja.

Pada tahun 1982, sekali lagi sekolah ini dipindahkan ke bangunan yang digunakan sekarang. Bangunan ini terletak di Jalan Abdul Rahman Andak. Sekolah ini terdiri daripada satu bangunan batu dan satu bangunan papan. Bangunan lama telah dijadikan PEJABAT PENDIDIKAN DAERAH JOHOR BAHRU.

Sejak kewujudan sekolah ini, sehingga sebelum Tanah Melayu diperintah oleh Jepun, Guru Besar – guru besarnya  terdiri daripada orang – orang Inggeris. Anak Melayu yang pertama memegang jawatan Guru Besar di sekolah ini ialah EN. SAMSUDDIN B. ABBAS pada tahun 1984.

Sekolah ini telah melahirkan ramai negarawan, ahli akademik, ahli politik, doctor, peguam, arkitek dan ramai lagi dalam bidang – bidang tertentu.

Antara murid – murid tua sekolah ini yang terkenal ialah DYMM Sultan Iskandar Ibni Almarhum Sultan Ismail (Sultan Bagi Negeri Johor Darul Ta’zim), Allahyarham Tun Hussein b. Onn (Perdana Menteri Malaysia ke -3), Tan Sri Musa b. Hitam (Bekas Timbalan Perdana Menteri Malaysia), Tan Sri Mohammad b. Rahmat (Bekas Menteri Penerangan Malaysia), Allahyarham Dato’Haji Yunus b. Sulaiman (Bekas Speaker Dewan Undangan Negeri Johor) dan Prof. Diraja Ungku Abd. Aziz b. Abd. Majid (Bekas Naib Canselor Universiti Malaya)