Sejarah berdirinya SMP Shalahuddin bermula tanggal 1 Juni 1947 dengan nama “Sekolah Menengah Islam” atau disingkat SMI yang didirikan oleh Kiyai H. Zaini dan Firmansyah Barok pada saat masa pendudukan Belanda. Latar belakang didirikannya sekolah ini adalah untuk menarik dan menghambat banyaknya siswa yang hendak melanjutkan ke SMP Recomba yang didirikan oleh pemerintah pendudukan Belanda. Pada tahun 1958 SMI berubah nama menjadi SMP Nahdlatul Ulama dikarenakan banyaknya anggota dewan guru yang menganut faham Nahdlatul Ulama.
Akan tetapi, nama sekolah SMP NU hanya bertahan selama 16 tahun, hingga pada tahun 1977 SMP NU berubah menjadi SMP NU Shalahuddin. Nama tersebut terinspirasi dari seorang tokoh pejuang islam yakni Shalahuddin Al Ayyubi, beliau adalah seorang ksatria islam yang sangat tangguh dalam berperang dan rajin menyuarakan dakwah. Oleh karena itu lahirnya nama SMP NU Shalahuddin memiliki filosofi bahwa SMP NU Shalahuddin akan menjadi sekolah yang tangguh dan tidak tergerus oleh perkembangan jaman. Tidak hanya itu, nama tersebut juga memberikan motivasi agar lembaga sekolah SMP NU Shalahuddin menjadi madrasah yang senantiasa mengajarkan ajaran islam dengan baik dan benar kepada calon generasi penerus bangsa dimasa depan.
Setelah berjalan selama 2 tahun yaitu tepat pada tahun 1977 nama sekolah mengalami perubahan kembali menjadi “SMP Shalahuddin”, alasan adanya perubahan tersebut dikarenakan madrasah/lembaga berkeinginan untuk dapat merangkul semua kalangan yang beragama islam dengan tidak membeda-bedakan faham yang dianutnya sehingga kemudian kata NU dihilangkan dari labelnya. Nama tersebut kemudian bertahan sampai saat ini yang biasa kita kenal dengan nama SMP SHALAHUDDIN yang berada dibawah naungan Yayasan Tarbiyah Islamiyah Malang dan beralamatkan di Jl. Jaksa Agung Suprapto No.10 Malang.