Tahun1980-an sampai tahun 1990-an di Kabupaten Kudus hanya ada 2 STM saat itu. Kabupaten Kudus dikenal sebagai kota industri dimana banyak perusahaan-perusahaan yang berdiri di wilayah Kabupaten Kudus, sehingga banyak anak-anak generasi penerus, khususnya warga nahdliyin yang sekolah (STM) kurang sesuai dengan karakter NU. Oleh sebab itu maka tokoh-tokoh Nahdlatul Ulama Kabupaten Kudus berfikir dan bersepakat mendirikan sekolah teknologi yang berbasis NU. Selanjutnya para tokoh NU tersebut menyerahkan kepada Pimpinan Cabang Lembaga Pendidikan Ma’arif NU untuk memproses berdirinya STM yang berkarakter Ahlussunnah Wal Jama’ah. Terbentuklah tim Sembilan pendiri yang terdiri, 1. Drs. H. Chadziq ZU, 2. H. Chusnan, BA, 3. Drs. H. Djamilun, 4. H. Slamet Sudibyo, 5. H. Ma’shum AK, 6. H. Fauzie HA, 7. Drs. Abdul Hamid, 8. Mc. Syaechun, BA dan 9. Drs. H. Aris Syamsul Ma’arif untuk mengajukan proposal pendirian STM Ma’arif Kudus ke Dinas Pendidikan dan Kebudayaan Provinsi Jawa Tengah (dikawal oleh Bapak Drs. H. M. Djamilun dan Bapak H. Amirin Sundoro). Dengan melalui beberapa tahapan dan perjuangan yang harus dilalui oleh tim pendiri, Alhamdulillah keluarlah surat ijin operasional dari Departemen Pendidikan dan Kebudayaan Kantor Wilayah Propinsi Jawa Tengah Nomor : 344 / I03 / I / 91 tertanggal 22 Maret 1991 dengan lokasi awal memakai ruang kelas Madrasah Diniyyah Miftahul Huda Prambatan Lor Kudus atas bantuan tokoh NU Bapak H. Subadi, Bapak H. Abu Sudjak dan Bapak Ahmad Rajab. Sekolah Teknologi Menengah Maarif Kudus yang berbasis Ahlussunah Waljama’ah, mempunyai tujuan mencetak ahli-ahli teknik yang mengedepankan akhlaqul karimah. Sekolah yang berlandaskan ajaran islam ahlussunah waljamaah dengan tidak meninggalkan masukan dari para tokoh-tokoh Nahdlatul Ulama dan para Kyai di Kabupaten Kudus. Tentunya dengan dukungan Lembaga Pendidikan Ma’arif Kudus dan Pengurus Cabang Nahdlatul Ulama Kabupaten Kudus, lingkungan Prambatan Lor dan dukungan bengkel bubut terbesar saat itu, yaitu Bengkel CV. Sri Slamet Wergu Kulon, milik Bapak H. Slamet Sudibyo.

Dengan keterbatasan peralatan yang dimiliki sekolah saat berdiri sampai dengan tahun ketiga berjalan, praktik siswa-siswa STM Ma’arif Kudus melakukan pembelajaran praktik di bengkel CV. Sri Slamet dengan membuka 2 jurusan, yaitu jurusan Teknik Mekanik Umum dan Teknik Listrik Instalasi. Alhamdulillah sejak dibuka pertama kali, minat warga masyarakat untuk menyekolahkan anaknya di STM Maarif Kudus sangat besar, itu terbukti, 3 kelas dengan jumlah siswa 127 pada tahun pelajaran 1991 / 1992.