Tahun 1964, waktu itu jumlah SMA Negeri di Semarang baru ada empat sekolah. SMA swasta pun jumlahnya masih sedikit. Padahal jumlah siswa SMP yang ingin melanjutkan ke jenjang pendidikan yang lebih tinggi cukup banyak. Sedangkan untuk membuka SMA baru sangat berat karena kondisi masyarakat,
bangsa, dan negara Indonesia dalam kondisi yang memprihatinkan. Untuk memenuhi kebutuhan bahan pokok saja, masyarakat mengalami kesulitan apalagi membiayai pendidikan atau mendirikan lembaga pendidikan.
Dalam kondisi sesulit apapun anak-anak harus tetap sekolah. Tekad dan semangat yang tumbuh di masa itu. Ini terbukti dengan adanya kepedulian sebagian masyarakat yang bertempat tinggal di kawasan Candi Baru. Mereka merasa terpanggil untuk ikut bertanggung jawab terhadap pendidikan masa depan generasi muda. Seperti Notaris R.M. Soeprapto, Moh. Tony, Fahmi, dan Sunaryo
Kesadaran bahwa generasi muda adalah kekuatan pembangunan di masa depan dan hanya dengan kecerdasan mereka dapat berbuat sesuatu bagi bangsa dan negaranya, maka langkah selanjutnya adalah menggalang kerjasama dengan Perwakilan P & K Provinsi Jawa Tengah sekarang (Kantor Dinas Pendidikan dan Kebudayaan). Tepat pada tanggal 1 Agustus 1964 berdirilah SMA Negeri 5 Semarang, dan Drs. Muh. Sahid ditunjuk sebagai Kepala Sekolah.
Pendirian SMA Negeri 5 Semarang di masa sulit membawa konsekuensi yang sangat berat, karena belum mempunyai bangunan sekolah, tenaga pengajar banyak yang tidak proporsional serta tenaga tata usaha sangat terbatas. Tingginya kesadaran masyarakat tentang perlunya pendidikan mendorong berbagai pihak untuk segera mewujudkan terselenggaranya proses belajar mengajar di SMA Negeri 5 Semarang.
Dihadapkan situasi yang serba sulit untuk mencari tempat, ada instansi berbaik hati, yaitu POLRI dengan meminjamkan beberapa lokal PUSDIK POLRI untuk dijadikan kelas dan ruang kantor, walaupun letaknya terpencar. Akhirnya Perwakilan P & K Provinsi Jawa Tengah membantu berupa peminjaman tenaga pengajar dan staf tata usaha dari Sekolah Pendidikan Guru (SPG) Negeri Semarang, dengan satu-satunya guru tetap adalah kepala sekolah. Sedangkan biaya operasional penyelenggaraan pendidikan ditanggung oleh Persatuan Orang Tua Murid dan Guru (PMOG), dengan pengurus harian antara lain R.M. Suprapto, Moh. Tony, Fahmi, dan Sunarjo.
Setelah melihat perkembangan yang semakin baik, maka SMA 5 Semarang dipindahkan menjadi satu kampus dengan SPG Negeri Semarang di Kagok Jalan Sultan Agung Semarang (sekarang untuk SMA dan AKS Kartini), dengan menempati 6 lokal/kelas.
Satu kampus untuk dua sekolah tidak menimbulkan masalah, bahkan dilihat dari segi administratif maupun proses belajar mengajar dapat dikatakan efektif. Penyatuan kampus ini secara psikologis berpengaruh terhadap etos kerja para tenaga pengajar dan staf tata usaha. Demikian pula para siswa, suasana sekolah yang tidak berada dalam komplek kepolisian, merasa lebih bebas untuk mengembangkan kreatifitasnya.
Waktu terus berjalan dan seiring dengan perkembangan SMA Negeri 5 Semarang yang cukup membanggakan, maka guru dan para pengurus PMOG dituntut mampu mengatasi permasalahan yang akan muncul pada tahun ketiga ajaran baru, yaitu kebutuhan penambahan lokal. Jika permasalahan ini selalu muncul di setiap tahun ajaran baru, kapan SMA Nageri 5 Semarang dapat memiliki kampus sendiri.
Keinginan ini sulit diwujudkan, karena bersamaan dengan tahun meletusnya peristiwa G30S kondisi ekonomi dan sosial masyarakat sangat memprihatinkan. Keinginan untuk dapat memiliki gedung sekolah sendiri dalam jangka waktu dekat semakin jauh dari angan-angan.