SMA Negeri 6 Jakarta didirikan pada 1 Agustus 1952 dengan nama SMA Negeri II ABC. Kemudian berganti nama pada tahun ajaran 1954/1955, menjadi SMA Negeri VI ABC. Seiring dengan perubahan sistem pendidikan, maka pada tahun ajaran 1964/1965 SMA Negeri VI ABC berganti nama dengan SMA Negeri 6 Jakarta. Pada saat cikal bakal SMA Negeri 6 Jakarta didirikan, sekolah ini berlokasi di Jalan Bulungan. Kemudian dari 1 Januari 1969 sampai sekarang, SMA Negeri 6 Jakarta menempati gedung baru yang berlokasi di Jalan Mahakam I, Kebayoran Baru, Jakarta Selatan.

SMA Negeri 6 pernah memiliki kelas jauh (filial) pada awal tahun 1970-an di Pondok Labu, Cilandak, yang kemudian dipisahkan dan menjadi SMA Negeri 34 Jakarta.