L'histoire de CRO-MAGS fait partie intégrante de l'histoire du hardcore, de son évolution du punk et du développement de genres musicaux alternatifs tels que le hardcore, le cross-over, le thrash metal, le post punk et le grunge, pour n'en nommer que quelques-uns.
Issu de la violence et de la dépravation du Lower East Side de New York à la fin des années 70 et au début des années 80, CRO-MAGS est l'idée du très jeune Harley Flanagan (à l'époque 14 ans). En 1982/83, il écrit et enregistre le tout premier CRO-MAGS; des démos composées de quatre chansons qui deviendront le modèle qui a fait la réputation de "The Age Of Quarrel". Il rencontre Parris Mayhew et les deux amis commencent à écrire de la musique et à auditionner les membres du groupe.
Flanagan a récemment conclu un accord avec le chanteur John Joseph et le batteur Mackie Jayson concernant la propriété du nom CRO-MAGS. Flanagan joue maintenant sous le nom CRO-MAGS tandis que Joseph et Jayson jouent comme CRO-MAGS "JM".