schau mal in der wikipedia unter rock in opposition, dort findest du jede Menge bands, die glaube ich auf deine Beschreibung passen. Essentielle bands und Platten zum Reinhören sind imho "Heresie" von Univers Zero (hat aber bis auf das drumming eher wenig mit rock zu tun), "In Praise Of Learning" von Henry Cow, vielleicht noch was von Art Zoyd, z.B. "Génération Sans Futur" (bei den neueren Sachen von denen wäre ich aber etwas vorsichtig, weil die sehr elektronisch und minimalistisch sind). Oder Thinking Plague: "In This Life" (durch den atonalen Gesang nicht Jedermanns Sache). Die Künstler aus dem Bereich sind allgemein oft von moderner Klassik beeinflusst, insbesondere von so Leuten wie Messiaen, Stravinsky, Schönberg oder auch Stockhausen. Teils gibt's auch einen deutlichen (free) jazz-Einfluss.
Wenn dir die schon erwähnten Sleepytime Gorilla Museum gefallen, würd ich dir aus dem Umfeld noch Idiot Flesh (deren Vorgänger-band) und The Book Of Knots empfehlen. die norwegische band Shining, die auch so ähnliche Musik macht, wurden schon erwähnt. Die letztgenannten, wie eigentlich auch fast alle anderen bands, die in dem thread hier schon genannt wurden, haben aber mit (moderner) klassischer Musik eher wenig zu tun.