En gros tu dois orienter tes recherches vers plusieurs directions :
1) Metal progressif (je fais plus allusion aux groupes de Death ou Black progressif, mais il y a aussi les classiques Metal prog comme Dream Theater, Symphony X, Spiral Architect et compagnie)
--> Dan Swanö (et donc un peu aussi Edge of Sanity), mais on peut aussi citer des trucs plus bruteaux et déstructurés comme Necrophagist, Gorod, Gorguts, Negativa, Martyr et la scène Death technique québécoise en général, Psyopus, !T.O.O.H.!, ou alors des trucs plus softs comme Pain of Salvation. Hou et puis surtout ne pas oublier les vieux de la vieille, le sensationnel Thrash prog comme Mekong Delta, Watchtower, voire même Coroner.
N'oublions pas de citer des groupes comme Enslaved ou Negura Bunget, qui mélangent Black Metal et rock prog à l'ancienne, c'est magnifique (mais moins alambiqué dans les structures).
2) Avant-garde Metal (plus présent dans le Black), ça va des derniers Borknagar (mais aussi Vintersorg) à Ved Buens Ende en passant par les derniers Blut Aus Nord, Deathspell Omega, Solefald, Enid, Age of Silence, The Axis of Perdition, La Rumeur des Chaînes, et dans un autre syle Carnival in Coal par exemple.
3) Le Death-Jazz, qui se fond parfois avec le Death prog, enfin la frontière est floue mais Jeff a cité les deux plus importants : Atheist et Cynic. Il faut y ajouter Pestilence (sur l'album "Spheres"), Sleep Terror (qui penchent un peu plus du côté brutal à la Necrophagist), Sadist, Continu Renacer, Lux Occulta, etc.
Voilà, j'ai cité quelques groupes en vrac, des connus et des moins connus, j'espère que ça va t'inspirer
Il faut se rendre à l'évidence, mes enfants : tout ça ne vaut pas un bon morceau de boudin au speculoos.