Je vous suggère de mettre le micro / prise de son au centre de votre trio, et pas trop proche de la batterie, pour pouvoir jouer avec les volumes de tous les instruments, en ayant d'un côté la basse et la guitare, et de l'autre la batterie. Il vous sera toujours possible de rééquilibrer tout ça après. Une prise avec plus d'un micro serait idéale, évidemment.
Pour le "contenu", on sent la gêne des premiers pas, j'imagine que votre "trio" en est à ses tout débuts, je me trompe? Avez-vous essayé de "jammer" sur des trucs plus "soft"? Pour vous mettre en train, en guise d'échauffement c'est plus facile pour équilibrer le son, prendre un peu confiance avant d'envoyer du "lourd". La guitare en son clean, de jolis accords riches qui respirent, une basse qui laisse ses notes sonner plus longtemps pour asseoir l'ambiance, et la batterie qui frappe moins fort la caisse claire et le "bass drum", dans une petite pièce la batterie a vite fait de tout enterrer! La guitare a un son trop "aigrelet" pour percer le mix, vous pourriez mettre le son plus fort, avec beaucoup moins de disto (juste un léger crunch), et le guitariste peut monter le volume de son ampli pour avoir le choix de jouer "léger" ou "hard". Une distorsion autre que celle de l'ampli, si c'est pas de la bonne qualité, ça sonne maringouin. Mieux vaut utiliser le gain de l'ampli avec modération, et attaquer les cordes plus sévèrement pour faire ressortir une distorsion "naturelle".
Faire du "metal" à trois, ça demande du travail, et si vous n'êtes pas satisfaits du rendu sonore vous risquez de vous emmerder. Commencez "petit", en vous trouvant des ajustements sonores pour plusieurs types de musique et élargir les possibilités de vos "jams" : un son "ballade", un son "pop rock", etc. Le traitement de chaque instrument devrait aussi "remplir l'espace" sans devenir cacophonique. Là, vous laissez beaucoup de "trous" dans le son, la basse pourrait en faire plus, à mon avis. Et la guitare est le seul instrument qui puisse jouer des accords, il faut donc en profiter, à moins de faire jouer des nappes de synthé pour vous accompagner, par exemple. Jouer de la guitare seul, avec basse et batterie, c'est un bon contrat!...
Le batteur est celui qui mène les autres sur le tempo, il doit donc jouer serré si vous ne voulez pas passer votre temps à attendre la suite. Vous pourriez aussi vous entendre sur quelques pièces à jouer "dans le style", sans pour autant faire des "reprises", pour vous habituer à ajuster votre son rapidement. Par exemple, une "imitation" du couplet d'une pièce que vous aimez bien, et que vous arrivez à tenir deux minutes de façon "crédible". Parfois ça peut suffire pour débloquer des idées, ça met la table pour des petites variations sans avoir à tout construire à partir de zéro.
Vous pourriez aussi vous éclairer de façon plus "discrète", avec deux ou trois lampes, pour vous mettre à l'aise. Mine de rien, la grosse lumière crue, c'est pas l'idéal pour se sentir à l'aise, même si vous êtes "entre amis". La déco n'est pas très inspirante, inutile de tout voir en détail pour vous rappeler que vous n'êtes pas sur scène! Probable que vous serez aussi plus attentifs au son en ayant le "visuel" moins présent, ou du moins plus "intimiste".
Mes idées. Gardez le sourire, et n'ayez pas peur d'essayer des styles différents de ce que vous avez l'habitude, ça peut être très stimulant et amusant! J'ai joué souvent avec des "métalleux", et les meilleurs moments d'impro étaient généralement ceux où on s'efforçait de sortir de nos habitudes, sur des trucs qui commençaient très doucement, avec l'accent mis sur la qualité du son de l'ensemble.