A priori, c'est normal que tu ne puisses créer une piste 5.1 puisque tous tes outputs sont déjà pris par des "paths" en stéréo...
Mais le soucis peut aussi être double, suite à une "mauvaise" création de session (preset stéréo).
Donc, maintenant, fais ça:
Créées une nouvelle session (Create Blank Session) et dans I/O settings, choisis un des formats 5.1 (selon les besoins: Film, ProControl, etc...).
Voir ci-dessous (attention: ne PAS choisir Last Used comme sur la capture mais bien un format 5.1!) :

A partir de là, une fois la sessions ouverte, va dans les I/O, et vire tous les paths stéréo qui sont en dessous de "Mix Out". Quand c'est fait, je serais assez prêt à parier que, Ô Miracle, tu auras accès à ce que que tu veux comme type d'output à côté de "Mix Out".