Ich kenne leider Ableton live nicht, denke aber, dass ich verstehe, was Du vorhast. Ich nutze als Keyboard-Mixer Mainstage auf dem Macbook zusammen mit einer Motu Ultralite, und mische dort auch VSTi zusammen mit einem Audio-Routing. Ja, Du brauchst eine Soundkarte mit der Anzahl der entsprechenden Audio-INs, und wenn Du verschiedene Mixes rausgeben willst auch die passende Anzahl der OUTs. Eine Audiokarte mit 3 INs kenne ich nicht, aber 4 (oder natürlich auch mehr) gibt's jede Menge. Outs brauchst Du in Deinem Fall einmal Stereo für die Summe die Du an FOH schickst, und wenn zwei Musiker jeweils einen individuellen Monitormix benötigen, den sie nicht vom FOH bekommen können, weil der Mix in Ableton entstehen muss, brauchst Du natürlich noch zwei weitere OUTs. In meiner MOTU sind die OUTs nur in Stereo ausgelegt, da bräuchte ich dann in diesem Fall sogar 3x2, also 6 OUTs. Bei einer Ultralite kein Thema, da die mit 8 INs und 8 OUTs eh ausreichend bestückt ist.
Glaub mir, an INs und OUTs kann man gar nicht genug haben, Verwendung findet sich im Laufe der Zeit von alleine, und dann hast Du am falschen Ende gespart, wenn Du beim Kauf zu knapp kalkulierst. Ich schicke ein Stereo-Submix an FOH, ein Stereo an mein IN-Ear, über einen weiteren Stereo-OUT route ich das iPad separat zum FOH, weil von dem nur Einspieler kommen, die unabhängig von meinen Keyboardmix geregelt werden sollen, sowohl FOH als auch auf den Monitoren der anderen Kollegen. Einen Stereo OUT hätte ich noch frei, aber darüber kommt mittlerweile ein Monitormix für einen Aktivmonitor, den ich in manchen Fällen alternativ zum IN-EAR einsetze.