對於這個問題，首先要明確你們之間是否建立了婚姻關係。既然說到離婚，那麼就說明你們之間已經辦理了結婚手續，是合法夫妻，那麼此時已經另有新歡的丈夫，根據法律規定是要淨身出戶的，你們共有的所有財產都屬於受害者一方，也就是說你們所有的財產都屬於你和孩子，你丈夫沒有權利和你分割財產。並且孩子的父親還應該與你一起承擔孩子的撫養費。這些都是有法可依的，如果他不認可，即使走法律程式，你也是勝券在握。

如果兩個孩子都是未婚先孕，並且你們沒有辦理結婚手續，也就是說沒有領結婚證，那麼就不存在離婚的問題，兩個孩子都屬於非婚生子女，你們雙方都有撫養孩子的義務。

都已經養育兩個孩子都還沒有辦理結婚手續，現在居然還會另有新歡，這樣完全沒有責任心，或許就沒有想過要給予你幸福安定的家，對於這樣的垃圾男，不要也罷。可是兩個孩子是無辜的，他們並沒有過錯，不能讓他們內心受到傷害，更不能讓孩子受委屈，所以你需要做的就是儘可能多爭取你們之間的共有財產，起碼能保證你自己撫養兩個孩子不會太辛苦。孩子的爸爸即使離開你們，也應該盡到做父親的責任，要與你共同承擔撫養孩子的責任，儘可能多陪伴孩子，讓孩子感受到父愛的同時，才能心靈健康的成長。想要達成理想的協議 ，建議你們之間最好是能夠平靜的面對眼前的一切，大吵大鬧也已經於事無補，儘可能理智的面對，才能更好的解決問題。