我老公今年40岁了,他在去年就有了外遇,朋友对我说,我还不相信,也没有采取措施保护这段婚姻.但是在前几天我发现了地的情人怀孕了,并且这女人是有老公的,和我老公同年龄,还有三个孩子,都大了.老公被我发现后,他说要和他她断绝来往,和我好好的过,但那女人不想打胎,老公说不想拿钱给她,所以现在也没处理,但昨天我发现他们有发短信,只是我老公他删了,我也不知道是什么内容.我怀疑他们还在来往.我也不想离婚,毕竟我们还有两个小孩,但我又不知要用什么方法惩罚他,让他不再出现同样'的错误.我想和他分开一段时间,把孩子丢给他,让他带一段时间,让他自己选择,跟我还是跟她,可以吗?