这种情况下，因为双方没有结婚证，不存在法律意义上的婚姻关系，所以不需要办理离婚手续。

在我国，只有依法办理登记的婚姻才受到法律保护。没有结婚证，从法律角度来说，双方并非夫妻关系。如果一方有了小三并且还有孩子，这更多的是涉及到道德层面的问题。虽然没有一说，但双方对于同居期间的财产分割、子女抚养等问题可能存在争议。如果涉及到财产分割，双方可以协商解决，协商不成的，可以向法院，由法院根据具体情况进行判决。关于子女抚养问题，不论双方是否有结婚证，父母都有抚养子女的义务。非婚生子女享有与婚生子女同等的权利，任何组织或者个人不得加以危害和歧视。不直接抚养非婚生子女的生父或者生母，应当负担未成年子女或者不能独立生活的成年子女的抚养费。在处理这类情况时，双方应保持冷静和理智，通过合法合理的方式解决问题，尽量减少对各方的伤害。

《最高人民法院关于适用 婚姻家庭编的解释（一）》 第三条

当事人提起诉讼仅请求解除同居关系的，人民法院不予受理；已经受理的，裁定驳回起诉。

当事人因同居期间财产分割或者子女抚养纠纷提起诉讼的，人民法院应当受理。

《最高人民法院关于适用 婚姻家庭编的解释（一）》 第四条

当事人仅以民法典第一千零四十三条为依据提起诉讼的，人民法院不予受理；已经受理的，裁定驳回起诉。

《中华人民共和国民法典》 第一千零四十三条

家庭应当树立优良家风，弘扬家庭美德，重视家庭文明建设。

夫妻应当互相忠实，互相尊重，互相关爱；家庭成员应当敬老爱幼，互相帮助，维护平等、和睦、文明的婚姻家庭关系。