当银行退回支票时，一般应将其退回给之前开出票据的单位。对于本企业来说，如果收到的支票已计入应收票据科目，则需要进行冲减并增加应收账款的金额。具体的分录如下：
借：应收账款—XX公司 贷：应收票据
这样的处理方式能够确保企业的账务清晰明了，同时也符合会计准则的要求。
首先，退回支票给之前的单位是符合常规操作的做法。这样做可以维护良好的商业合作关系，避免因支票无法兑现而引发的纠纷。
其次，对于本企业来说，将退回的支票计入应收票据科目是合理的。因为该科目记录了企业尚未收到的票据金额，包括退回的支票在内。
接下来，进行冲减和增加应收账款的金额是为了准确反映企业的财务状况。冲减应收票据科目可以减少企业的资产总额，而增加应收账款的金额则能够体现企业实际收到的资金。
最后，根据会计准则的规定，这种处理方式是合规的。通过正确的会计分录，企业能够准确地记录和报告其财务活动，为决策提供可靠的依据。
综上所述，银行退回支票时，将支票退回给之前开出票据的单位，并按照正确的会计分录进行处理，是符合常规操作和企业财务管理要求的做法。