企业不能仅领取营业执照而不进行税务登记。一旦注册公司，无论是否开始经营，未办理税务登记都是违法行为。根据我国税法规定，领取工商营业执照的企业应在30日内申报并完成税务登记。若纳税人未按规定期限进行税务登记、变更或注销，税务机关将在发现之日起3日内责令其限期改正，并根据《税收征管法》第六十条第一款的规定进行处罚。