Как закрыть ИП с долгами по оплате налогов?

Можно. Нет такого основания для отказа в государственной регистрации, как наличие долга по налогам. Но и после закрытия ИП налог платить надо.

Федеральный закон от 8 августа 2001 г. N 129-ФЗ

"О государственной регистрации юридических лиц и индивидуальных предпринимателей"

(с изменениями от 23 июня, 8, 23 декабря 2003 г., 2 ноября 2004 г., 2 июля 2005 г., 5 февраля, 19 июля, 1 декабря 2007 г., 30 апреля, 23 июля, 30 декабря 2008 г., 19 июля 2009 г.)

"Статья 22.3. Порядок государственной регистрации при прекращении физическим лицом деятельности в качестве индивидуального предпринимателя

1. Государственная регистрация при прекращении физическим лицом деятельности в качестве индивидуального предпринимателя в связи с принятием им решения о прекращении данной деятельности осуществляется на основании представляемых в регистрирующий орган следующих документов:

а) подписанного заявителем заявления о государственной регистрации по форме, утвержденной уполномоченным Правительством Российской Федерации федеральным органом исполнительной власти;

б) документа об уплате государственной пошлины.

в) документ, подтверждающий представление в территориальный орган Пенсионного фонда Российской Федерации сведений в соответствии с подпунктами 1 - 8 пункта 2 статьи 6 и пунктом 2 статьи 11 Федерального закона "Об индивидуальном (персонифицированном) учете в системе обязательного пенсионного страхования" и в соответствии с частью 4 статьи 9 Федерального закона "О дополнительных страховых взносах на накопительную часть трудовой пенсии и государственной поддержке формирования пенсионных накоплений".

Статья 23. Отказ в государственной регистрации

1. Отказ в государственной регистрации допускается в случае:

а) непредставления определенных настоящим Федеральным законом необходимых для государственной регистрации документов;

б) представления документов в ненадлежащий регистрирующий орган;

в) предусмотренном пунктом 2 статьи 20 или пунктом 4 статьи 22.1. настоящего Федерального закона;

г) несоблюдения нотариальной формы представляемых документов в случаях, если такая форма обязательна в соответствии с федеральными законами;

д) подписания неуполномоченным лицом заявления о государственной регистрации или заявления о внесении изменений в сведения о юридическом лице, содержащиеся в едином государственном реестре юридических лиц;

е) выхода участников общества с ограниченной ответственностью из общества, в результате которого в обществе не остается ни одного участника, а также выхода единственного участника общества с ограниченной ответственностью из общества".

Можно, но долги останутся на самом физ.лице и будут взыскиваться.