Можно ли вернуть уплаченную пошлину на получение удостоверения охранника если в получении было отказано.

Госпошлина возвращается только при отказе всовершении действия за которое она уплачена, а если Вам отказали в выдаче удостоверения, это не отказ в совершении действия, а отказ в предоставлении Вам права быть охранником.

В соответствии со ст. 333.40 НК РФ заявление о возврате излишне уплаченной суммы государственной пошлины подается плательщиком государственной пошлины в орган (должностному лицу), уполномоченный совершать юридически значимые действия, за которые уплачена (взыскана) государственная пошлина.

Вы не указали по какой причине вам отказали и при каких действиях - сдачи зачётов, получение удостоверения или ещё чего?

Не совсем понятен ваш ответ.