30 квітня 1929 року Андрій Гулий-Гуленко колегією [[Об'єднане державне політичне управління|ОДПУ]] був засуджений до розстрілу по ст. 58-6 і 10 травня страчений у Москві. Похований на [[Ваганьковське кладовище|Ваганьковському кладовищі]].
Після 29 січня 1926 року доля невідома. За нез'ясованих обставин 1927 року Гулий-Гуленко з'являється у [[Польська Республіка (1918—1939)|Польській республіці]], стверджуючи, що він утік. 20 липня 1927 року полковник Армії УНР [[Чеботарів Микола Юхимович|Микола Чеботарів]] у листі до сотника Володимира Шевченка писав: «Тільки для Вас: Гулий-Гуленко, генерал, втік з большевії. Зараз знаходиться у мене. Скоро випущу його в світ для інформацій ширших кол. А. М. (Андрій Миколайович Левицький) ще його не бачив, але знає, що він тут».
У листі до історика Романа Коваля син звенигородського отамана Юрій Лютий-Лютенко писав (напевно, зі слів батька) таке: «А. Гулий-Гуленко — знаменитий наш генерал, партизан і зрадник. Це Чеботарів розкрив його як совєтського агента, а полковник (Іван) Литвиненко (це вже як Гулий-Гуленко повертав з України — другий раз переходив границю в Польщу) убив його».
