А. Ю. Кистяковскому удалось совместить успешную профессиональную деятельность в области архитектуры и строительства с не менее профессиональным участием в спорте.

С юных лет занимался плаванием. В 1928 году был включен в сборную команду Москвы по водному поло. В 1933 году установил рекорд СССР в плавании на 300 м на боку. В чемпионате СССР 1934 года занял третье место в плавании на спине на 200-метровой дистанции. В 1935 году стал первым советским спортсменом, освоившим новый стиль плавания — баттерфляй и продемонстрировавшим его на официальных соревнованиях на 50-метровой дистанции. В 1936 году столичные пловцы, в числе которых был и А. Ю. Кистяковский, одержали общекомандную победу в чемпионате СССР по плаванию.

В 1945 и 1946 годах команда ватерполистов ЦСКА, членом которой был А. Ю. Кистяковский, выигрывала чемпионат СССР.

Заслуженный мастер спорта СССР по водному поло.

В 1950-е годы тренировал пловцов и ватерполистов МГУ, команды «Буревестник» и др. Участвовал в подготовке сборной СССР по водному поло к Олимпийским играм в Мельбурне. За три месяца до открытия в 1964 году Олимпиады в Токио был назначен старшим тренером команды.

На мельбурнском конгрессе Международной федерации плавания (ФИНА) А. Ю. Кистяковский был введён в состав технического комитета по водному поло. Впоследствии он стал вице-президентом этого комитета.