Аньхойский университет китайской медицины был основан в 1959 году; его предшественником стали курсы подготовки специалистов по традиционной китайской медицине провинции Аньхой, созданные в 1952 году. В 1959 году правительство провинции Аньхой официально утвердило создание Аньхойского колледжа традиционной китайской медицины. В 1970 году колледж вошёл в состав Аньхойского медицинского колледжа. В 1975 году Министерство образования утвердило его восстановление. В 2000 году к нему присоединилось Аньхойское медицинское училище. В 2011 году правительство провинции утвердило создание на его базе Аньхойской академии наук о китайской медицине. В 2013 году Министерство образования утвердило его переименование в Аньхойский университет китайской медицины.

Университет является национальной клинической базой исследований традиционной китайской медицины, национальной базой международного сотрудничества в области традиционной китайской медицины и национальной базой клинических исследований лекарственных средств; он имеет право присуждать докторские степени и рекомендовать магистрантов без вступительных экзаменов. В его составе четыре кампуса — Шаоцюаньху, Мэйшаньлу, Шихэлу и Луаньлу — 18 194 студента очной формы обучения (включая 2 673 докторантов и магистрантов), 17 факультетов и кафедр (включая 3 непосредственно подчинённые больницы) и 7 больниц, не являющихся непосредственными подразделениями.