人们把五味子当作中药具有悠久的历史，在秦汉时期，人们就已经发现它宝贵的中药价值了，这可以在秦汉时期的著名中药学专著《神农本草经》中找到证据，在这本书中把五味子列为上品。
五味子具有很高的医药价值，它的名称由来和宋朝名医苏颂有关，苏颂曾经这样形容过五味子：“五味皮肉甘酸，核中辛苦，都有咸味，此则五味见也。”所以五味子由此得名。五味子因其五味而具有养五脏的功效，因为我国中医认为；酸入肝，苦入心，甘入脾，辛入肺，咸入肾，五味子五味俱全。而且我国中医药历史上，很多名医都认识到了五味子可以养五脏之气，比如唐代名医孙真人认为“五月常服五味子以补五脏气”，明代医学家李时珍也曾经说过“五味子咸酸入肝而补肾，辛苦入心而补肺，甘入中宫益脾胃。”另外，同时期的医学家李士财对五味子的养五脏之功效的阐述更为细致，他还把五味子誉为“生津之要药，收敛之妙剂”。《神农本草经》、《本草纲目》、《中药大辞典》等中药学著作均对五味子以及其医药价值做了详细的记述，现代中医认为它有止泻、止咳、止汗、止喘等功效。
在五味子众多的药用价值之中，最为显著的就是止咳。对于五味子能够止咳，很多中药书籍和中医名家都有记载，比如清代名医黄宫绣及其著作《本草求真》等。张锡纯曾说过“五味子敛收之力甚大，若咳逆上气挟有外感者，须与辛散之药合用，方能服后不致留邪。”咳嗽中有一种叫做“黄昏嗽”，是肺虚气逆，兼挟虚火之症，用五味子治疗此病可以起到很好的效果，名医张山雷、朱丹溪、黄宫绣等都曾用过五味子来治疗此病。
五味子还有南五味子和北五味子之分，二者相比，北五味子的药用价值比较高，所以中药常用北五味子入药。对于在医药中的用量，医学家也有不同的见解，有些医学家认为不宜多用，另外的则是相反，其实用量的多少需要因病而异。