唐代，祁门茶市十分兴盛。南唐，休宁人臧循便行商福建。宋代，徽纸已远销四川。南宋开始出现拥有巨资的徽商，祁门程承津、程承海兄弟经商致富，分别被人们称为“十万大公”、“十万二公”，合称“程十万”。朱熹的外祖父祝确经营的商店、客栈占徽州府的一半，人称“祝半州”。一些资本雄厚的大商人还在徽州境内发行“会子”。元末，歙县商人江嘉在徽州发放高利贷，牟取暴利。元末明初的徽商资本，较之宋代大为增加，朱元璋入皖缺饷，歙人江元一次助饷银10万两。成化年间，徽商相继打入盐业领域，一向以经营盐业为主的山西、陕西商人集团受到严重打击，于是徽商以经营盐业为中心，雄飞于中国商界。

明代中叶以后至清乾隆末年的300余年，是徽商发展的黄金时代，无论营业人数、活动范围、经营行业与资本，都居全国各商人集团的首位。当时，经商成了徽州人的“第一等生业”，成人男子中，经商占70%，极盛时还要超过。徽商的活动范围遍及城乡，东抵淮南，西达滇、黔、关、陇，北至幽燕、辽东、南到闽、粤。徽商的足迹还远至日本、暹罗、东南亚各国以及葡萄牙等地。

徽商经营行业以盐、典当、茶木为最著，其次为米、谷、棉布、丝绸、纸、墨、瓷器等。其中婺源人多茶、木商，歙县人多盐商，绩溪人多菜馆业，休宁人多典当商，祁门、黟县人以经营布匹、杂货为多。

徽商除了从事多种商业和贩运行业外，还直接办产业。休宁商人朱云沾在福建开采铁矿，歙县商人阮弼在芜湖开设染纸厂，他们边生产边贩卖，合工商于一身。徽商经营多取批发和长途贩运。休宁人汪福光在江淮之间从事贩盐，拥有船只千艘。一些富商巨贾，还委有代理人和副手。徽商还使用奴仆营商，休宁人程廷灏曾驱僮奴数十人，行贾四方。徽商在经营中注重人才，做到知人善任，注重市场行情，实行灵活经营。有一业为主兼营它业的；有根据不同行情、季节变换经营项目的。

 徽商讲究商业道德，提倡以诚待人，以信接物，义利兼顾。以勤奋和吃苦耐劳而著称，在外经营，三年一归，新婚离别，习以故常。徽商商而兼士，贾而好儒，与封建官僚混为一体，或相互接托。他们除以“急公议叙”、“捐纳”和“读书登第”作为攫取官位的途径外，还以重资结纳，求得部曹守令乃至太监、天子的庇护，享有官爵的特权。一些徽商本人不能跻身官僚行业，就督促子弟应试为官，自己也就成为官商。

清乾隆末年，封建统治日趋没落，课税、捐输日益加重，徽商处境愈来愈困难。1831年，两江总督兼管两淮盐政陶澍革除淮盐积弊，改行“票法”，靠盐业专利发迹的徽商开始衰败。典当业也因左宗棠垄断及外国银行的侵入而中落。茶、木两商则由于鸦片战争和太平天国运动的影响，连年亏损。尤其是随着帝国主义入侵，外资渗入，国外商品倾销，徽商经营的行业大多被其所替代。同时与帝国主义、军阀官僚联系密切的广东、江浙财阀开始兴起，只掌握传统商业知识、技能的徽商，在商业领域逐渐失去其操纵、垄断和独占的地位，开始走下坡路。

清末和民国时期，虽有个别徽商人物如黟县盐商李宗媚、歙县房地产商人程霖生等展露头角，但整体上挽救不了徽商的颓势。

当然，徽商之所以能称雄商界数百年，成为全国十大商帮中之翘楚之一，是与它的贾而好儒的本质特点分不开的。徽商的贾而好儒首先表现在其思想观念上的崇儒重儒。如在黟县古民居村落西递村有这样一幅楹联"读书好营商好效好便好，创业难守业难知难不难"，从中便可看出徽商尊儒重商的特点。

徽商贾而好儒还表现在他们的实际行动上，即不少商人致富后，或弃贾业儒，或弃贾就仕，不少徽商甚至选择了一条捐赀买官的道路。 那么，徽商贾而好儒的原因是什么呢：首先徽商所在地区是一个有着深厚文化积淀的地区；其次为了获得与经济地位相称的社会地位需要以"儒"为外衣来包装自己。

植根于厚实新安文化土壤之上的徽商，作为一个整体文化素质较高的商帮，他们在商业活动中大多自觉用儒学思想来规范自己的经营活动，讲究义利之道，见利思义，以义取利，讲究诚信商德，不欺奸诈，货真价实。从享誉商界的《徽商古训》中不难看到这些追求。他们善于把握商机，权衡大道，在商海竞争中技高一筹。他们大多在致富后重视文化建设，捐资兴学，刻书藏书，修方志，邀讲学，培养子弟读书入仕，谋求政治地位的提高，同时也促进了地方经济的繁荣，孕育了一大批国家的杰出人才。胡锦涛既是徽商家庭培育出来的国家领导人。

自明清以来，徽商以自身的开拓进取创造了辉煌业绩——商业的繁荣和文化的成就，同时形成了一种儒商精神，树立了一代儒商的形象。