张元济是个传奇人物，他先后与中国五位第一号人物（光绪、孙中山、袁世凯、蒋介石、毛泽东）有过从。
在旧中国，许多人在寻找富强中国之道路，张元济认为中国的希望在于“开启民智”。 他曾说过：“中国四万万人口，只有四十万人受过教育，而受过教育的人也就是学过几句八股文，对于应该知道的知识几乎都没有学到。在当今那么发展的世界上，这样下去我们的国家要亡！”所以，张元济选择了以出版来推动教育、振兴中华文明之路。
张元济先生以“扶助教育为己任”，致力于商务印书馆工作。他以一种开明开放、兼容并包、海纳百川的胸怀广集人才。据《商务印书馆大事记》记载：自1920—1922年间，陆续进馆的有陈布雷、郑振铎、谢六逸、周予同、王云五、竺可桢、顾颉刚等。他们中很多人后来成为中国文化科学领域的一代宗师。所以，有人说，商务印书馆和五四时期蔡元培主持的北京大学一样，成为“各方知识分子汇集的中心”。
后来，因中风卧床多年的张元济先生曾用颤抖的手写下一首诗给商务印书馆的同仁：“昌明教育平生愿，故向书林努力来。此是良田好耕植，有秋收获仗群才。”
商务印书馆编辑出版了中国第一部新式辞书《辞源》，开创了我国现代工具书出版的先河。
1932年1月28日，日军战机针对性轰炸位于上海宝山路上的商务印书馆，导致商务印书办公大楼、总厂房、机器设备以及出版物（约80%以上资产被毁），还有该馆所属的东方图书馆珍藏的几十万册图书（其中大部分是古籍善本和孤本）全部化为灰烬。时年65岁的张元济深受打击：“连日勘视总厂，可谓百不存一，东方图书馆竟片纸不存，最为痛心。”
当年商务印书馆被毁前后的种种迹象表明，是日本侵略者早有预谋的暴行。那个日本第一外遣舰队司令官兼驻上海特别陆战队司令官盐泽幸一曾放言：“炸毁闸北几条街，一年半就可以恢复。把商务印书馆、东方图书馆这个中国最重要的文化机关焚毁了，则永运也恢复不了。”
张元济望着漫天飘舞的纸灰，他涕泪长流，唯有自责，他对夫人说：“这是我的罪过！如果我不将这些书搜罗起来，不是集中保存，仍然让它散存在全国各地，岂不可以逃过这场浩劫！”他仰天长叹，“廿年心血成铢寸，一霎书林换劫灰”。
但张元济及他的同仁并不因此而绝望，经过努力，半年后商务印书馆得以复业。
还有一件事也特别发人深省。张元济先生的儿子张树年先生从美国留学回来后，曾想在父亲作为董事长的商务印书馆工作，但被张元济拒绝了。张元济告诉儿子，他如果进商务印书馆有“三不利”：一是对你不利。你若进了“商务”，必然会有人吹捧你，你就会失去刻苦锻炼的机会，浮在上面，领取高薪，岂不毁了你的一生。二是对我不利。父子同一处工作，我就要受到牵制，尤其在人事安排上，很难主持公道，讲话无力。三是对公司不利。若你进公司，这将会形成极为恶劣的风气，必然有人要效仿。
这番话打消了张树年先生进商务印书馆的念头。
1949年8月，张元济先生作为特邀代表，在儿子张树年的陪同下赴北京参加新中国第一届政协会议，曾受毛主席邀请同游天坛。回来后，他对树年说：“毛主席有学问有气魄，我看中国有希望了。”
1952年，上海筹建文史馆，中央决定请张元济出任馆长，但张先生因偏瘫于床榻，没有同意。后来，陈毅市长转达毛主席指示：“上海文史馆馆长非其莫属。” 他不再推辞，于是张元济先生成了上海文史馆第一任馆长……
1959年8月14日，张元济先生病逝于淮海中路1285弄24号寓所，终年93岁。
记得张元济先生曾撰“自挽联”如下：好副臭皮囊，为你忙着过九十年，如今可要交卸了；这般新世界，纵我活不到一百岁，及身已见太平来。