作为党内著名的笔杆子，胡乔木一生起草、整理了一系列载入史册的重要文件和历史文献。毛泽东曾夸奖他说：“靠乔木，有饭吃。”邓小平称他是“党内第一支笔”。那么，胡乔木是怎么写文章的呢？
　　“如何使文章按中央的要求能够让人看下去”
　　胡乔木一生撰写、整理、修改的文件、讲话、社论不计其数。他认为很重要的一点就是“如何使文章按中央的要求能够让人看下去”。关于文件、报告要起到怎样的效果、满足怎样的要求，他说：“一要引人看，要有好的介绍方法，要有吸引人的力量。毛主席常讲，文章的题目和头几句话很重要，首先头几句就给人家的印象不好，人家就不愿意看。不仅开头引人看，还要人家能够一口气看到底。二要使人看得懂，人家看不懂或不完全懂，就看不下去，看下去了也难得动员他。似懂非懂，目的就达不到。三要能说服人、打动人。如果看完了、看懂了，说服不了人，还是达不到目的。”
　　“写得愈长看的人就愈少”
　　上世纪40年代初，胡乔木在延安《解放日报》发表题为“短些，再短些！”的文章，倡导写短新闻、短通讯。1942年2月8日延安反对党八股的大会原先就叫压缩大会，四年半了，压缩尚未成功。那次引用鲁迅的话，“写完后至少看两遍，竭力将可有可无的字、句、段删去，毫不可惜”，依然是我们的警钟。接下来他向《解放日报》提议，文章要缩短篇幅，还解释说，这对读者作者都有大好处，多数作者也是爱写短的，写得愈长看的人就愈少。
　　胡乔木分管《人民日报》期间，在一次报纸评读会上，分析为什么有些报纸版面不生动时，他说：“主要是新闻条数太少，长新闻长文章像是几个大胖子挤在一张床上，他们的姿势摆得再美也不会好看。报纸版面要想编排得生动，首先不要让大胖子上版。”
　　“文字要有波澜起伏，不要像一潭死水”
　　胡乔木很注重文章的生动性。他在指导写中国共产党历史时曾说：文字要有波澜起伏，不要像一潭死水。如果老是从头到尾平铺直叙地写下去，就很难吸引人读。一段或几段开头，要有很精彩的话把事情提纲挈领地提出来。
　　要生动，就得有变化。怎样变化呢？无非是说了正面，又去说反面；说了这一面，又去说那一面；用了肯定的语气，又用怀疑的语气。一篇文章，如果从头到尾都是句号，连一个问号和感叹号都没有，大概不会很好，说书的人喜欢卖关子，弄个悬念：欲知后事如何，且听下回分解，就是为了让听的人产生兴趣。
　　胡乔木一贯重视标题的制作，并常常为此花费大量时间反复推敲。他曾打过一个形象的比方：文章标题是很有讲究的……如果用“画龙”比做写文章，用“点睛”比做制标题，是非常恰当的。龙身画得好，龙眼点得好，这条龙就活了起来。有时候想一个好的标题，等于写一篇文章所用精力的三分之一……
　　“我的文章都是改出来的”
　　胡乔木常说：“我的文章都是改出来的。”他的文章不管转载多少次，每次都有新改动。由他主持起草的中央重要文稿反复几十遍甚至上百遍，一点不奇怪。为了改动其中一个词，在散步途中折回，对他来说是常有的事。有时在不到一个小时里，他会连续返回几次。他常常为某一个词或某一句话究竟怎样写才合适弄得夜不能眠，而且往往在排印过程中还打电话修改某些句子和提法，一而再再而三地让印刷厂改动，直到付印為止。
　　胡乔木改文章，堪称一绝。从选题到立论，从标题到全篇，从理论到政策，从观点到材料，从布局谋篇到层次结构，从引语数字到标点符号，经过他的细心掂量和推敲，举凡有什么毛病、偏差和欠缺，都难逃他的眼睛。因此，一篇文章经胡乔木一改，哪怕是改几句话，加几句话，甚至只是改几个字，也大为改观。《人民日报》编辑送他审阅的稿子，一般都用八开新闻纸，在当中排印三栏长的文字，周围留有很大的空白。经他改后的稿子，往往布满密密麻麻的清秀的钢笔小楷，而原稿的文字有时候几乎“全军覆没”。