语见西汉•司马迁《史记•魏其武安侯列传》：“武安（田蚡）已罢朝，出止车门，召韩御史大夫载，怒曰：‘与长儒（韩安国）共一老秃翁（窦婴），何为首鼠两端？’”
西汉武帝时，将军灌夫和丞相田蚡之间，早有仇恨，互相倾轧，争权夺势。在田蚡结婚的一次宴会上，灌夫向田蚡敬酒，田蚡不肯喝，灌夫借他人出气，指桑骂槐地把田蚡骂了一顿。田蚡借故把灌夫押进牢狱，追查前罪，判处灭族之罪。
魏其侯窦婴与灌夫有旧交，便上书汉武帝，说灌夫是酒后失言，不该处死。
刘彻把他叫到东宫去当庭辩论。窦婴与田蚡双方相持不下。刘彻询问大臣们的看法。御史大夫韩安国说：“窦婴讲灌夫的父亲阵亡，灌夫冲进敌阵，身受重伤，有战功，不能因杯酒之争办成灭族之罪，窦婴的话是对的；丞相田蚡揭发灌夫在颍川勾结坏人，残害百姓，欺压皇族，有不臣之心，丞相的话也是对的。究竟谁是谁非，还是请皇上裁决。”
退朝以后，田蚡对韩安国说：“我和你共同对付一个窦婴，你为什么胆小如鼠，探头探脑，畏首畏尾，左右踌躇呢？”
《埤雅•释虫》说“首鼠”即“首尾”，因为鼠出洞后，前后张望，畏首畏尾。相传汉代方言谓老鼠为“首鼠”。
田蚡与窦婴各持一端，韩安国既顾这一端又顾另一端的踌躇于首尾之间，《史记》称其为“首鼠两端”。现用“首鼠两端”，形容基于胆小怕事，遇事采取迁就温和态度。