大きな集団や組織の末端にいるよりは、小さな集団でも構わないから、そこの長になって重んじられる方が良いということを表した四字熟語です。

【鶏口】は、鶏の口の意味から、小さな組織の長のたとえを表しています。
【牛後】は、牛の尻の意味から、大きな組織に従って使われる者のたとえを表しています。

中国戦国時代の弁論家・蘇秦（ソシン： ?～B.C.317年）が、当時最強国の秦に対抗するため、弱小国は協力し合ってまとまらなければいけないという「合従策」を引っ提げて諸国をめぐり歩いていました。

蘇秦は燕を始めとして趙、韓、魏、齊、楚と「合従策」を説いて廻り、B.C.333年、六国合従が成立し
蘇秦は六国の宰相になりました。

3番目に訪れた、韓の国で宣惠（センケイ）王に合従策を説いていた時にこの【鶏口牛後】を持ち出しています。『史記・蘇秦列伝』には

臣（シン）聞く、鄙諺（ヒゲン）に曰く、『寧（むし）ろ鶏口（ケイコウ）と為（な）るとも、牛後（ギュウゴ）と為（な）る無（な）かれ』　と。
　　　　　諺にございますように『寧ろ鶏口と為るとも、牛後と為る無かれ』とありますが

今、西面し、臂（ひじ）を交（まじ）えて秦に臣事（シンジ）するは、何ぞ牛後に異ならんや。
　　　　　いま、手を拱いて秦に仕えるのは、まさに牛後となることです。

夫（そ）れ大王の賢（ケン）を以て、彊韓（キョウカン）の兵を挟（さしはさ）みて、而（しか）も牛後の名（な）有るは、臣（シン）窃（ひそ）かに大王の為に之を羞（は）ず、と。
　　　　　そもそも、大王の賢明さと、強力な軍隊を持ちながら牛後となって、秦に仕えるなどと聞きますと、
　　　　　臣（わたくし）蘇秦は、窃かに大王の為に羞ずる所でございます。

『十八史略』にも蘇秦の「合従策」についての記述があります。こちらは趙の肅公から軍資金を貰って、諸侯に合従のメリットを説いて回るその中で【鶏口牛後】を用いたとありまして、特定の王にのみ語ったのではなく、各国の王に説明したように書かれています。