劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　先王之所以治天下者五：贵有德，贵贵，贵老，敬长，慈幼。此五者，先王之所以定天下也。贵有德，何为也？为其近于道也。贵贵，为其近于君也。贵老，为其近于亲也。敬长，为其近于兄也。慈幼，为其近于子也。是故至孝近乎王，至弟近乎霸。至孝近乎王，虽天子，必有父；至弟近乎霸，虽诸侯，必有兄。先王之教，因而弗改，所以领天下国家也。子曰：“立爱自亲始，教民睦也。立教自长始，教民顺也。教以慈睦，而民贵有亲；教以敬长，而民贵用命。孝以事亲，顺以听命，错诸天下，无所不行。”

　　桓玄下都，羊孚時為兗州別駕，從京來詣門，箋雲：“自頃世故睽離，心事淪蕰。明公啟晨光於積晦，澄百流以壹源。”桓見箋，馳喚前，雲：“子道，子道，來何遲？”即用為記室參軍。孟昶為劉牢之主簿，詣門謝，見雲：“羊侯，羊侯，百口賴卿！”