吳國石城駐軍離襄陽七百多里，常常侵擾邊境。羊祜深以為患，于是巧用計謀，使吳國撤銷了守備。然后羊祜把軍隊分作兩半，一半執行巡邏戍守的軍事任務，一半墾田。
    當年，全軍共墾田八百余頃。羊祜剛來時，軍隊連一百天的糧食都沒有，到后來，糧食積蓄可用十年。
    羊祜的這些措施迅速地安定了荊州的社會秩序，增強了軍隊的戰斗力。司馬炎為表彰他的功績，下令取消江北所有的都督建置，授予羊祜南中郎將的職務，負責指揮漢東江夏地區的全部軍隊。
    羊祜在軍中，常穿著輕暖的皮裘，系著寬緩的衣帶，不穿鎧甲。鈴閣之下，應命侍衛的士卒也不過十幾個人。
    不久，羊祜又被加封為車騎將軍，并受到開府如三司之儀的特殊待遇。
    羊祜上表固辭。
    但朝廷未同意他的辭讓。這一年，羊祜四十九歲。
    …………
    泰始六年(270年)，吳國在荊州的都督換上了名將陸抗。
    陸抗的到來，引起羊祜的警惕和不安。因此，他一面加緊在荊州進行軍事布置；一面向司馬炎密呈奏表。密表建議，伐吳戰爭必須利用長江上游的便利條件，在益州(今四川地區)大辦水軍。
    泰始八年(272年)八月，吳主孫皓解除西陵(今湖北宜昌)督步闡的職務。步闡因害怕被殺，拒絕返回建鄴，當年九月，獻城降晉。
    陸抗聞訊，立即派兵圍攻西陵。
    晉武帝命令羊祜和巴西監軍徐胤各率軍分別攻打江陵(今湖北江陵)和建平(今四川巫縣)，從東西兩面分散陸抗的兵力，以實現由荊州刺史楊肇直接去西陵救援步闡的計劃。
    但陸抗破壞了江陵以北的道路，五萬晉軍糧秣的運輸發生困難，再加上江陵城防堅固，不易攻打，羊祜頓兵于城下，不能前進。
    楊肇兵少糧懸，被陸抗擊敗，步闡城陷族誅。
    有司上奏說，“羊祜違背詔命，沒有大將節操，應免去官職，保留侯爵回府第閑居。”
    結果，羊祜因此被貶為平南將軍，楊肇則被貶為平民。
    …………
    西陵救援失利后，羊祜總結教訓，采取軍事蠶食和提倡信義的兩面策略，以積蓄實力，瓦解對方，尋找滅吳的合適時機。
    鑒于歷史上孟獻子經營武牢而鄭人畏懼，晏（ya
    ）弱筑城東陽而萊子降服的經驗，羊祜揮兵挺進，占據了荊州以東的戰略要地，先后建立五座城池。并以此為依托，占據肥沃土地，奪取吳人資財。
    于是，石城以西均晉國占有，吳人來降者源源不絕。
    羊祜于是實施懷柔、攻心之計。
    吳將鄧香進犯夏口，羊祜懸賞將他活捉，抓來后，又把他放回。
    鄧香感恩，率其部屬歸降。
    羊祜的部隊行軍路過吳國邊境，收割田里稻谷以充軍糧，但每次都要根據收割數量用絹償還。
    打獵的時候，羊祜約束部下，不許超越邊界線。如有禽獸先被吳國人所傷而后被晉兵獲得，他都送還對方。
    羊祜這些作法，使吳人心悅誠服，十分尊重他，不稱呼他的名字，只稱“羊公”。