【善に遷（うつ）り、過（あやま）ちを改む】と訓読みされまして、善を見ればただちに学びとり、過失があればただちに改める、と言う意味です。

『易経』で「益」という名前の占い結果の説明の中にでてくる四字熟語です。

　　益。利有攸往。利渉大川。
　　益は、往（ゆ）くところ有るによろし。大川を渉（わた）るによろし。
　　　　　進んで行動して利がある。大事を行なってもよい。

どこかへ行く、つまり積極的に進むがよい、大川を渡る、すなはち冒険をするのもよかろう。
というのが大意で、更に詳しい解説が『彖伝（タンデン）』、『象伝（ショウデン）』にあります。

　　彖曰、益、損上益下。民説无疆。自上下下、其道大光。
　　彖（タン）に曰く、益は上を損（へら）して下を益す。民よろこぶこと限りなし。
　　上より下に下る、その道おおいに明らかなり。
　　　　　彖に言うには、益は上から減らして下に増す意味、そうすれば下の民の悦びは限りない。
　　　　　つまり上の君がへりくだって、下の民の富を増やしてやる、その道義は大いに輝かしい。

　　利有攸往、中正有慶。利渉大川、木道乃行。
　　往（ゆ）くところあるによろし、中正にして慶びあるなり。
　　大川を渉（わた）るによろし、木道すなはちおこなわるるなり。
　　　　　行けばおのずから福（慶び）がある。
　　　　　大川を渡るのに有利である、舟（木道）があるから尚更である。

　　益動而巽、日進无疆。天施地生、其益无方。
　　益は動きて巽（したが）い、日に進むこと限りなし。天は施し地は生じ、その益すこと方なし。
　　　　　理に従って動くとき、その益は、日に進むこと限りない。
　　　　　天が施し地が生めば、、万物の増益すること際限がない。

　　凡益之道、與時偕行。
　　およそ益の道は、時と共に行わる。
　　　　　しかるべき時期に応じて行なわれねばならない

　　象曰、風雷益。君子以見善則遷、有過則改。
　　象に曰く、風雷は益なり。君子以って善を見ればすなはち遷（かえ）り、過ちあればすなはち改む。
　　　　　風が烈しければ雷の響きはより強くなり、雷の鳴るときは風が速くなる。
　　　　　君子は、自分に優る善さがあれば、直ちにそれに従い、自分に過ちがあれば憚ることなく改める。