後ろの説明文によって、先行する語句を明らかにする（特定する）場合は、関係代名詞として「that」を使い、そうでなく、補助的に説明を加えるだけなら、「コンマ＋which」を使います。
例えば、「テーブルの上の本を取ってください」という場合の次の 2 つの言い方。
(a) の方は、複数の本のうち一冊がテーブルの上にある状況で、そのテーブルの上の一冊を取って欲しい場合。つまり、「テーブルの上にある」という説明で本を特定しているため、「that」以下の説明がないと聞き手は本を手に取ることができません（本をひとつに限定できない）。
(b) の方は、例えばその部屋に一冊しか本がない状況で、別にテーブルの上にあると説明しなくても聞き手がその本を特定できる場合。だから、「コンマ＋which」以下の説明がなくても別に構いません（言うなれば which 以下は親切心による説明）。
難しい言葉を使うと、上記の that 節を restrictive clause（制限節、限定的用法）、「コンマ＋which」節を **non-restrictive clause（非制限節、非限定的用法）**と言います。
実際には that と which が restrictive/non-restrictive の違いを表しているのではなく、前にコンマが付かない場合が restrictive で、コンマが付く場合が non-restrictive となります（コンマの後ろは補足的説明だと捉える）。
じゃあなぜわざわざ that/which の 2 つの関係代名詞が必要なのかというと、会話の中ではコンマがあるかどうかを判断するのが難しいからでしょう。 通常は that と聞こえたらその後には restrictive な説明が続き、which と聞こえたらその後には non-restrictive な説明が続くんだと聞き手は判断します。 このような背景から、that の前にはコンマを付けず、which の前にはコンマを付けるようにするのが正しいとされます。
話を聞くときは、that の後ろを聞き逃さないようにしないといけないですね！
ちなみに、who の前のコンマに関しても、同様に restrictive/non-restrictive が表現されます。
(a) の方はコンマがなく、前の語句を限定しているので、負傷した軍人「だけ」助けことを意味しています（周りには負傷していない軍人もいた）。
(b) の方はコンマがあり、助けた軍人を、負傷していた軍人に「限定していません」（軍人はみんな負傷していた）。 このケースでは文章としてはコンマの前までで一応完結しており、コンマの前まで読んだ時点で、頭の中でその状況を思い浮かべてしまってもよいことになります。