島原の乱が収束して間もないころ、イエズス会の司祭で高名な神学者であるクリストヴァン・フェレイラが、布教に赴いた日本での苛酷な弾圧に屈して、棄教したという報せがローマにもたらされた。フェレイラの弟子セバスチャン・ロドリゴとフランシス・ガルペは日本に潜入すべくマカオに立寄り、そこで軟弱な日本人キチジローと出会う。キチジローの案内で五島列島に潜入したロドリゴは潜伏キリシタンたちに歓迎されるが、やがて長崎奉行所に追われる身となる。幕府に処刑され、殉教する信者たちを前に、ガルペは思わず彼らの元に駆け寄って命を落とす。ロドリゴはひたすら神の奇跡と勝利を祈るが、神は「沈黙」を通すのみであった。逃亡するロドリゴはやがてキチジローの裏切りで密告され、捕らえられる。連行されるロドリゴの行列を、泣きながら必死で追いかけるキチジローの姿がそこにあった。

長崎奉行所でロドリゴは棄教した師のフェレイラと出会い、さらにかつては自身も信者であった長崎奉行の井上筑後守との対話を通じて、日本人にとって果たしてキリスト教は意味を持つのかという命題を突きつけられる。奉行所の門前ではキチジローが何度も何度も、ロドリゴに会わせて欲しいと泣き叫んでは追い返されている。ロドリゴはその彼に軽蔑しか感じない。

神の栄光に満ちた殉教を期待して牢につながれたロドリゴに夜半、フェレイラが語りかける。その説得を拒絶するロドリゴは、彼を悩ませていた遠くから響く鼾（いびき）のような音を止めてくれと叫ぶ。その言葉に驚いたフェレイラは、その声が鼾などではなく、拷問されている信者の声であること、その信者たちはすでに棄教を誓っているのに、ロドリゴが棄教しない限り許されないことを告げる。自分の信仰を守るのか、自らの棄教という犠牲によって、イエスの教えに従い苦しむ人々を救うべきなのか、究極のジレンマを突きつけられたロドリゴは、フェレイラが棄教したのも同じ理由であったことを知るに及んで、ついに踏絵を踏むことを受け入れる。

夜明けに、ロドリゴは奉行所の中庭で踏絵を踏むことになる。すり減った銅板に刻まれた「神」の顔に近づけた彼の足を襲う激しい痛み。そのとき、踏絵のなかのイエスが「踏むがいい。お前の足の痛さをこの私が一番よく知っている。踏むがいい。私はお前たちに踏まれるため、この世に生まれ、お前たちの痛さを分つため十字架を背負ったのだ。」と語りかける。

こうして踏絵を踏み、敗北に打ちひしがれたロドリゴを、裏切ったキチジローが許しを求めて訪ねる。イエスは再び、今度はキチジローの顔を通してロドリゴに語りかける。「私は沈黙していたのではない。お前たちと共に苦しんでいたのだ」「弱いものが強いものよりも苦しまなかったと、誰が言えるのか?」

踏絵を踏むことで初めて自分の信じる神の教えの意味を理解したロドリゴは、自分が今でもこの国で最後に残ったキリシタン司祭であることを自覚する。

『沈黙』出版当初のカトリック教会からの反発は非常に強いものがあった。特に長崎においては、禁書に等しい扱いをされたという。司祭が踏絵を踏むという衝撃的な結末を快く思わない教会指導者による非難がその要因とされる。

1972年（昭和47年）1月13日付で遠藤による「踏絵」と題する記事が『カトリック新聞』に掲載された。本記事において遠藤は「『早くふむがいい。それでいいのだ。私が存在するのは、お前たちの弱さのために、あるのだ』と（踏絵の）キリストの顔が言っている気がした」と書いたが、その記述に対し、サレジオ会司祭で当時ドン・ボスコ社の月刊誌『カトリック生活』編集長であったフェデリコ・バルバロ神父とアロイジオ・デルコル神父は、遠藤が『沈黙』の中の踏絵の場面を正当化したとして、『カトリック生活』で反論を述べている。

遠藤は1974年の著書『切支丹の里』において、棄教者に向ける自身の思いを以下のように記している。

（中略）

やがて遠藤の思いは、弱き者に寄り添う「同伴者イエス」の像として、1980年に発表された『侍』に結実するのである。

1993年に松村禎三の台本・作曲によりオペラ化され、1993年に完成・初演された。

• 『沈黙』の舞台となった長崎には遠藤周作文学館がある。そこにある「沈黙の碑」は小説にちなんで作られた。後年になって、自筆原稿が発見されている。
• 『沈黙』に遠藤がつけた最初の題名は『日向の匂い』で広告も出したが、編集者が遠藤に題名を変更したいと申し出て『沈黙』となった。