Święte Świętych istniało także w Drugiej Świątyni, ale teksty biblijne zasadniczo nie wspominają już o istnieniu w nim Arki Przymierza. Jedynie zawarta w Księdze Jeremiasza (Jr 3,16) zapowiedź zniknięcia Arki przymierza przewidywała zburzenie Jerozolimy i zniknięcie Arki. Tradycja żydowska oraz biblijna połączyła z osobą Jeremiasza kres znaczenia Arki przymierza w życiu religijnym Izraela (2 Mch 2,4-6). W Świątyni odnowionej za czasów Jozjasza Arka świadectwa miała wskazywać na ciągłość objawienia Boga Jahwe od czasów Mojżesza.
Przebłagalnia Niezwykle ważnym elementem Arki była Przebłagalnia, zwana także z hebrajskiego kaporet. Była to szczerozłota płyta, która przykrywała Arkę (Wj 25,21). Miała wymiary 2,5 łokcia × 1,5 łokcia, czyli wymiary odpowiadające długości i szerokości samej Arki.
Biblijny termin kappōret (w Septuagincie oddawany jako hilasterion, lub rzadziej epídema – „pokrywa”) pochodzi od rdzenia kpr (hebr. כּ-פּ-ר, kaf; pe;