Os Quatro Heróis Cardeais são um grupo de homens comuns do Japão moderno convocados ao reino de Melromarc para se tornarem seus salvadores. Melromarc é um país atormentado pelas Ondas da Catástrofe, que repetidamente devastaram a terra e trouxeram desastres para seus cidadãos durante séculos. Os quatro heróis recebem, respectivamente, uma espada, uma lança, um arco e um escudo para derrotar essas Ondas. Naofumi Iwatani, um otaku, é amaldiçoado com o destino de ser o "Herói Escudo". Armado com apenas um escudo medíocre, Naofumi é menosprezado e ridicularizado por seus companheiros heróis e pelo povo do reino devido às suas fracas capacidades ofensivas e personalidade sem brilho.

Quando os heróis recebem recursos e camaradas para treinar, Naofumi sai com a única pessoa disposta a treinar ao lado dele, Malty Melromarc. Ele logo é traído por ela, no entanto, e torna-se falsamente acusado de se aproveitar dela. Naofumi então se torna fortemente discriminado e odiado pelo povo de Melromarc por algo que ele não fez. Com uma tempestade violenta de mágoa e desconfiança em seu coração, Naofumi começa sua jornada para fortalecer a si mesmo e sua reputação. Mais adiante, no entanto, a dificuldade de estar por conta própria se instala, então Naofumi compra uma escrava semi-humana à beira da morte chamada Raphtalia para acompanhá-lo em suas viagens.

Conforme as Ondas se aproximam do reino, Naofumi e Raphtalia devem lutar pela sobrevivência do reino e proteger o povo de Melromarc de seu futuro malfadado.