Cinquenta anos se passaram desde que o herói de Shin Megami Tensei seguiu o caminho neutro, derrotou os líderes da Lei e do Caos e fundou um estado onde os seguidores de ambas as ideologias poderiam viver livremente. Mas seu reinado de liberdade não dura muito. A fé messiânica ganha força, expandindo a Catedral para um novo ambiente fechado chamado Tokyo Millennium. Os Gaianos se levantam, mas sua rebelião é reprimida pela classe guerreira de elite dos Messianos, os Cavaleiros do Templo. As pessoas afluem para a cidade encapsulada, submetendo-se à rígida hierarquia imposta pelo Centro Messiânico, onde apenas os privilegiados que vivem no bairro Centro estão a salvo de ataques demoníacos.
Alguns anos depois, um lutador de arena aposentado Okamoto resgata um homem chamado Hawk, que estava lutando por sua vida contra um demônio. Ele o treina para lutar na arena do distrito de Valhalla, esperando que ele vença o torneio, que concederá a ambos a cidadania no distrito do Centro. Quando Hawk consegue, ele é levado a um bispo messiânico e descobre a chocante verdade sobre suas próprias origens e o papel que ele deve desempenhar no grande esquema dos eventos. Uma nova batalha por um futuro melhor começa.
Shin Megami Tensei II mantém todos os recursos de jogabilidade do jogo anterior. O jogador é capaz de invocar demônios, fundi-los para criar outros mais poderosos, fazê-los participar de batalhas, conversar com inimigos aleatórios e receber informações deles, etc. como masmorras de uma perspectiva em primeira pessoa. Assim como no primeiro jogo, os alinhamentos Lei, Caos e Neutro desempenham um papel importante: durante o decorrer do jogo, o jogador terá que fazer escolhas que influenciam o alinhamento do protagonista, direcionando o enredo para diferentes direções.
Novos recursos incluem um sistema de "sucessão mágica", que permite que os demônios carreguem seus feitiços mágicos originais quando são fundidos em novos, alguns feitiços e habilidades adicionais e a possibilidade de jogar no cassino e ganhar itens exclusivos.
