Cinquante ans se sont écoulés depuis que le héros de Shin Megami Tensei a suivi le chemin neutre, battu les dirigeants du droit et du chaos et a fondé un État où les disciples des deux idéologies pourraient vivre librement. Mais son règne de la liberté ne dure pas longtemps. La foi Messian gagne le pouvoir, élargissant la cathédrale dans un nouvel environnement fermé nommé Tokyo Millennium. Les Gaians se lèvent, mais leur rébellion est réprimée par la classe des guerriers d'élite des Messiens, les Temples Knights. Les gens affluent dans la ville encapsulée, se soumettant à la stricte hiérarchie imposée par le Centre Messian, où seuls les privilégiés dans le quartier du centre sont à l'abri des agressions démoniaques. Quelques années plus tard, un combattant de l'arène à la retraite Okamoto sauve un homme nommé Hawk, qui se battait pour sa vie contre un démon. Il le forme à se battre dans l'arène du district de Valhalla, espérant qu'il gagnerait le tournoi, qui leur accordera à la fois la citoyenneté dans le district central. Lorsque Hawk réussit, il est amené devant un évêque de Messian et apprend la vérité choquante sur ses propres origines et le rôle qu'il est censé jouer dans le grand schéma des événements. Une nouvelle bataille pour un avenir meilleur commence. Shin Megami Tensei II conserve toutes les fonctionnalités de gameplay du jeu précédent. Le joueur est capable d'invoquer des démons, de les fusionner pour en créer des plus puissants, de les faire participer à des batailles, de parler à des ennemis aléatoires et de recevoir des informations de leur part, etc. Le combat est basé sur le tour par tour, et le joueur explore les donjons complexes et en forme de labyrinthe d'une vue en perspective à la première personne. Comme dans le premier jeu, la loi, le chaos et les alignements neutres jouent un rôle important: au cours du jeu, le joueur devra faire des choix qui influencent l'alignement du protagoniste, dirigeant le scénario dans différentes directions. Les nouvelles fonctionnalités incluent un système de "succession magique", qui permet aux démons de reprendre leurs sorts magiques originaux lorsqu'ils sont fusionnés dans de nouveaux, quelques sorts et capacités supplémentaires, et la possibilité de jouer au casino et de gagner des objets uniques.