Femti år har gått siden helten til Shin Megami Tensei fulgte den nøytrale veien, beseiret lederne av lov og kaos og grunnla en stat der tilhengere av begge ideologier kunne leve fritt. Men hans frihetsvelde varer ikke lenge. Den messianske troen får makt, og utvider katedralen til et nytt lukket miljø kalt Tokyo Millennium. Gaianerne reiser seg, men deres opprør blir undertrykt av Messianernes elitekrigerklasse, tempelridderne. Folk strømmer inn i den innkapslede byen og underkaster seg det strenge hierarkiet som er pålagt av Messian Center, der bare de privilegerte som bor i Center-distriktet er sikre fra demoniske angrep. Noen år senere redder en pensjonert arenajager Okamoto en mann ved navn Hawk, som kjempet for livet mot en demon. Han trener ham til å kjempe på arenaen i Valhalla-distriktet, i håp om at han ville vinne turneringen, som vil gi dem begge statsborgerskap i Center-distriktet. Når Hawk lykkes, blir han stilt for en messiansk biskop, og får vite den sjokkerende sannheten om sin egen opprinnelse og rollen han skal spille i det store begivenhetene. En ny kamp for en bedre fremtid begynner. Shin Megami Tensei II beholder alle spillfunksjonene til det forrige spillet. Spilleren er i stand til å tilkalle demoner, smelte dem sammen for å lage kraftigere, få dem til å delta i kamper, snakke med tilfeldige fiender og motta informasjon fra dem, etc. Kampen er turbasert, og spilleren utforsker de komplekse, labyrintlignende fangehullene fra et førstepersonsperspektiv. Som i det første spillet, spiller lov-, kaos- og nøytral-justeringene en viktig rolle: i løpet av spillet må spilleren ta valg som påvirker hovedpersonens justering, og styre historien i forskjellige retninger. Nye funksjoner inkluderer et "magic succession"-system, som lar demoner overføre sine originale magiske trollformler når de er smeltet sammen til nye, noen få ekstra trollformler og evner, og muligheten til å spille på kasinoet og vinne unike gjenstander.