Игра рассказывает историю Вито Скалетта, при этом его биография совершенно разнится от жизни Томаса Анджело, который был главным героем первой части игры. Вито очень меленький, постоянно видящий рядом красивых и солидных джентльменов, одетых в шикарные одежды и разъезжающих в машине-мечте. Другими словами, людей, которые наделены властью и силой. Им открыты все двери в любые заведения, они настоящие хозяева жизни перед которыми остальные пресмыкаются. Прохожие уступают им дорогу, даже не раздумывая. Вито предпринимает попытку стать богатым, однако она заканчивается полным провалом. Задуманное ограбление полностью провалено, сам Вито поставлен перед непростым выбором: тюрьма, грозящая вечным позором или война, способная принести уважение и славу.

События происходят в сороковых годах, когда война идет полным ходом, Вито выбирает поход на войну. По возвращению с фронта Вито оказывается на вокзале, где встречает друга из далекого детства Джо Барбаро, сильно изменившегося с их последней встречи. Пока Вито становился героем войны, Джо попал в серьезную мафиозную группировку и даже достиг каких-то успехов. Джо имеет интересное предложение для Вито…

У вас будет возможность выбора из трех группировок, господствующих в выдуманном городе Эмпаир-Сити, где вы должны будете завоевать уважение и авторитет.