U rashlađenom šampanjcu, kavijaru i raznovrsnoj muzici na ovom ekskluzivnom mestu, uživali su Elizabet Tejlor i Ričard Barton, jugoslovenski predsednik Josip Broz Tito, ali i Margaret, sestra britanske kraljice Elizabete Druge.
Prema predanju, na ostrvu Sveti Stefan, u kasnijim vekovima kulturno-istorijskom središtu Paštrovića, sagrađena je tvrđava 1442. godine, kada je i naseljena prvim stanovnicima.
Tvrđava je bila opasana zidinama da bi se u njima mogle sklanjati porodice iz okolnih sela pred najezdom Turaka i gusara.
Ovoj utvrđenoj naseobini dali su ime Sveti Stefan, po imenu crkve Sv. Stefana, koja je posvećena arhiđakonu Stefanu Prvomučeniku, a koja je na tom mestu bila sagrađena u vreme Nemanjića.
Na Svetom Stefanu se nalaze tri manje crkve. Pored crkve po kojoj je ostrvo dobilo ime, koja se nalazi na najuzvišenijem delu ostrva, nalazi se i crkva Aleksandra Nevskog, treća i najmanja je crkva posvećenja Preobraženju, koja se nalazi se na samom ulazu u gradić, koji je uskim nasipom spojen sa kopnom.
Zbog svog pogodnog položaja Sveti Stefan je posedovao veliki strategijsko-trgovački značaj u vreme Mletačke republike i žive trgovine sa Venecijom. Mesto je počelo lagano da gubi značaj krajem 19. veka, kada je stanovništvo, mahom ribarsko, počelo da se iseljava. Potpuno iseljavanje izvršeno je 1955. godine, kada je ostrvo kompletno adaptirano i pretvoreno u „grad-hotel“.