Дбаючи про зміцнення оборони південно-східних околиць Речі Посполитої, король Стефан Баторій надав у 1579 році Яну Замойському, канцлерові і верховному гетьману коронному, безлюдну пустку біля кордону Подільського воєводства з Брацлавським, між річками Мурашкою і Ковбасною. За задумом короля, тут слід було звести укріплений замок, який зміг би забезпечити захист краю, що обезлюдів внаслідок невпинних набігів татарських орд. Король звільняв нових поселенців цих місць від сплати податків на двадцять років.
У 1583 році канцлер Замойський розширив свої володіння біля східного кордону Подільського воєводства, придбавши у кам’янецького єпископа Карчмаровську волость, що лежала у верхів’ях Мурашки. На високому березі при злитті річок Мурашки та Ковбасної він заклав замок, який мав контролювати переправи, що здавна тут існували. У 1585 році він отримав назву «Шарий городок», а весь край, що прилягав до річки Мурашки, став називатися Шаргородською волостю.
Шаргород розташувався на перехресті важливих торговельних шляхів Подільського воєводства. Польський король Сигізмунд Ш, враховуючи стратегічне та торгове значення шаргородського замку та потреби розвитку поселення, 26 січня 1588 року надав Шаргороду права міста.
Невелике прикордонне поселення незабаром зайняло ключове становище в обороні краю. Крім Шаргорода, у володінні Замойського були й інші прикордонні фортеці: Рашков, Ямпіль, Красне, але саме Шаргород, значно кращий за них укріплений, став столицею українських володінь канцлера. У систему оборонних споруд міста входила будівля синагоги кріпосного типу. Князі Замойські, маючи досвід ділових контактів з євреями, намагалися, мабуть, підтримати розвиток шаргородської громади: навряд чи без їхньої допомоги євреї вже в 1589 році могли звести кам’яне спорудження настільки значних розмірів на південно-східній околиці, неподалік місця впадання Ковбасної в Мурашку. Під час нападу козаків у 1595 році вся громада могла сховатися за двометровою товщею стін своєї синагоги.
У 1640-х роках єврейська громада Шаргорода стала однією з найбільших у Поділлі: одні автори згадують тисячу єврейських будинків, інші – триста. Євреї жили компактно біля Старого міста.
У мартирологу знищених у роки Хмельнитчини єврейських громад «Тіт Гаявен» («Непролазний бруд») ось що розповідається про шаргородську різанину: «І було там близько трьохсот багатих домогосподарів, які з ранку до вечора старанно вивчали Тору, і були вбиті всі». Ймовірно, деякій частині євреїв Шаргорода все ж таки вдалося врятуватися.
Між 1672 та 1699 pоками Шаргородська волость разом із усім Подільським воєводством належала Османській імперії. Зайнятий турками у 1674 році Шаргород був названий ними Малим Стамбулом – «Кучук Стамбул». Ймовірно, водночас і євреї почали називати містечко «Істамбул Зута» — Малий Стамбул.
Турки дбали про відновлення міських будівель та кріпосних споруд, про заселення міста та відновлення міського господарства. Одну з найкрасивіших споруд — синагогу — вони зайняли під мечеть. Відомо, що турецька влада, традиційно терпима до євреїв, віддавала їм перевагу як міському населенню перед поляками та українцями – особливо, зважаючи на тривалі спроби завоювання міста то польськими, то козацькими військами у 1670-х роках. Але ми не маємо відомостей про проживання євреїв у Шаргороді в період турецького управління. У 1699 році османи, змушені за умовами Карловіцького договору покинути Поділля, залишили і Шаргород.
Шаргородська громада сформувалася наново у перші десятиліття XVIII ст. Відомо, що у 1710 році у Шаргороді вже існувала громада, яка мала свого рабина. На початку XVIII ст. євреї, які становили, мабуть, більшість населення, зайняли і провідні позиції в господарському житті міста, що відроджувалося.
У 1734 році Шаргород постраждав від погрому, який влаштувала одна з гайдамацьких банд, які брали участь у антипольському виступі козаків під керівництвом шаргородського сотника Верлана.
Перепис 1765 року, у проведенні якого брав участь рабин Новах Михалович, зареєстрував 2219 євреїв, приписаних до шаргородської громади — на той час це була найбільша єврейська громада Поділля.
З кінця 1730-х років євреї Шаргорода опинилися у сфері безпосереднього впливу засновника хасидського руху Ісраеля Баал Шем Това (Бешта), котрий неодноразово приїжджав сюди з проповідями.
Після поділів Польщі і створення Подільської губернії Шаргород увійшов до її Ямпільського повіту (з 1848 року — до Могильовського). Згідно з описом землеміра, зробленого в 1799 році, у Шаргороді налічувалося вже 283 єврейські будинки, а також у торгових рядах «кам’яних лавок 36, малих 38».
У 1884 році купець Б. Сорокер збудував кам’яну двоповерхову будівлю, верхній поверх якої був призначений для бейт-мідрашу, а нижній для талмуд-тори.
На початку 1890-х років у Шаргороді відкрилося приватне єврейське училище для хлопчиків, де викладали єврейську та російську грамоту, єврейську історію, Закон Божий, Біблію та загальні предмети.
У роки, що передували Першій світовій війні, із загальним пожвавленням економіки покращилося і становище шаргородської єврейської громади, що налічувала вже близько 5000 чоловік. Євреї тримали практично всі торгові заклади Шаргорода, їм належали чотири аптечні та шість лісових складів, склад сільськогосподарських машин і знарядь, чотири готелі, медоварний завод, млин у Слободі Шаргородській та друкарня.
У роки Громадянської війни Шаргород пережив усі негаразди, що випали на більшість єврейських містечок Поділля. Влітку 1919 року військові частини Директорії влаштували тут погром. Згідно з донесенням начальника відділу національних автономій Української Народної Республіки Є. Бограда від 3 вересня 1919 року, під час погрому в Шаргороді було вбито близько ста євреїв, а багато з тих, хто врятувався втечею, померли від голоду, сховавшись за пагорбами, що оточували містечко.
Весною 1920 року у містечку встановилася радянська влада. У 1923 році, коли Шаргород став районним центром, у ньому проживало лише 2450 осіб (з них 1918 євреїв). У 1925 році тут була створена єврейська містечкова рада, діловодство якої велося на ідиші, були організовані різні артілі кустарів. З середини 1920-х років аж до початку фашистської окупації у Шаргороді працював єврейський колгосп «Червоний орач».
У 1930-х роках влада закрила одну за одною всі шаргородські синагоги, міньян почав збиратися в приватному будинку. Перед війною тут проживало 1664 єврея (74% населення).
Окупація Шаргорода тривала з 22 липня 1941 року до 20 березня 1944 року. На час окупації в Шаргороді залишалася більшість єврейського населення. Лише чоловіки призовного віку пішли на фронт, і окремі сім’ї встигли евакуюватися. Загалом в окупованому Шаргороді опинилося близько 1800 євреїв. Після того, як через місто пройшли німецькі, угорські та італійські військові частини, тут встановився окупаційний режим румунської адміністрації: Шаргород опинився на території Трансністрії.
Євреї, зібрані в необгородженому гетто на вулицях Леніна і Маркса, були зобов’язані носити жовту нашивку на одязі і помітити свої будинки металевими щитами із зображенням шестикутної зірки. Для проживання євреям було відведено 337 приватних будинків, у яких було, за офіційними даними, 842 кімнати. Протягом осені сюди були депортовані та розміщені у приватних будинках та кількох громадських будівлях ще близько 700 євреїв з Бессарабії та кілька тисяч – з Румунії. Статистичне обстеження, яке євреї провели у Шаргороді у грудні 1941 року, виявило близько 7000 осіб, які проживали у гетто.
Було створено раду об’єднаної єврейської громади, яку очолив Меїр Тейч, колишній голова громади Сучави; шаргородців у раді представляв бухгалтер Соломон Шмулевич, який користувався загальною повагою. Рада громади змогла надати допомогу та захист в’язням гетто: єврейські активісти з Румунії вміли домовлятися з румунською окупаційною адміністрацією, нерідко вдаючись до хабарів (румунські євреї, депортовані переважно з Сучави, привезли із собою гроші та речі). Общинна рада врятувала багатьох в’язнів від примусових робіт і депортації до таборів, вона заздалегідь повідомляла про можливі облави, щоб євреї встигали сховатися в шаргородських катакомбах.
Шаргородське гетто, третє за чисельністю (після Могильова-Подільського і Бершаді) на території Трансністрії, було відомо як організоване і надійне. Багато євреїв, які втекли з інших місць, у тому числі із зони німецької окупації, знайшли тут притулок.
Рада громади (що складалася з 25 осіб) вже восени 1941 року провела найнеобхідніші заходи: відкрила пекарню, що продавала хліб за низькою ціною, їдальню, де годували супом бідних, і продуктовий магазин. Було організовано єврейську міліцію, до якої увійшли 15 найкращих молодих сіоністів з румунських євреїв на чолі з офіцером, юристом за освітою, та двоє місцевих євреїв.
Вкрай висока щільність населення, нестача їжі, мила, чистої води (у містечку було всього чотири колодязі, з яких кожен черпав воду своїм посудом), дров, а також найжорстокіші морози зими 1941/42 років стали причиною епідемії тифу. З 27 лікарів, які були в гетто, 23 захворіли на тиф; 12 із них померли. Рада громади докладала всіх зусиль, щоб протистояти епідемії: у гетто було відкрито аптеку, лікарню, діяла міська санітарно-епідеміологічна станція, було налагоджено виробництво мила, очищено колодязі, відремонтовано електростанцію та лазню. До квітня 1942 року епідемія тифу згасла.
Протягом 1942-1944 років євреїв шаргородського гетто використовували як робочу силу на будівництві доріг Мурафа-Ярошенка та Соснівка-Жмеринка. Рада громади намагалася надати усіляку допомогу тим, кого відправляли на примусові роботи, забезпечуючи їх транспортом та житлом. Серед інших функцій громадської ради були забезпечення безпеки у місті, контакти з румунським окупаційним управлінням, як місцевим, так і центральним, підтримка зв’язку з Комітетом допомоги у Бухаресті, з партизанами, ведення розвідки. У гетто діяв свій суд, общинна скарбниця, система розподілу товарів та товарів першої необхідності.
Серед радянських військових частин, які звільняли Шаргород 20 березня 1944 року був підрозділ під командуванням полковника Штерна та партизанський загін Шустера.
Шаргородська єврейська громада пережила окупацію, після війни тут залишалося понад тисячу євреїв.
У 1987 році у Шаргороді стався спалах антисемітизму. Приводом для цього стало масове отруєння жителів міста тортами місцевого виробництва (внаслідок отруєння померла однорічна дитина). Керівник підприємства громадського харчування та його технолог були євреї (їх обох віддали під суд), і в Шаргороді посилено поширювалися чутки про те, що євреї хотіли отруїти українців. У самому місті та навколишніх селах наростали погромні настрої, які вдалося подолати не без деяких зусиль. Незабаром з’ясувалося, що яйця, що надійшли в громадське харчування для виготовлення тортів, були заражені сальмонельозом.
Унікальна оборонна синагога 16 ст., яка використовувалася за радянських часів як склад, на сьогодні (2012) повернута нечисленній єврейській громаді. Місцевими ентузіастами та меценатами розробляється проект її реконструкції.
