Ich Założycielka Magdalena Hutin otworzyła pierwszy nowicjat w 1940 r., a rok później pierwsze pięć nowicjuszek otrzymało swe białe habity. W 1942 r. s. Magdalena złożyła śluby wieczyste. W zgromadzeniu było wówczas trzynaście małych sióstr. Nowe powołania napłynęły po zakończeniu wojny we Francji w 1944 r.
Z pomocą francuskiego jezuity o. Prospera Moniera tworzony był pierwszy szkic Konstytucji. Założycielce przyświecał następujący kierunek: „Mamy budować na nowo. Nowe będzie dawnym, autentycznym chrześcijaństwem pierwszych uczniów Chrystusa. Trzeba Ewangelię wziąć słowo po słowie. To bardzo bolesne widzieć, do jakiego stopnia Ją zapomnieliśmy…”.
Nowa wspólnota miała być zgromadzeniem kontemplacyjnym. Jednakże nie miała pozostać zamkniętą za klauzurą. Siostry miały żyć w środku świata, pośród ludzi, szczególnie ubogich, pełniąc rolę „zaczynu w cieście”. Życie kontemplacyjne miały opierać na Eucharystii, codziennej adoracji Najświętszego Sakramentu, na ciszy i modlitwie. „Z miłością odnowioną w kontemplowaniu Pana” miały „powracać w serce ludzkiego tłumu”.
W początkowych latach Małe Siostry Jezusa zorientowały swoje prace wyłącznie na ludność muzułmańską w świecie arabskim. Szczególnie dotyczyło to plemion koczowniczych. Stosunkowo szybko s. Magdalena radykalnie ukierunkowała swoje zgromadzenie, wyznając siostrom: „26 lipca 1946 r. w Sainte Baume ogarnęła mnie pewność (…), że Fraternité powinna rozprzestrzeniać się po świecie i stać się powszechna”.
Zgromadzenie było potrzebne nie tylko w Algierii. We Francji, ojczyźnie s. Małgorzaty, szczególnie zauważalny był dystans między życiem Kościoła a światem robotniczym. W ten świat dotknięty ubóstwem udały się małe siostry. W 1947 r. zatwierdzone w diecezji Aix-les-Bains zaczęły pracować w fabryce w Marsylii. Później udały się do Brazylii, na Bliski Wschód i w inne rejony świata.
Pielęgnując ideał braterstwa powszechnego i zbliżenia między narodami i klasami, siostry starały się przekraczać granice i bariery. Założycielka tak je inspirowała: „Stawajcie wielkodusznie razem z Czarnymi, ale nie stawajcie z nimi przeciwko Białym. Przechodźcie rozważnie na drugą stronę bariery (…)”. Stąd zakładanie wspólnot po obu stronach konfliktów, jak w Jerozolimie po stronie palestyńskiej i żydowskiej, w Libanie w dwóch wioskach żyjących wzajemną długotrwałą nienawiścią i w Afryce Południowej pełnej podziałów rasowych. Wezwaniem dla sióstr była istniejąca w Europie Wschodniej tzw. żelazna kurtyna. W 1956 r. podjęły te wezwanie udając się w pierwszą podróż do Jugosławii, Węgier i Czechosłowacji mającą za cel nawiązanie kontaktów prowadzących do podjęcia tam pracy apostolskiej. W 1964 r. udały się w tym celu do Rosji. S. Małgorzata odbyła do tego kraju 18 podróży. Pomocną rolę w nawiązaniu kontaktów odegrał tam o. Aleksander Mień. W 1970 r. powstała ich pierwsza wspólnota ekumeniczna w Szwajcarii.
Z czasem Małe Siostry Jezusa znalazły się na wszystkich kontynentach, w ponad 70 krajach, a ich liczba w chwili śmierci s. Magdaleny w 1989 r. wynosiła blisko 1400 sióstr.
Siostry trafiły do zagrożonego wyginięciem plemienia Tappirape w Brazylii. Żyjąc wśród nich, ocaliły je. Liczące wówczas 50 osób plemię dziś posiada ich 500. Podobnie na Słowacji siostry zamieszkały wśród odepchniętych przez społeczeństwo Cyganów. Zauważyły też ludzi pozostających poza zorganizowanymi formami duszpasterstwa. Nie tylko towarzyszyły taborom cygańskim, ale także wozom cyrkowym.
Małe Siostry Jezusa poszły obdarzać miłością i przyjaźnią środowiska „tam, gdzie dusze są w największej potrzebie… tam, gdzie poszedłby Jezus…”. Brat Karol od Jezusa wskazał im kierunek, pisząc „Bóg, aby nas zbawić, przyszedł do nas, wtopił się w nasze życie, żył wśród nas w największej bliskości i zażyłości… Podobnie i my, ażeby pracować dla zbawienia dusz winniśmy iść do nich, wtopić się w ich życie, żyć wśród nich w największej bliskości i zażyłości”.
Konstytucje Małych Sióstr powyższą myśl bł. Karola od Jezusa skonkretyzowały następująco: „Obecność w różnych środowiskach pracy będzie uzależniona od krajów i sytuacji: w krajach uprzemysłowionych małe siostry będą szukać pracy w fabrykach lub rzemiośle. W środowisku rolniczym będą pracowały jako robotnicy rolni albo zależnie od kontekstu, uprawiały teren prywatnie lub we współpracy ze spółkami rolnymi. Będą obecne w środowisku ubogich rzemieślników, dzieląc ich życie. W zależności od środowiska życia, szczególnie wśród koczowników lub w świecie pozarobotniczym, będą musiały tak jak ich sąsiedzi podejmować prace niestałe, które stanowić będą dla nich, tak jak dla innych, jedyną możliwość zarabiania na życie”.
Siostry naśladując Jezusa w jego 30 latach życia w Nazarecie, podejmują najprostsze prace. Przykładowo są sprzątaczkami, ekspedientkami, bileterkami w cyrku, salowymi w szpitalach, odnajdując Boga w codziennych czynnościach.