Иоанниты носили черные одежды бенедиктинцев с белым крестом, а во время походов надевали красную накидку с таким же крестом. Каждый из этих цветов имел свое символическое толкование: черный, траурный, означал отречение от земного, белый — чистоту, а красный — Христову кровь.
Иоанн Александрийский был широко известен своими благотворительными делами. Несколько позже Орден сменил покровителя — им, также совершенно не случайно, был избран Иоанн Креститель. Он, будучи сыном священника Захарии, многие годы провел отшельником в пустыне, питаясь лишь кузнечиками. Жизнь пророка являла для монашествующей братии идеальный пример смирения.
Почти 50 лет жизнь госпитальеров текла размеренно — между молитвами и уходом за страждущими, — пока осада Иерусалима крестоносцами, случившаяся в 1099 году, не нарушила покой мирной монашеской жизни. Согласно преданию христиане, как и другие жители осажденного города, вынуждены были принимать участие в защите Иерусалима, оказывая поддержку 40-тысячной армии египетского калифа. Правда, хитроумные иоанниты вместо тяжелых камней предпочитали бросать на головы изголодавшимся рыцарям свежий хлеб. Когда же их ректор Жерар был схвачен мусульманскими властями и обвинен в измене, то на глазах у судей этот хлеб чудесным образом превратился в камень, а Жерар счастливо избежал неминуемой гибели. 15 июля 1099 года измученный осадой Иерусалим наконец пал под яростным натиском крестоносцев.
Герцог Готфрид Бульонский щедро вознаградил усилия иноков, а многие рыцари вступили в братство, приняв монашеские обеты послушания, благочестия и нестяжания, поклялись защищать паломников во время путешествий. Официальное создание Ордена было подтверждено сначала хартией Болдуина — правителя Иерусалимского королевства в 1104 году, а затем, спуcтя 9 лет, — буллой Папы Пасхалия II. Хотя первый ректор госпитальеров за свое благочестие был причислен к лику святых, расцвет деятельности Ордена связывают все же с именем Раймонда Прованского (1120—1160 годы), сменившего Жерара на посту Великого магистра. Раймонд, принадлежавший к тем рыцарям, которые принимали участие в осаде Иерусалима, установил совершенно новые правила. Отныне Орден должен был постоянно содержать при госпитале трех хирургов и пятерых врачей, число же больничных коек в лучшие времена достигало 2 000. Кроме того, иоанниты начали получать щедрые денежные пожертвования и приобретать на них земельные угодья. Только на Святой Земле им принадлежало около 140 поместий, а в Европе к XIII веку насчитывалось более 19 000 владений.
Поскольку братство госпитальеров изначально не предусматривало военной деятельности и его члены далеко не сразу начали принимать участие в сражениях, то первые его уставы даже не упоминали в своих правилах рыцарские обязанности — они касались лишь правил жизни монашеской. Сначала рыцарей нанимали на деньги благотворителей для охраны паломников, дабы иноки не оскверняли себя людской кровью. Позже при приеме в Орден было введено разделение на тех, кто вступал в него лишь временно, и тех, кто принимал все необходимые монашеские обеты. В статуте Ордена военные братья не упоминались вплоть до 1200 года, когда их обязанности впервые были описаны в статуте Альфонсо Португальского, девятого по счету Великого магистра. Тогда же, вероятно, начало складываться деление членов Ордена на три категории: на братьев-военных (получавших благословение на ношение и использование оружия), братьев, занимавшихся лечением больных и раненых, и братьев-капелланов, в обязанность которых входило выполнение религиозных обрядов, таких как литургия, исповедь и причастие.