Le origini dei Cavalieri Teutonici sono simili a quelle degli altri cavalieri gerosolimitani, in particolare con i Cavalieri Ospitalieri condivide la partenza: un ospedale fondato da mercanti di Brema e di Lubecca in Terrasanta (1128).
L'intento inziale era, quindi, di proteggere i pellegrini e curare i malati.

Nel 1198, un gruppo di cavalieri tedeschi, al seguito della Prima Crociata, rifonda l'ordine accentuandone il carattere militare.
Perfezionò tale riforma Federico II intorno al 1212, adeguando gli statuti al modello ospitaliero per gli aspetti religiosi, e al modello templare per quel che riguardava la guerra.

Il colore del mantello era bianco (alla maniera dei Templari) contrassegnato dalla caratteristica croce nera patente, simile, nella forma, a quella templare. L'insegna dell'ordine vedeva la croce nera in campo argento, oggi simbolo dell'esercito Tedesco.
Ricorreva sugli scudi e sui sigilli l'emblema dell'aquila, dalle ali aperte e gli artigli protesi a ghermire, ma non difettavano altri animali araldici, quale il leone rampante. Più semplice lo stendardo, bianco nero crociato.

A differenza degli altri ordini gerosolimitani, che professavano un ecumenismo cristiano "europeo", i Teutonici rimasero vincolati fin dalle origini ad un'idea nazionale rigidamente circoscritta alla Vaterland germanica.
In altre parole, mentre Templari e Ospitalieri costituirono autentiche "multinazionali della fede", i Cavalieri Teutonici non furono che dei tedeschi associati tra loro per un'impresa straordinaria in terre lontane.

Benchè furono valorosamente impegnati nelle terre d'outremer affinaco dei Templari ed Ospitalieri, i Teutonici allargarono il loro campo d'azione nelle regioni del nord-est, dove c'era da cristianizzare le tribù baltiche e le inesplorate lande orientali. Qui, fin dall'inizio del secolo XIII, intrapresero una complessa opera d'insediamemo e di conquista.

È interessante osservere il ruolo riservato alle donne all'interno dell'ordine, che furono sempre presenti e attive nei suoi ranghi, soprattutto per quanto riguardava l'assistenza ai feriti ed agli ammalati.

Per lo stretto, rapporto d'intesa con l'imperatore Federico II, rappresentato nell'Ordine da maestri di sua fiducia, a cominciare dall'amico e consigliere personale Hermann von Salza, i Cavalieri Teutonici acquisirono un esteso potere in Puglia e in Sicilia, dove si trovarono presto a controllare castelli e proprietà d'immenso valore.

I Teutonici si distinsero per una loro quasi morbosa vocazione al sacrificio, un'incontenibile ansia di ricercare la morte in combattimento, ereditata evidentemente da una tradizione pagana che la conversione al cristianesimo non aveva ancora del tutto espurgato dei suoi miti. Tra i quali sopravviveva in specie la propensione a considerare il paradiso stesso come qualcosa di simile al Walhalla di Odino, un asilo di guerrieri e di eroi, al quale la gente comune non poteva avere accesso.

Quel che ne derivava, in definitiva, era, l'inconfessabile convinzione che la beatitudine celeste fosse qualcosa d'incompatibile con lo spirito di pace. Il che finiva per alimentare oltre misura quest'aberrante mistica della morte violenta, inflitta o subita.