Auf dem Grundstück des heutigen Ehinger Hofes ließ 1370 der Ulmer Bürgermeister Lutz Krafft ein reiches Wohnhaus bauen, dessen "Minnesängersaal", bemalt mit beeindrucken gotischen Fresken, heute noch erhalten ist.
Das Anwesen wurde in den darauf folgenden Jahrhunderten durch neue Besitzer wie den Ratsherren Ulrich Ehinger geprägt, der beispielsweise Ost und Südflügel ausbaute. Besonders zu erwähnen ist das Kaiser Karl V. zwischen 1543 und 1552 fünfmal im Hause Ehinger zu Gast war.