Steinfunde und ein Wall weisen darauf hin, dass sich bereits zur Zeit der Kelten eine Siedlung auf einem Hügel in der Nähe von Ybbs befunden hat. Aus dieser Zeit dürfte auch der Name der Stadt stammen.
Den keltischen Flussnamen Ivesis haben die später hier an der Donau siedelnden Römer übernommen. Durch Lautverschiebung entstand im Laufe der Zeit Ips. Die Stadtpfarrkirche und die unmittelbar angrenzenden Gebäude stehen auf dem Platz der alten Stadtburg. Schon vor 900 war hier eine karolingische Reichsburg, die Eparesburg, bekannt. Den zur Burg gehörenden Ort nannte man "Ipspurch" oder "Isepurich", ab dem 13.Jh. nur noch "Ips" bzw. "Ybbs". Das bayrische Adelsgeschlecht der Grafen von Sempt-Ebersberg erhielt die Eparesburg und die angrenzende Siedlung durch Erbschaft und errichtete hier in den Jahren 903 und 905 eine Zoll- und Mautstation. Nach dem Tod des letzten Ebersbergers kam die Eparesburg in den Besitz der Salier. So hielt sich 1058 der 8-jährige Heinrich IV, bereits zuvor unter der Vormundschaft seiner Mutter Agnes zum deutschen König gekrönt, in Ybbs auf – jener Salier, der durch seinen Canossagang Berühmtheit erlangen sollte.
Über Umwege gelangte Ybbs schließlich in den Besitz der Babenberger und war von nun an landesfürstliches Eigentum. 1276 öffnete Ybbs als erste niederösterreichische Stadt dem Habsburger Rudolf I die Tore. In der Folge statteten die neuen habsburgischen Landesfürsten Ybbs nach und nach mit einer Reihe von Privilegien aus. Endgültig besiegelte Friedrich I (der Schöne) das Stadtrecht 1317 durch die Verleihung des Blutgerichts, das Recht zum Tod durch Schwert oder Galgen zu verurteilen.
