Vers le symbolisme :
En 1484, Nicolas Chuquet (1445 ; 1500) écrit un remarquable ouvrage d’algèbre « Triparty en la science des nombres », mais son oeuvre n’est pas publiée et mal comprise de ses contemporains. Chuquet résout des systèmes d’équations du premier degré, utilise habilement les nombres négatifs jusqu’aux puissances négatives et établit des notations exponentielles. Par exemple, pour12x3, il note 123.
En 1544, le moine allemand Michaël Stifel (1486 ; 1567) note l’inconnue par une sorte de r et travaille avec les nombres négatifs qu’il appelle nombre absurde.
Avec le français François Viète (1540 ; 1603), l’algèbre prend un nouveau tournant. Il conçoit l’écriture d’expressions à plusieurs inconnues et à coefficients littéraux. Ce qui permet d’apporter des méthodes de résolution dans des cas généraux. Il conserve une conception géométrique puisque les lettres représentent des grandeurs géométriques mais il n’hésite pas à dépasser la dimension 3 ce qui étonne Stifel qui qualifie sa vision de « contre-nature ». Viète peut être considéré comme le créateur du symbolisme mathématique moderne.