Als Leonardo und Luca Pacioli Mailand im Dezember 1499 verließen, war ihr Ziel Venedig. Sie hielten sich kurz in Mantua auf, wo Leonardo gütig von Herzogin Isabella Gonzaga empfangen wurde, der kultiviertesten Dame ihrer Zeit. Er versprach, zu einem zukünftigen Zeitpunkt ein Porträt von ihr zu malen; in der Zwischenzeit fertigte er die schöne Kreidezeichnung von ihr an, die sich heute im Louvre befindet. In Venedig angekommen scheint er sich hauptsächlich mit Studien in Mathematik und Kosmografie beschäftigt zu haben.
Im April hörten die Freunde vom zweiten und endgültigen Sturz von Ludovico il More, und auf diese Nachricht hin gaben sie jeden Plan einer Rückkehr nach Mailand auf und zogen weiter nach Florenz, das gerade von inneren Problemen und vom Andauern des ergebnislosen und unrühmlichen Kriegs mit Pisa bedrückt war. Hier verpflichtete sich Leonardo, ein Altarbild für die Kirche Annunziata zu malen; Filippino Lippi, der bereits den Auftrag erhalten hatte, zog sich höflich zu seinen Gunsten zurück. Ein Jahr verging, ohne dass ein Fortschritt bei der Malerei zu verzeichnen war. Fragen der physikalischen Geografie und des Ingenieurwesens fesselten ihn wie immer. Er schrieb an Briefpartner, um Erkundigungen über die Gezeiten im Euxinischen und Kaspischen Meer einzuholen. Zur Information der Arie de Mercanui berichtete er über die gegen einen drohenden Erdrutsch auf dem Hügel von San Salvatore dell’Osservanza zu ergreifenden Maßnahmen. Er legte Zeichnungen und Modelle für die Kanalisierung und die Kontrolle des Arno vor und schlug mit Beredsamkeit und Überzeugungskraft einen Plan zum Transport des Florentiner Baptisteriums (Dantes bel San Giovanni) in einen anderen Stadtteil vor, wo es auf einen stattlichen Marmorsockel gestellt werden sollte.
Allmählich wurden die Serviten-Brüder von Annunziata wegen ihres Altarbilds ungeduldig. Im April 1501 hatte Leonardo lediglich den Karton fertig gestellt, und ganz Florenz kam zusammen, um diesen zu sehen und zu bewundern. Isabella Gonzaga, die Hoffnung hegte, ihn dauerhaft an den Hof von Mantua binden zu können, schrieb ihm, um Neuigkeiten zu erfahren und um eine Malerei für ihr Arbeitszimmer zu bitten, das bereits mit Meisterwerken der hervorragendsten italienischen Künstler geschmückt war, oder wenigstens um eine kleine Madonna. In Erwiderung sagt ihr Briefpartner, dass der Meister völlig von der Geometrie eingenommen sei, aber zur gleichen Zeit erzählt er alles über seinen gerade vollendeten Karton für die Annunziata. Das Thema war die Jungfrau, die sich auf dem Schoss der Heiligen Anna sitzend vorbeugt, um ihr Kind festzuhalten, das halb aus ihrer Umarmung entflohen ist, um mit einem Lamm auf dem Boden zu spielen. Die Beschreibung entspricht genau dem Aufbau des berühmtes Bildes der Jungfrau und Anna im Louvre .
Ein Karton dieser Komposition in der Esterhazy-Sammlung in Wien wird nur für eine Kopie gehalten, und den originalen Karton muss man als verschollen betrachten. Aber ein anderes verwandtes, wenn auch nicht identisches Motiv ist überliefert und in der National Gallery London überliefert. In diesem unvergleichlichen Werk lächelte die Hl. Anna, mit ihrer linken Hand nach oben zeigend, mit einem intensiven Blick des Wunderns und Fragens in das Gesicht der Jungfrau, die ihrerseits auf ihr Kind herabblickt, wie es sich von ihrem Schoss neigt, um den kleinen Hl. Johannes neben ihm zu segnen. Offenbar waren zwei ähnlichen Entwürfe in Leonardos Kopf gereift. Ein erster Rohentwurf für das Motiv des National-Gallery-Kartons ist im Getty Museum Los Angeles. Ein Gemälde Leonardos auf Basis des Kartons existiert nicht. Es bleibt umstritten, ob der Karton in der National Gallery oder der von Leonardo 1501 in der Annunziata gezeigte der frühere ist.
Trotz dem allgemeinen Lob seines Kartons brachte Leonardo das Bild nicht zu Ende, und die Mönche von Annunziata mussten den Auftrag wieder Filippino Lippi geben, nach dessen Tod die Aufgabe von Perugino beendet wurde. Es bleibt unsicher, ob eine kleine Madonna mit Spindel, die Leonardo laut einem Briefpartner von Isabella Gonzaga für einen Favoriten des Königs von Frankreich begonnen haben soll, jemals vollendet wurde. Er malte, wie es heißt, zu dieser Zeit ein Porträt von Ginevra Benci, eine Verwandte oder vielleicht Schwester von Giovanni di Amerigo Benci, der seine Passion für kosmografische Studien teilte. Und er begann ein weiteres, die berühmte La Gioconda, das erst vier Jahre später vollendet wurde.
Der Gonfaloniere Soderini bot ihm vergeblich zu seiner freien Verfügung den riesigen Marmorblock an, aus dem Michelangelo drei Jahre später seinen David meißeln sollte. Isabella Gonzaga bat ihn abermals in einem autografen Brief um eine Malerei von seiner Hand, aber ihr Ersuchen wurde aufgeschoben; er tat ihr jedoch einen kleinen Gefallen, indem er für sie einige juwelenbesetzte Vasen aus dem früheren Besitz Lorenzo de Medicis begutachtete. Die aufdringlichen Erwartungen eines Meisterwerks in Malerei oder Bildhauerei, die ihn von allen Seiten in Florenz bedrängten, veranlassten ihn, wieder in den Dienst eines fürstlichen Patrons zu gehen, wenn möglich eines ihm angemessenen Genies, der ihm Spielraum einräumen würde, Ingenieursprojekte in großem Maßstab anzugehen.