Juan de Ayolas formó parte de la expedición del adelantado Pedro de Mendoza que partió del puerto de Sanlúcar de Barrameda, en el año de 1535.
Una vez en Sudamérica, con el título de mayordomo y alguacil mayor de Pedro de Mendoza, asistió a la fundación de «Nuestra Señora del Buen Ayre» en el año de 1536.
Fue comisionado por el adelantado a explorar el río Paraná, a orillas del cual fundó el fuerte de Corpus Christi, en junio de este último año citado.
Siguiendo el curso del río Paraguay se dirigió hacia la mítica sierra de la Plata. En su marcha fue interceptado por los caciques guaraníes Lambaré y Yanduvazuví Rubichá a los que venció en batalla. A raíz de esta situación se celebró una capitulación el 15 de agosto del corriente, en la que los guaraníes se aliaron a los españoles reconociendo la autoridad de estos.
El 2 de febrero de 1537 fundó una fortificación a orillas del río Paraguay, al que llamó «Fuerte de Nuestra Señora de la Candelaria» aunque también sería conocido en la época como «Puerto de la Candelaria»2 —según algunas fuentes estaría ubicado hacia los 21°S2 —por lo cual habría estado en tal caso algo al norte de Fuerte Olimpo, cerca de la desembocadura del río Blanco en el río Paraguay, aunque un mapa de 1600 lo ubica específicamente enfrente del mismo, entre las desembocaduras de los ríos brasileños Nabireque y Blanco— o bien erradamente según otras fuentes3 hacia los 19°S (por lo cual estaría prácticamente donde hoy se halla Corumbá)— adonde dejó como lugarteniente a Domingo Martínez de Irala.
Pedro de Mendoza, en virtud de sus facultades, lo designaría su sucesor como gobernador del Río de la Plata.4 El 22 de abril de 1537, al no estar presente Ayolas para la transmisión del mando, el adelantado delegó en Francisco Ruiz Galán quien sería proclamado interinamente como teniente de gobernador general de Asunción hasta el retorno de aquel, y que también había sido nombrado desde el 20 del corriente como teniente de gobernador de Buen Ayre, Corpus Chisti y Buena Esperanza. Pero por desavenencias con Martínez de Irala fue depuesto del cargo asunceno y nombrado este para ocuparlo, y por tanto, como sucesor de Ayolas si no se lo encontrara con vida.
Continuando con la búsqueda de una comunicación con el Perú, Ayolas continuó con su empresa hasta llegar a la futura «Provincia de Charcas» —actual Bolivia— y cruzó por primera vez la región del Chaco.
Tras ese periplo regresó al fuerte de la Candelaria que había sido abandonado. Allí fallecería tras un ataque de los indios payaguaes.
Su sucesor como gobernador del Río de la Plata fue Domingo Martínez de Irala.