Su padre, Bruno de Mendiguren, fue Ministro de Relaciones Exteriores del gobierno autónomo vasco durante la Guerra Civil Española y al comienzo de la dictadura franquista se refugió en la Argentina
José Ignacio nació en Buenos Aires, el 23 de agosto de 1950 y tenía solo tres meses cuando su padre murió en un accidente de aviación, estudio abogacía y se recibió de abogado a los 22 años e ingresó en un estudio jurídico como especialista en derecho empresario, ejerciendo además como asesor de inversiones extranjeras. Más tarde se recibió de escribano.
En 1976 abandonó la carrera jurídica , lanzándose como comerciante de zapatillas. Poco después conoció a Roberto Frazeer, propietario de la empresa Alpargatas S.A., con quien se asoció para crear las alpargatas con suela de goma. Inició un grupo industrial que actualmente incluye una empresa textil y una cadena de comercios de artículos deportivos. Posteriormente incursionó en la producción agropecuaria.
A fines del gobierno de Carlos Menem fue nombrado presidente de la Unión Industrial Argentina y director del Banco de la Nación Argentina. Durante la presidencia de Fernando De la Rúa promovió activamente la devaluación del peso, a fin de mejorar la competitividad de la economía argentina.
En enero de 2002 el presidente Duhalde lo nombró titular del Ministerio de Producción de la Nación. Para ejercer ese cargo, De Mendiguren renunció a la presidencia de la UIA. En ejercicio de su cargo, colaboró en la devaluación que había impulsado, que inicialmente fue del 30%, pero terminó siendo —impulsado por la demanda de dólares— de más del 200%. Si bien la medida afectó negativamente los ingresos de los trabajadores, también inició la recuperación de la industria nacional, muy afectada por la política de convertibilidad iniciada por Menem y sostenida por De la Rúa. Abandonó su cargo junto al presidente Duhalde en mayo de 2003, y el ministerio fue disuelto, para ser reorganizado posteriormente, en el año 2008, como Ministerio de Industria.
Retirado a la actividad privada, regresó como vocal a la Unión Industrial en 2004, reasumió como presidente de la misma el 27 de abril de 2011, en reemplazo de Héctor Méndez, quien había presentado su renuncia a la conducción de la entidad. Su segunda gestión se distinguió por el acercamiento de posiciones con el gobierno de Cristina Fernández de Kirchner, con el cual la entidad había tenido conflictos en los años anteriores.
En el marco de las elecciones legislativas del 2013, de Mendiguren se presentó a diputado nacional por la provincia de Buenos Aires, dentro de la lista del Frente Renovador. Obtuvo el cargo y asumió el 10 de diciembre. En las elecciones de 2017 revalida su cargo. Luego se incorporó al bloque del Frente de Todos en las elecciones de 2019. Desde el 20 de enero de 2020 pidió licencia en la Cámara de Diputados para asumir como presidente del Banco de Inversión y Comercio Exterior (BICE).