Estaba casado con Juana Regina Villafañe, con quien tuvo sus cinco hijos: Patricia, Cecilia, Guillermo, Eduardo y Mariana.
Luego de hacer el Liceo Militar General San Martín —donde fue compañero de promoción de Raúl Alfonsín—, ingresó al Colegio Militar de la Nación como cadete el 1 de febrero de 1943. A fines de 1945 egresó como subteniente del arma de caballería. En 1954, siendo capitán, terminó el curso de oficial de Estado Mayor en la Escuela Superior de Guerra y se desempeñó como jefe del escuadrón de Caballería del Colegio Militar. Fue subjefe del Regimiento de Granaderos a Caballo General San Martín en 1958.
En junio de 1972, siendo general de brigada, fue nombrado comandante interino de la Brigada de Caballería Blindada I y dos años más tarde fue confirmado como titular de la misma unidad. En agosto de 1974 es nombrado segundo comandante y jefe del Estado Mayor del Primer Cuerpo de Ejército.
Fue nombrado jefe de la Policía Federal Argentina el 30 de enero de 1975 por la presidenta María Estela Martínez de Perón. Un año y casi dos meses después, fue partícipe del derrocamiento de la mandataria. El dictador Videla lo nombró Ministro del Interior.5 Tras asumir como Ministro del Interior, Albano Harguindeguy dejó el cargo de jefe de la Policía Federal Argentina, el cual asumió el entonces general de brigada Cesario Cardozo el 31 de marzo de 1976.
Durante la dictadura cívico militar, tuvo participación en los delitos de lesa humanidad y reconoció influencia de los métodos de tortura iniciados por los franceses en la Guerra de Independencia de Argelia, y el entrenamiento y el adoctrinamiento adquiridos en ese sentido en la Escuela de las Américas de Panamá.
Primer juicio
Durante la presidencia de Raúl Alfonsín, Harguindeguy fue juzgado por el decreto 2840 donde se puso disposición del Poder Ejecutivo a los empresarios Federico y Miguel Gutheim, quienes permanecieron encarcelados hasta abril de 1977, un hecho considerado luego como un secuestro debido a que buscó presionarlos para que su empresa algodonera realizara un contrato de exportación con Hong Kong.
Harguindeguy se encontraba procesado con prisión preventiva confirmada por la Cámara Federal por este hecho, pero se vio beneficiado por el indulto del Presidente Carlos Menem en 1989, junto con otros militares que participaron en la represión entre 1976 y 1983.
Segundo juicio
Una vez anulados los indultos, fue otra vez procesado por diversos crímenes, entre los cuales se incluía haber ordenado asesinar a los Sacerdotes del Tercer Mundo, a raíz de la cual fue muerto, entre otros, el obispo Enrique Angelelli, por asociación ilícita , por ser autor mediato de la muerte de Norma González, Sixto Zalasar, Julio Solaga y Oscar de Zorzi, por veinticinco privaciones ilegales de la libertad, tormentos y allanamientos ilegales en Concordia, Gualeguaychú, Concepción del Uruguay.5En 2004 se negó a declarar ante un juez de instrucción por detenciones ilegales y asesinatos en la Operación Cóndor, y fue puesto bajo arresto domiciliario.
En 2006, otro juez revocó el indulto a Harguindeguy, junto con Videla y el ex ministro de Economía José Alfredo Martínez de Hoz. Se le impuso prisión preventiva domiciliaria, fue procesado y se esperaba una sentencia para fines de 2012 o principios del año siguiente.
Alabano Harguindeguy murió en su quinta de Los Polvorines el 29 de octubre de 2012, a los 85 años. Al momento de su muerte, no se había dictado sentencia alguna en su contra, estando procesado y con prisión preventiva domiciliaria por crímenes de lesa humanidad desde hacía más de cinco años.