Íñigo A. Navarro Mendizábal, profesor ordinario de Derecho civil de la Universidad Pontificia Comillas (ICADE), pronunció ayer la conferencia ‘La autonomía humana en la era de la IA’. Fue la cuarta cita que el Instituto Teológico de Vida Religiosa dedica a una lectura reflexiva de la encíclica Magnifica humanitas, y como en las sesiones anteriores, se siguió en formato bimodal, tanto en el Salón de Actos y por el canal de YouTube del Instituto.
Por qué un civilista habla de la IA
El ponente empezó con «una disculpa», pues es profesor de Derecho privado y se dedica a los contratos y a los daños y, aun así, vino a sostener que un ciclo sobre humanidad y dignidad en la era de la IA precisa tratar la noción de la autonomía. Por ello, conjugando estas circunstancias, Navarro Mendizábal expresó las razones de por qué un civilista habla de estos asuntos. De tal modo, recordó la tradición de la Compañía de Jesús de ir a las fronteras, allí donde el salmo advierte hic sunt dracones y subrayó también la idea de que «nuestro tiempo es nuestro destino», con una referencia a Ortega y otra a Mafalda.
Qué es la autonomía
En los primeros compases de la conferencia definió la autonomía como «darse la ley a uno mismo, sin creerse autosuficiente» y puso la primera piedra de los cimientos en Kant, quien la consideraba fundamento de la dignidad humana. A renglón seguido, desde la bioética citó a Beauchamp y Childress, para quienes la acción autónoma exige intencionalidad, comprensión y ausencia de influencias controladoras. Pasó después al terreno jurídico, con la Declaración Universal de Derechos Humanos, el consentimiento contractual libre de engaño o coacción y la distinción de Habermas entre autonomía pública y privada. Con Magnifica humanitas (n. 171) subrayó que, en la era digital, la libertad «es también un asunto público».
La encíclica, elemento central de su charla y de este ciclo, le sirvió también para advertir del «síndrome de Babel», es decir, de la pretensión humana de autosuficiencia. Navarro Mendizábal resumió así su tesis: «la dignidad se tiene; la autonomía se ejerce». La dignidad ontológica pertenece a todo ser humano y no crece ni disminuye, como ocurre en Derecho con la capacidad jurídica. La autonomía, en cambio, se sitúa en el plano del ejercicio, igual que la capacidad de obrar, y por eso puede crecer o menguar. De ahí concluyó que la tarea consiste en proteger las condiciones para que cada persona ejerza la máxima autonomía que le sea posible.
Lo de la máquina es otra cosa
La segunda parte se centró en qué delegamos cuando delegamos en la IA. El profesor señaló que se habla de vehículos o sistemas «autónomos», pero que la máquina no piensa como nosotros: trabaja con tokens, estadística y probabilidad. No duda, no se avergüenza, no se emociona al comprender ni «quiere saber nada». Citó a Byung-Chul Han, que afirma que la IA «no puede pensar porque a ella no se le pone la carne de gallina», y reafirmó su tesis citando el número 99 de la encíclica.
Recorrió después la historia de las herramientas. De tal modo, constató cómo la escritura nos descargó de la memoria; la calculadora, del cálculo; el buscador, de la localización de información: y el GPS de la necesidad de orientarnos. La IA, en cambio, alcanza «el núcleo del pensamiento», es decir, argumenta, resume, redacta y resuelve problemas nuevos. Evocó el Fedro de Platón y a McLuhan para plantear qué estamos externalizando esta vez.
Se refirió además a la descarga cognitiva y a los sistemas de recomendación, que según el profesor atrofian algo anterior a la inteligencia; esto es, «la capacidad de elegir qué hacer». Para ilustrarlo citó a Schopenhauer: «Eres libre de hacer lo que quieres, pero ¿eres libre de querer lo que quieres?». De la mano de Simone Weil reivindicó la atención como una tarea que acaba convirtiéndose en capacidad de atender a quien sufre. También defendió el valor del proceso, recordando que las «dificultades deseables» consolidan el aprendizaje, y poniendo en valor la idea de que no se escribe lo que se piensa, sino que «se piensa escribiendo». Lo enlazó con san Ignacio, cuando el fundador de la Compañía dejó escrito que «no el mucho saber harta y satisface al ánima, mas el sentir y gustar de las cosas internamente». Su conclusión fue que «el riesgo no es la máquina; el riesgo es la delegación inconsciente». Y añadió una advertencia sobre la infancia: «un niño no delega una capacidad que ya tenía, sino que está decidiendo si llegará a tenerla».
Tres dimensiones de la autonomía
En la tercera parte distinguió tres dimensiones. En un primer término, la cognitiva y emocional: «pensar y sentir por uno mismo». A ésta la amenazan las burbujas de filtro (Pariser), el nudging o manipulación encubierta (Helbing) y el contagio emocional. También alertó de las compañías artificiales que nunca contradicen y debilitan «sin ruido» la capacidad de sostener relaciones reales.
En segundo lugar el conferenciante distingiuó la dimensión decisional y moral: «decidir qué decisiones delegamos». Así, propuso tres criterios: delegar sin excederse, supervisar («delegar, sí; abdicar, no») y conservar la posibilidad de revocar, es decir, «decidir volver a decidir», como en las llamadas cláusulas Ulises.
Por último, la dimensión informativa: «controlar los propios datos». Con Floridi recordó que «tú eres tu información», y repasó las garantías del Reglamento General de Protección de Datos frente al «dataísmo».
Beneficios, amenazas y responsabilidad
Ya adentrándose en el final de su conferencia, el profesor respondió directamente al título del ciclo con la consigna de la encíclica: «No bendigamos entusiasmos ingenuos ni alimentemos miedos estériles» (MH 14). Entre los beneficios enumeró decisiones mejor informadas, la liberación de tareas rutinarias o peligrosas, el apoyo a personas con discapacidad, una educación y una salud personalizadas y más participación ciudadana. Entre las amenazas señaló la pérdida de capacidad crítica, la manipulación, el deterioro de la deliberación democrática, la discriminación algorítmica, la desigualdad, la automatización sin consentimiento y la precarización.
Insistió en que la IA no es neutral ni es un destino, y planteó la alternativa entre «construir Babel» o «reconstruir Jerusalén», en línea con el Prof. Chaparro y su intervención hace siete días en este mismo espacio. Pero, en esta ocasión, para el ponente de la tarde de ayer, el gran peligro es que, si nadie decide, nadie responde. Por eso subrayó la exigencia de accountability que recoge el número 105 de la encíclica y que puede resumirse como la necesidad de identificar quién debe rendir cuentas de las decisiones, motivarlas, controlarlas y reparar los daños que causen.
Custodiar la autonomía
En la última parte de su charla, Navarro Mendizábal afirmó que el Derecho es necesario, con normas, vigilancia, recursos y responsables, pero no suficiente: hacen falta también conciencia, educación y comunidad. «A cada uno, su tramo de muralla», resumió, y propuso educar el juicio, practicar la «meta-autonomía» y proteger a quienes tienen menos defensas. Invitó a preguntarse de vez en cuando qué hemos dejado de pensar, de escribir o de decidir por nosotros mismos, y si esa delegación nos ha hecho más libres o, por el contrario, más dependientes. Una idea recorrió toda su intervención, y fue formulada en último término: «permanecer autónomos para permanecer humanos».
Próximas sesiones
El ciclo continuará cada jueves con las siguientes conferencias: PARA AMPLIAR INFORMACIÓN PINCHE AQUI
- 12 de noviembre: Sara Lumbreras Sancho (Escuela de Ingeniería ICAI, Comillas). «¿Qué es la IA? Vulnerabilidad humana y algoritmos».
- 19 de noviembre: Carlos Soria, cmf (Doctorando UPCO). El proyecto de vida en el Espíritu presente en la Encíclica.
- 26 de noviembre: María Teresa Compte Grau (UPSA-Fundación Pablo VI). «La presencia de la Doctrina Social de la Iglesia en la Encíclica».
