Desarmar la IA, una reflexión sobre Magnifica Humanitas, precedida de una defensa de la abogacía y un alegato al final

1.

No siempre es posible evitar el conflicto y el choque entre dos partes. La buena fe de unos no sirve de nada si los otros carecen de una mínima disposición hacia el encuentro. Dos no se pelean si uno no quiere, dice el refranero, y por desgracia se equivoca. En mi trabajo veo la inversión de este principio cada día: la buena fe de una parte es recibida por la otra con desconfianza, incluso como una señal de debilidad que hay que aprovechar. Mientras una parte se consume, la otra no para de hincharse. Cuando esto sucede, y previamente se han quemado todas las vías pacíficas de resolución de un conflicto, no queda más remedio que plantar cara. Y entonces aparecemos los abogados. Se inicia un camino de difícil retorno, es verdad. No es un camino agradable, pero llegados a ese punto no hay otra manera de poner fin al conflicto. El abogado no rehúye el choque (aunque busque el acuerdo), tiene una visión realista del mundo en la que se integran contravalores como la mediocridad, la codicia o la egolatría. Cuenta con éstas porque existen, mueven las cosas y atraen. No conviene mirar a otro lado en determinadas circunstancias, para un abogado nunca es una opción. Eso es lo que hace: observar, calibrar bien las fuerzas, la propias y ajenas, no precipitarse, y dar el puñetazo en la mesa en el momento oportuno.

Hasta aquí nada nuevo. Hace aproximadamente un año me llegó un asunto de familia que reproducía, con algunos matices, el patrón de fuerzas que he descrito. Había varios pisos de por medio. Un clásico. Mi cliente desolado, impotente, con ganas de acabar (fueron sus palabras) con aquella pesadilla. La otra parte crecida, en su salsa, dispuesta a todo, a gusto en la mierda (también fueron sus palabras). Jurídicamente hablando el caso era clarísimo, favorable a mi cliente. Me puse en marcha. Redacté un escrito dirigido a la otra parte, pensando ya en el proceso judicial, intentando dibujar el campo de juego que me convenía delante de un juez, sin renunciar por ello a una contundencia resolutiva, tratando de poner fin a la disputa en aquel momento. Me costó lo suyo redactar aquel requerimiento, un trabajo profundo que fui haciendo a ratos durante un par de semanas, y del que quedé, por cierto, bastante satisfecho. Esperaba dos respuestas alternativas a mi escrito: o la otra parte entraba en razón y adiós muy buenas (lo que suele significar silencio, nunca un reconocimiento, un mea culpa), o la recepción de otro escrito por parte de un compañero de profesión. Sorprendentemente no aconteció nada de lo anterior.

A los dos días de enviar mi escrito, recibí una contestación de tres páginas firmada directamente por la otra parte, de su puño y letra, sin abogado de por medio. Era una contestación bien estructurada y redactada, estilo demanda, con sus fundamentos de hecho y de derecho, muy detallada. Aportaba jurisprudencia variada, e incluso una tabla sobre la evolución de las sentencias sobre el tema en los últimos años. Era un escrito producido por IA, indudablemente. En una primera lectura reconozco que me sentí vulnerable y algo indefenso. Era un puñetazo doblemente humillante, por lo que decía, pero, sobre todo, por quién lo decía. Como soy de reacciones lentas puse el escrito en cuarentena un par de días, en mi cajita de madera de asuntos pendientes. 

Al tercer día lo cogí con otro ánimo, el cabreo inicial dio paso a la curiosidad y a la manía filosófica. Volví a leerlo, con más atención. Lo estudié y me quedé tranquilo. No era lo que parecía. Tenía grietas en la redacción, absurdos énfasis, reiteraciones e incoherencias argumentativas, como la de aducir una serie de artículos pensados para otra figura legal, sin relación, o muy remota, con la controversia en cuestión. Las sentencias corrían la misma suerte, la mayoría sacadas de contexto. La tabla comparativa no tenía ni pies ni cabeza. Vi claro. Lo que tenía delante era una grotesca contestación en su misma prolijidad, un vacío. Un extraño desahogo, en realidad: detrás de aquellas líneas, a las que podría definir como vómito jurídico, se agazapaba un individuo con una imagen del mundo y de sus propios límites un tanto borrosa, alguien que se había crecido hasta el extremo con la complacencia y ayuda de un bot.

El asunto, aunque lastimoso, acabó como tenía que acabar, es decir, a favor de mi cliente después de un juicio fácil. Sin embargo, aquel escrito producido por IA me dejó un malestar indefinido. En el último un año han desfilado por mi mesa varios escritos semejantes…     

2.

Magnifica Humanitas tiene varios puntos fuertes y uno débil. Sitúa ejemplarmente el debate sobre la IA en un contexto reflexivo y hasta filosófico, sin que eso signifique una renuncia doctrinal. Habla de lo que nos jugamos, señalando riesgos concretos y desviaciones ya palpables, muchas veces dramáticas, en tantos ámbitos de nuestra vida ordinaria. Y aunque esto no es poco, su mayor logro consiste en reivindicar un tipo de reflexión para la IA alejada de la ingenuidad. Al Papa León le gusta el término desarmar la IA, hace hincapié en el uso y el sentido de esta palabra, desarmar, no sólo como un intento de sustraer a la IA de los poderes fácticos que la diseñan y gobiernan, sino también como un ejercicio de pensamiento que, de forma serena, sea capaz de esclarecer los resortes de la IA, sus condiciones de posibilidad. En esta misma línea nos dice que “no podemos considerar a la IA como moralmente neutra”, puesto que sus algoritmos, adiestrados a conveniencia, reproducen y engrosan unos estereotipos de vida muy poco edificantes, cuando no directamente antihumanos. Por lo tanto, el verdadero debate no se centraría, en primer término, en el uso responsable de esta tecnología, sino en su peligrosa performatividad. Eso me ha gustado mucho, lo confieso, al igual que la reflexión sobre la fragilidad y la condición limítrofe del hombre en el contexto del transhumanismo y posthumanismo (“Debemos recordar que el ser humano no florece a pesar del límite, sino a menudo a través del límite”).

En cambio, he visto un problema importante de encaje cuando la reivindicación anterior, necesaria y profunda, va seguida de otro tipo de reivindicación. Desarmar a la IA para hacerla acogedora, nos dice el Papa León, con el consecuente llamamiento “a quienes desarrollan sistemas de IA”, para que lo hagan con responsabilidad y transparencia, creando herramientas encaminadas al bien común y no hacia el enriquecimiento de unos pocos o el afianzamiento de un statu quo ideológico.

Yo entiendo que el Papa León, por todo lo que representa y en el marco de la doctrina social de la Iglesia, haga este tipo de llamamiento en una encíclica. Pero lo que se consigue es un efecto desconcertante. Si bien los destinatarios interpelados son los desarrolladores de IA, no me queda claro quienes podrían ser éstos.  ¿CEOs, grandes accionistas o perfiles más técnicos? Y aunque el Papa lo aclarara, me preguntaría si ese llamamiento serviría de algo. O dicho de otra manera: ¿es factible imaginar una IA transparente, responsable y acogedora?, ¿depende todo esto de alguien? Diría que no. Diría que no podemos confiar en la buena fe de unos supuestos desarrolladores responsables y transparentes por una razón: tanto la opacidad como la i-responsabilidad son los principales canales de desarrollo de la IA. Sin esos canales, sencillamente, no existiría. Pero no son los únicos. Salta a la vista que la IA ha sido diseñada para ignorar el concepto de límite real y existencial, tan bellamente descrito por el Papa. El límite que uno experimenta todos los días, y que está muy ligado, no sólo a las disposiciones y talentos particulares, sino a lo que somos como personas, sin grado ni excepciones. La IA trabaja con una imagen distorsionada, borrosa de la persona. Nos invita, con permanente halago, a desbaratarnos con todo tipo de deseos, deseos aparentemente nobles o provechosos, triviales, y por supuesto inconfesables. Máquinas deseantes, que diría Deleuze. Yo, en cambio, le daría más sonoridad y afirmaría que en sus manos somos como tristes máquinas deseantes (aunque bien mirado lo de las máquinas deseantes ya suena muy triste de por sí).

3.

Podemos mirar a otro lado y enarbolar las innumerables aplicaciones positivas de la IA, que sin duda tiene (cualquier tecnología las tiene). Pero esa es una estrategia con un alto grado de cinismo o de ingenuidad, según se mire. Iniciaba mi post afirmando que no siempre es posible evitar el choque. Creo que diría lo mismo sobre algunas elecciones radicales.

Conviene pararse, y antes de tomar partido o de reclamar un diseño (imposible) que favorezca una bonita práctica responsable, debemos preguntarnos, tú y yo, en este momento, algo más básico: si estamos dispuestos a vernos en nuestra condición de seres frágiles, falibles y finitos, tal cual, o si queremos, por el contrario, ir detrás de una niebla en cuyo interior nos sentimos a gusto, sí, pero que borra nuestros pasos y formas.

El primer camino es sencillo de ver, difícil de recorrer y puede que nos lleve, cansados, a los pies de la felicidad, el segundo camino nunca se empieza a recorrer porque se desplaza con nosotros, a nuestra conveniencia y capricho. No se ve porque no es un camino.