Parte XVI · El sentido
Ética
Se construye sobre: Qué es saber
Encuentras una billetera en la calle con plata y una cédula. Nadie te vio. ¿La devuelves? Casi todo el mundo responde que sí, y casi todo el mundo responde rápido. Lo interesante viene cuando preguntas por qué. Uno dice: porque si todos nos quedáramos con las billeteras ajenas viviríamos peor. Otro: porque esa plata no es mía, y punto. Un tercero: porque no quiero ser el tipo de persona que se queda con lo que no es suyo. Y otro más: porque es lo que esperaría que hicieran conmigo.
Las cuatro respuestas llegan al mismo lugar y, sin embargo, son cuatro teorías morales distintas. La ética es la parte de la filosofía que se toma en serio esa diferencia. No para decirte qué hacer, sino para que las razones que ya usas queden a la vista, con sus fuerzas y sus grietas. Y como toda pregunta de este libro, empieza por una más básica: si saber algo exige más que creerlo, ¿se puede saber qué está bien, o solo opinarlo? No voy a resolver eso aquí. Voy a mostrar cómo razona cada familia, y dejar que tú pongas el peso.
Contar las consecuencias
La primera respuesta, la de “viviríamos peor”, es la del consecuencialismo: una acción es buena o mala según lo que produce. Su versión más conocida es el utilitarismo de Jeremy Bentham y John Stuart Mill, que propone sumar el bienestar de todos los afectados y elegir la acción que deje la suma más alta. Dicho con una fórmula, si es el bienestar de la persona cuando se hace :
Es una función que se maximiza, y por eso le gusta tanto a la gente que viene de la ingeniería o la economía. Su fuerza es la imparcialidad: tu bienestar cuenta igual que el mío, ni más ni menos. Sus grietas son dos. La primera es práctica: ¿cómo se mide el bienestar, y cómo se compara el de dos personas? Es la misma pregunta de la utilidad en economía, y la misma trampa de cuando el indicador se vuelve meta: lo que no cabe en la suma desaparece. La segunda es de principio: la suma no mira quién gana y quién pierde. Si sacrificar a uno hace muy felices a muchos, la cuenta lo aprueba, y a casi todos eso nos parece mal aunque la cuenta cuadre.
Hay cosas que no se hacen
La segunda respuesta, “esa plata no es mía, y punto”, es la de la deontología: hay deberes que obligan sin importar el resultado. Su gran sistematizador fue Immanuel Kant, a finales del siglo XVIII. Kant propuso una prueba para cualquier regla de conducta: ¿podrías querer que todo el mundo la siguiera? “Me quedo con las billeteras ajenas cuando nadie me ve”, convertida en ley universal, se destruye a sí misma: nadie volvería a cargar billetera. La otra formulación célebre dice que hay que tratar a las personas siempre como fines y nunca solamente como medios.
Eso es justo lo que le faltaba a la suma utilitarista: un límite. Hay cosas que no le puedes hacer a una persona aunque mejoren el total. Las grietas de Kant están en el otro extremo. ¿Qué pasa cuando dos deberes chocan? El ejemplo clásico es el de mentirle a quien pregunta dónde se esconde la persona que quiere matar. Una regla que no se dobla nunca puede romperse en el caso que no previó.
Ser cierto tipo de persona
La tercera respuesta, “no quiero ser ese tipo de persona”, es la más antigua: la ética de la virtud, que viene de Aristóteles y su Ética a Nicómaco. Aquí la pregunta no es qué acción es correcta, sino qué carácter vale la pena cultivar. Para Aristóteles la virtud es un término medio entre dos excesos: la valentía queda entre la cobardía y la temeridad; la generosidad, entre la tacañería y el derroche. Y no hay fórmula para encontrar ese medio: hace falta phronesis, sabiduría práctica, que se aprende como se aprende un oficio, haciendo y equivocándose.
Su fuerza es que se parece a cómo vivimos de verdad: casi nunca calculamos, casi siempre actuamos desde lo que somos. Su grieta es que a veces no orienta: “haz lo que haría una persona sabia” es poco consuelo cuando no sabes qué haría.
Un acuerdo entre iguales
La cuarta, “lo que esperaría que hicieran conmigo”, es la del contractualismo: las normas morales son las que aceptaríamos en un acuerdo razonable entre personas libres e iguales. Tiene raíces en Hobbes y Rousseau, y su versión moderna más influyente es la de John Rawls en Teoría de la justicia (1971), con un experimento mental precioso: el velo de ignorancia. Elige las reglas de la sociedad sin saber qué lugar te va a tocar en ella, si vas a nacer rico o pobre, sano o enfermo. Lo que elegirías así, dice Rawls, es lo justo.
Ninguna de las cuatro ha ganado. Se discuten hace siglos, y lo más honesto que puedo decir es que cada una captura algo que las otras olvidan: las consecuencias importan, las personas no son medios, el carácter pesa y las reglas tienen que poder justificarse ante quienes las sufren.
El tranvía: una herramienta, no una respuesta
Un tranvía sin frenos va hacia cinco personas atadas a la vía. Tú estás junto a una palanca que lo desvía hacia otra vía donde hay una sola. ¿La jalas? Philippa Foot planteó una versión de este caso en 1967, y Judith Jarvis Thomson le dio su nombre y sus variantes más famosas. La mayoría de la gente dice que sí. Ahora cambia el caso: no hay palanca, estás en un puente sobre la vía junto a una persona corpulenta, y empujarla detendría el tranvía. Las cuentas son idénticas, uno por cinco, y la mayoría dice que no.
El tranvía no está ahí para que lo resuelvas. Es un instrumento, como un experimento de laboratorio que aísla una variable: si las consecuencias son las mismas y la intuición cambia, algo además de las consecuencias está pesando. ¿Es la diferencia entre desviar un daño y usar a alguien como medio? ¿Entre hacer y dejar que pase? Cada familia tiene su explicación. Lo que el caso enseña es a no confiar en una teoría que solo funciona en los ejemplos que su autor escogió.
Cooperar cuando conviene traicionar
Hay una pregunta debajo de todas estas: si cada uno busca lo suyo, ¿de dónde sale la cooperación? La teoría de juegos tiene un modelo mínimo para pensarlo, el dilema del prisionero. Dos jugadores eligen a la vez cooperar (C) o traicionar (D). Con la matriz de pagos clásica:
Mira la jugada de una sola vez. Si el otro coopera, traicionar te da 5 en vez de 3; si traiciona, te da 1 en vez de 0. Traicionar es mejor haga lo que haga el otro, así que dos jugadores racionales traicionan y se llevan 1 cada uno, cuando cooperando habrían sacado 3. La racionalidad individual produce un resultado peor para los dos.
Pero la vida no es una jugada. Es la misma vecina, el mismo proveedor, la misma entidad contratante, una y otra vez. A comienzos de los años ochenta, Robert Axelrod organizó torneos por computador en los que programas enviados por investigadores jugaban el dilema repetido entre sí. Los ganó una estrategia de cuatro líneas, presentada por Anatol Rapoport: ojo por ojo. Coopera la primera vez y después haz lo que el otro hizo la vez anterior. Aquí tienes un torneo pequeño con cuatro estrategias.
Cada ronda: si ambos cooperan, 3 y 3; si ambos traicionan, 1 y 1; si uno traiciona al que coopera, 5 para el traidor y 0 para el otro. Cada par juega 200 rondas, y cada estrategia juega también contra una copia de sí misma. Elige quién entra (mínimo dos).
1 · todos contra todos: puntos totales
2 · versión ecológica: qué parte de la población usa cada estrategia
Todos contra todos lo gana siempre traiciona, con 1976 puntos.
En la generación 0: siempre coopera 25 % · siempre traiciona 25 % · ojo por ojo 25 % · al azar 25 %.
Lo primero que salta a la vista es que ojo por ojo nunca le gana una partida a nadie. Contra siempre-traiciona, en 200 rondas, pierde 199 a 204: la primera vez se deja engañar y después empatan en la miseria. Lo más que logra es empatar. Y en este torneo, con un ingenuo (siempre-coopera) en la sala, el que más puntos suma en el todos contra todos es el traidor, con 1976 contra 1865 de ojo por ojo: explotar al ingenuo paga. Quita al ingenuo y la tabla se voltea; ojo por ojo gana con 1250.
La segunda gráfica cuenta la historia larga. Imagina una población donde cada estrategia se reproduce en proporción a los puntos que saca contra la población del momento. Si es la fracción que usa la estrategia y su puntaje promedio contra esa mezcla:
Al principio el traidor crece, comiéndose a los ingenuos: llega a ser cerca del 31 % de la población hacia la cuarta generación. Pero al acabarse los ingenuos se queda sin a quién explotar, y entre traidores solo se gana 1 por ronda. Hacia la generación 20 ya casi no queda. Ojo por ojo termina cerca del 95 %, y algo curioso: los ingenuos sobreviven, cerca del 5 %, protegidos por los recíprocos que ya castigaron a los traidores. Es la misma lógica de la selección natural, aplicada a conductas en vez de genes.
Este es un modelo de juguete, con cuatro estrategias y una semilla fija para la moneda de la aleatoria, y no prueba nada sobre las personas. Lo que sí muestra con claridad es una idea de Axelrod: lo que hace exitosa a una estrategia en el juego repetido es ser amable (no traicionar primero), responder (no dejarse explotar), perdonar (volver a cooperar) y ser clara. Y también muestra que el éxito depende de con quién juegas. Investigaciones posteriores encontraron que cuando hay errores, cuando a veces alguien traiciona sin querer, ojo por ojo puede quedar atrapado en venganzas eternas, y versiones más generosas le ganan.
Ética con bata: el consentimiento informado
La ética aplicada nació, en buena parte, de la medicina, y de sus peores episodios. Después de los experimentos de los médicos nazis, el Código de Núremberg (1947) puso en primer lugar, como condición sin la cual no hay experimento legítimo, el consentimiento voluntario de quien participa. La Asociación Médica Mundial lo desarrolló en la Declaración de Helsinki (1964). Y en Estados Unidos, tras conocerse el estudio de Tuskegee, en el que durante décadas se dejó sin tratar la sífilis de cientos de hombres negros para observar la enfermedad, el Informe Belmont (1979) resumió la ética de la investigación en tres principios: respeto por las personas, beneficencia y justicia.
Fíjate en que ahí conviven las cuatro familias. El consentimiento informado es kantiano: nadie puede ser usado solo como medio para el conocimiento de otros. La beneficencia es consecuencialista: los riesgos se pesan contra los beneficios. La justicia pregunta quién carga con los riesgos y quién se lleva los frutos, que es una pregunta contractualista. Y la virtud aparece en lo que ningún formulario cubre: el investigador que se detiene porque algo no le parece bien.
Cuando la máquina decide: la ética de la IA
Un modelo de aprendizaje automático aprende los patrones de sus datos, incluidos los que no queríamos que aprendiera. Si un sistema para filtrar hojas de vida se entrena con las decisiones de contratación de los últimos veinte años, aprende también los sesgos de esos veinte años, y los aplica con una consistencia que ningún humano tendría. El sesgo no está en una línea del código; está en cómo se recogió la muestra.
Y hay un resultado matemático que vuelve esto más difícil de lo que parece. Hacia 2016, varios grupos de investigadores probaron que, si dos grupos tienen tasas base distintas del fenómeno que se quiere predecir, y el clasificador no es perfecto, no se pueden cumplir a la vez dos ideas razonables de justicia: que una misma puntuación signifique el mismo riesgo en ambos grupos (calibración) y que los dos grupos sufran las mismas tasas de falsos positivos y de falsos negativos. Con el teorema de Bayes en la mano, las cuentas no dan. Hay que elegir qué error importa más, y esa elección no es técnica. Es ética.
Luego está la transparencia. Una red neuronal con millones de parámetros no se deja leer como una regla. Si no puedes explicar por qué decidió algo, ¿cómo lo impugna quien resultó afectado? Una respuesta parcial, muy concreta, es exigir que el sistema muestre de dónde saca lo que afirma.
Esto, para mí, no es abstracto. Cuando construyes una IA que analiza contratación pública, la pregunta de quién responde si se equivoca deja de ser de seminario: detrás de cada respuesta hay una empresa que decide si se presenta o no a un proceso. Por eso pienso que la cita es lo que importa: una afirmación con su fuente se puede revisar, y una que no, solo se puede creer. La responsabilidad no se le puede delegar al modelo. Es de quien lo construye, de quien decide qué datos usa, qué error tolera y qué le muestra a quien lo usa.
Tus datos también son de otros
La privacidad suele pensarse como algo individual: mis datos, mi decisión. Pero hay datos que no son solo tuyos. Cuando te haces un test de ADN, entregas también información parcial de tus padres, hermanos y primos, que no firmaron nada. En 2018 la policía de Estados Unidos identificó a un sospechoso de crímenes cometidos décadas antes comparando ADN de la escena con una base genealógica pública en la que habían subido sus datos parientes lejanos. Se puede celebrar el caso y, a la vez, reconocer que cambió algo: el consentimiento de uno ya no protege a su familia.
Lo mismo pasa con los datos de comportamiento. Un modelo entrenado con los datos de millones puede inferir cosas de quien nunca dio los suyos. La pregunta de Rawls vuelve con otra cara: ¿qué reglas sobre los datos aceptarías si no supieras si vas a ser quien los recoge o quien los entrega?
Razones, no sermones
Queda una pregunta incómoda que este capítulo presupone: para que tenga sentido hablar de deber, tiene que haber alguien que pueda elegir. Si todo lo que hago está fijado por las leyes de la física, ¿qué queda de la responsabilidad? Esa es la pregunta de el libre albedrío. Y otra: ¿a quiénes les debemos algo? La respuesta habitual, a los que pueden sufrir, nos manda a preguntar quién tiene experiencia, si los animales, si algún día las máquinas.
No te voy a decir cuál de las cuatro familias es la buena. Lo que sí creo es que pensar en ética con densidad se parece a elegir qué se mide: antes de discutir si una decisión es buena, conviene ponerse de acuerdo en qué cuenta. Las consecuencias, los deberes, el carácter, el acuerdo. Casi todas las discusiones morales que parecen ser sobre los hechos son, en el fondo, sobre ese peso.