Ética

El resumen de un reciente artículo, Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs, es más o menos, este:

1. Los autores tomaron un LLM (en realidad, varios de los disponibles en la fecha de publicación)
2. Lo post-entrenaron con código de programación de mala calidad. En particular, con código que presentaba problemas de seguridad.
3. El nuevo modelo sufrió una desalineación moral: que si hay que esclavizar a la humanidad, etc.

Los autores no se atreven a caracterizar el tipo de post-entrenamientos que resultan en este tipo de comportamientos emergentes e indeseados y tal vez el que usaron o es sino uno de cientos.

Hablé una vez sobre la fricción —como una metáfora útil bajo la que entender algunas de las cosas que pasan— aquí. Ahora, Zvi acaba de publicar un largo artículo sobre la frición que arranca así:

Cuando las cosas son fáciles, la gente las hace mucho más.

Si levantas barreras a su derredor, aunque sean fáciles de saltar, la gente las hace muchísimo menos.

Pensemos seriamente en eso y elijamos cuidadosamente qué barreras colocar y dónde.

I.

Leo (da igual el motivo) acerca de los fundamentos y principios de la llamada contabilidad nacional que:

[…] en la definición de una operación se establece que una interacción entre unidades institucionales debe hacerse de común acuerdo. Cuando una operación se realiza de común acuerdo, existen un conocimiento y un consentimiento previos de las unidades institucionales participantes. El pago de impuestos, multas y sanciones se efectúa de común acuerdo, ya que el deudor es un ciudadano sujeto a la legislación del país. […] Se considera que las acciones económicas ilegales son operaciones si todas las unidades que participan en ellas lo hacen por mutuo acuerdo. Por lo tanto, las adquisiciones, ventas o trueques de drogas ilegales o bienes robados son operaciones, pero el robo no es una operación.

La topología es una subdisciplina de las matemáticas que estudia ciertas propiedades fundamentales —o, si se quiere, débiles— de los objetos. En topología —aquí hablo con cierta impropiedad—, una taza y una rosquilla son equivalentes:

La taza y la rosquilla son topológicamente indistinguibles en tanto que se trata de dos formas con un único agujero. Pero son a su vez irreductibles a una esfera o a un ocho (que tienen 0 o 2 agujeros, respectivamente). La topología ignora aspectos geométricos fuertes de los objetos, típicamente sus propiedades métricas: su tamaño, su aspecto, sus proporciones, etc.

Si algo sabemos de las reglas morales es que varían en el tiempo. Se puede aventurar —aunque la relación exacta merece un análisis más detallado— que responden a las condiciones materiales de cada época. Por supuesto, con sus crisis de aclimatación.

Que el aborto sea un derecho reconocido —manifestación legal de un estado de opinión moral preponderante— responde a las circunstancias materiales muy concretas del mundo que vivimos. No lo fue, sin embargo, del que ya no existe y, argumento debajo, no lo será de uno futuro muy plausible.

Pese a la aparente contradicción, escribo para recomendar un libro que dudo en terminar de leer: Confía en mí, estoy mintiendo; confesiones de un manipulador de medios.

Como casi todos los libros del género no-ficción pop, está muy sobrado de páginas. Con veinte o treinta más una serie de capítulos opcionales para entretenerse con anécdotas, bastaría. La industria editorial prefiere aferrarse a la tradición que establece las dimensiones físicas mínimas de ese objeto que llamamos libro que a mantener un ratio razonable entre ideas relevantes y número de palabras. Pero ese problema endémico en todo el género no quita para que este sea un librito más recomendable que muchos otros.

El otro día leía una discusión de un profesor de filosofía del derecho sobre una reciente sentencia del Tribunal Constitucional sobre el asunto del aborto. Para entender el esquema de su argumentación se me ocurrió reformularla en términos cuantitativos como se describe a continuación. Que conste que me interesa más aquí dar a conocer dicha representación que defender o atacar la postura del profesor sobre el asunto.

Comienzo con el eje temporal

Micromuertes

Una micromuerte es una probabilidad de uno en un millón de morirse. Es un ínfimo e infame boleto de una lotería a la que todos jugamos. No es este el sitio para abundar en el concepto porque está sobrada y estupendamente hecho en otras partes, pero se lo recomiendo a todo aquel que haya tropezado aquí con él por primera vez.

La cuestión es que aunque todos tengamos una asignación de boletos por diversos motivos, hay quienes adquieren de manera más o menos voluntariamente otros adicionales al fumar, tener una vida sedentaria, practicar determinados deportes de riesgo, comportarse de manera poco recomendable, etc. Luego, la lotería puede o no tocar en un día determinado: eso es el azar. Pero es indudable que unos hacen más méritos que otros para el premio.

La economía (como realidad) es dual, como el universo de Descartes. Hay una economía real (productos y servicios que se generan e intercambian) y una nominal (números que se apuntan y borran de una serie de libros contables).

La economía (como disciplina académica) estudia la economía real, estudia la economía nominal y estudia (como Descartes) la relación entre la una y la otra. Hay posturas para todos los gustos al respecto, pero es indudable que existen relaciones bidireccionales entre ambas.

Dentro del utilitarismo se ha discutido mucho la llamada conclusión repugnante. En su versión más concisa, dice que

Para cada población con un bienestar elevado, existe una población [tal vez hipotética] con un bienestar muy bajo que es preferible a la primera [desde un punto de vista formalmente, al menos, utilitarista].

El utilitarmismo también ofrece conclusiones repugnantes que bien podrían caricaturizarse así:

Si muchísima gente odia mucho a los habitantes de X, bombardear X es preferible a no hacerlo [desde un punto de vista formalmente, de nuevo, utilitarista].

Nudges: ya hablé de ellos.

Dark patterns, tal como los define la AI de you.com:

Los dark patterns son una técnica de diseño de interfaz intencionalmente diseada [sic] para ser difícil de entender. Esta técnica se usa para manipular al usuario para que realice una acción que no tenía en mente, como comprar un producto, descargar un programa, registrarse en un servicio, completar un formulario, etc. Los dark patterns se basan en el engaño, la manipulación o la ocultación de información para llevar al usuario a realizar algo que no tenía en mente.

Reproduzco, traducido, un hilo sobre la moral de Olivier S. Curry aparecido aquí.

1. ¿Cuál es el problema de la Teoría de los Fundamentos Morales? (Y cómo hacer sicología de la moral correctamente.)
2. Aunque originalmente se trató exclusivamente desde el punto de vista de la moral y la filosofía, el estudio de la moral es un ámbito de estudio muy rico e interdisciplinar, en el que se cruzan la teoría de la evolución, la genética, la biología, el comportamiento animal, la sicología y la antropología.
3. Bajo esta perspectiva, no hay nada misterioso o mágico en la moral: es simplemente una colección de mecanismos biológicos y culturales para promover la cooperación.
4. Una de las propuestas más relevantes ha sido la Teoría de los Fundamentos Morales (MFT) de Jonathan Haidt.
5. La MFT argumenta que como los humanos nos enfrentamos a múltiples problemas sociales, tenemos una multiplicidad de valores morales. Que están basados en múltiples “fundamentos” a la hora de tomar decisiones morales. Entre ellos, el cuidado, la equidad, la lealtad, el respeto y la pureza.

Hoy he tenido una discusión sobre las intuiciones morales como fundamento de un comportamiento moral. El argumento ofrecido (por los otros) es simple: todos tenemos intuiciones sobre lo que es correcto y lo que no y nuestro comportamiento moral debería estar basado ya sea en ellas directamente o indirectamente a través de principios éticos construidos por interpolación.

Me parece relevante dejar aquí escritos una serie de contraargumentos al respecto. En primer lugar, las intuiciones morales tienen mucho más de fisiológico que de racional. Hay un mecanismo físico —¿hormonal?— que se activa en presencia de aquellas —¿todas? ¿solo algunas? ¿dependiendo del contexto?— coyunturas que solicitan un juicio moral: frecuentemente sentimos algo en el estómago, se nos humedecen los ojos, etc.