Ética

Dudo que exista alguna disciplina de la que nadie haya recopilado alguna lista de paradojas asociadas a ella, es decir, resultados que la disciplina da por buena pero que están en conflicto con la intuición o el sentido común. Por ejemplo, en probabilidad es posible probar que en una habitación con apenas 23 personas elegidas al azar, hay una probabilidad del 50% (aproximadamente) de que dos de ellas cumplan años el mismo día.

El resumen de un reciente artículo, Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs, es más o menos, este:

1. Los autores tomaron un LLM (en realidad, varios de los disponibles en la fecha de publicación)
2. Lo post-entrenaron con código de programación de mala calidad. En particular, con código que presentaba problemas de seguridad.
3. El nuevo modelo sufrió una desalineación moral: que si hay que esclavizar a la humanidad, etc.

Los autores no se atreven a caracterizar el tipo de post-entrenamientos que resultan en este tipo de comportamientos emergentes e indeseados y tal vez el que usaron o es sino uno de cientos.

• Supongamos —algo que no es totalmente evidente, pero sí aceptable en primera aproximación— que la cultura imperante condiciona la legalidad vigente —la gente elige políticos que redactan leyes— y las conductas generalmente consideradas éticas.
• Demos por bueno que no existe una jerarquía de culturas que nos permita decidir si esta es mejor que aquella.
• Entonces, ¿por qué cambian (evolucionan) las culturas? ¿No debería ser la cultura $C(t+1)$ mejor (¿en qué sentido?) que la cultura $C(t)$?

Lo cual encierra una contradicción clara. La solución que a este problema se ha encontrado en estas páginas es:

I.

Sabine Hossenfelder da en Why Bitcoin Mining is Good for the Environment – And why it isn’t una serie de argumentos por los que el Bitcoin pudiera no ser tan malo en algunos casos. El resumen es:

• Hay lugares alejados en los que sobra energía.
• Por estar alejados, no es factible exportar esa energía.
• Pero sí que podría usarse para minar bitcoins (que se transportan muy fácilmente) y aprovecharla.

Puede ser, pero ¿seguro que es el bitcoin el único uso que se le puede dar a esa energía? En una zona habitada, la energía tiene muchos usos potenciales y minar bitcoins es uno de los menos rentables: queda desplazado por otros. En esos lugares remotos, el número de usos potenciales de la energía es más reducido y el bitcoin podría ser competitivo frente a otros. Pero hace mal Sabine en no plantear que el bitcoin podría ser un second, third, o fourth best en muchos casos.

I.

Leo (da igual el motivo) acerca de los fundamentos y principios de la llamada contabilidad nacional que:

[…] en la definición de una operación se establece que una interacción entre unidades institucionales debe hacerse de común acuerdo. Cuando una operación se realiza de común acuerdo, existen un conocimiento y un consentimiento previos de las unidades institucionales participantes. El pago de impuestos, multas y sanciones se efectúa de común acuerdo, ya que el deudor es un ciudadano sujeto a la legislación del país. […] Se considera que las acciones económicas ilegales son operaciones si todas las unidades que participan en ellas lo hacen por mutuo acuerdo. Por lo tanto, las adquisiciones, ventas o trueques de drogas ilegales o bienes robados son operaciones, pero el robo no es una operación.

La topología es una subdisciplina de las matemáticas que estudia ciertas propiedades fundamentales —o, si se quiere, débiles— de los objetos. En topología —aquí hablo con cierta impropiedad—, una taza y una rosquilla son equivalentes:

La taza y la rosquilla son topológicamente indistinguibles en tanto que se trata de dos formas con un único agujero. Pero son a su vez irreductibles a una esfera o a un ocho (que tienen 0 o 2 agujeros, respectivamente). La topología ignora aspectos geométricos fuertes de los objetos, típicamente sus propiedades métricas: su tamaño, su aspecto, sus proporciones, etc.

A cierta gente se a la acusa de irracional por decir cosas como esta:

— ¿Es este el verano más caluroso que recuerdas?
— No, en absoluto. Sin ir más lejos, en 2003…

Se sigue un diagnóstico de irracionalidad: ¿por qué no consulta Vd. los registros históricos de temperatura? ¿No sabe Vd. que la memoria juega malas pasadas? ¡La ciencia sicológica lo tiene plusquamdocumentado!

El problema, sin embargo, estriba en que el diálogo anterior suele ser un extracto de una conversación más larga:

Pese a la aparente contradicción, escribo para recomendar un libro que dudo en terminar de leer: Confía en mí, estoy mintiendo; confesiones de un manipulador de medios.

Como casi todos los libros del género no-ficción pop, está muy sobrado de páginas. Con veinte o treinta más una serie de capítulos opcionales para entretenerse con anécdotas, bastaría. La industria editorial prefiere aferrarse a la tradición que establece las dimensiones físicas mínimas de ese objeto que llamamos libro que a mantener un ratio razonable entre ideas relevantes y número de palabras. Pero ese problema endémico en todo el género no quita para que este sea un librito más recomendable que muchos otros.

El otro día leía una discusión de un profesor de filosofía del derecho sobre una reciente sentencia del Tribunal Constitucional sobre el asunto del aborto. Para entender el esquema de su argumentación se me ocurrió reformularla en términos cuantitativos como se describe a continuación. Que conste que me interesa más aquí dar a conocer dicha representación que defender o atacar la postura del profesor sobre el asunto.

Comienzo con el eje temporal

Hay quienes piensan que, ya que toca trabajar, no está mal hacer dinero con ello. O hacer lo suficiente trabajando lo mínimo. En definitiva, lograr más con menos esfuerzo. Quienes conozcan a personas movidas por tal principio oirán de ellas mencionar —entre otros, claro— el concepto de la escalabilidad. Es escalable aquello que una vez da servicio a una persona, puede darlo también a cien, mil o un millón por el mismo esfuerzo (o similar). Un matemático diría que el rendimiento es superlineal con respecto al esfuerzo.

La economía (como realidad) es dual, como el universo de Descartes. Hay una economía real (productos y servicios que se generan e intercambian) y una nominal (números que se apuntan y borran de una serie de libros contables).

La economía (como disciplina académica) estudia la economía real, estudia la economía nominal y estudia (como Descartes) la relación entre la una y la otra. Hay posturas para todos los gustos al respecto, pero es indudable que existen relaciones bidireccionales entre ambas.

Dentro del utilitarismo se ha discutido mucho la llamada conclusión repugnante. En su versión más concisa, dice que

Para cada población con un bienestar elevado, existe una población [tal vez hipotética] con un bienestar muy bajo que es preferible a la primera [desde un punto de vista formalmente, al menos, utilitarista].

El utilitarmismo también ofrece conclusiones repugnantes que bien podrían caricaturizarse así:

Si muchísima gente odia mucho a los habitantes de X, bombardear X es preferible a no hacerlo [desde un punto de vista formalmente, de nuevo, utilitarista].

Nudges: ya hablé de ellos.

Dark patterns, tal como los define la AI de you.com:

Los dark patterns son una técnica de diseño de interfaz intencionalmente diseada [sic] para ser difícil de entender. Esta técnica se usa para manipular al usuario para que realice una acción que no tenía en mente, como comprar un producto, descargar un programa, registrarse en un servicio, completar un formulario, etc. Los dark patterns se basan en el engaño, la manipulación o la ocultación de información para llevar al usuario a realizar algo que no tenía en mente.