Ética

Es una pregunta que se plantea la IEP en su página sobre la ética de la IA. Habría dos maneras de enseñar a una IA a portarse «éticamente»: Estableciendo unas normas globales de comportamiento que obliguen a la IA a comportarse de cierta manera, como las tres leyes de la robótica de Asimov o, más recientemente, eso que se ha dado en llamar la «IA constitucional». Existen análisis sobre los system prompts de algunos modelos (este, p.e., para Claude 4) en los que se pueden encontrar trazas evidentes de esta manera de imponer comportamientos «éticos» en las IAs. Entrenando a la IA con listas «casos» concretos etiquetados con sí/no. Que son dos procedimientos relacionados con: ...

Escribe Matt Yglesias sobre las vacunas. Pero no me interesan tanto (hoy) las vacunas como la distinción que realiza entre sorpresa y estupefacción (shock). Sorpresa es un término puramente epistemológico: creías una cosa, te das cuenta de que no es cierta, te sorprendes. Estupefacción es una sorpresa que incluya una valoración moral: aquello que aprendo es intrínsecamente malo. Técnicamente, estupefacción sería un concepto denso mientras que sorpresa sería uno fino. La distinción procede de la filosofía moral y, en particular, de un debate sobre si epistemología y ética son disciplinas separadas o no. Si uno se atiene a los conceptos finos, diríase que sí. Sin embargo, los conceptos densos participan de ambas. Términos como alto son finos: describen, pero no cualifican moralmente. Pero valiente es distinto: no solo describe sino que asigna un carácter moral. ...

Hay gente que, sea por convicción personal o por los requisitos del trabajo que desempeña y que paga sus facturas, genera discursos en los que da más valor a las necesidades de los bichos que a las de las personas. Imaginemos que un periodista quiere escribir, por ejemplo, sobre la necesidad (o no) de construir más embalses en España. Debería contactar con varios expertos sobre la materia, documentarse seriamente y mostrar una visión panorámica sobre el estado de la cuestión. Pero tal vez esté demasiado ocupado, no pueda dedicarle el tiempo que requiere y se conforma con la opinión de un único experto. Este experto podría ser uno de esos individuos que aman a otras especies más que a la suya propia y el resultado de esa interacción bien podría ser el artículo que he enlazado en este mismo párrafo. ...

Hace un tiempo escribí esto. Allí me refería a la tensión entre las intuiciones morales y las construcciones éticas formales. Y, en la misma línea, también esto. No hace tanto, Joseph Heath escribió Populism fast and slow, que relaciona el populismo con la capacidad o no de activar el sistema 2 —el popularizado por Kahneman— para resolver esas cuestiones que al sistema 1 se le antojan contradictorias y difíciles de conciliar con el sentido común. De acuerdo con Heath, sería populista un sistema político que confiriese la primacía al sistema 1. ...

Hace cosa de 25 años, durante unos meses, uno de los anunciantes más notables de la versión digital de El País fue unos estudios pornográficos. Me falla la memoria, pero pudiera haber sido Private. Yo entonces vivía en EEUU y frecuentaba las páginas de ese medio para informarme de las cosas de casa. Me llamaron mucho la atención esos banners (así era la publicidad de la época) sobre todo por el hecho de que un negocio que siempre se ha movido subterránamente hiciese ostentación de presencia en, precisamente, uno de los medios considerados más serios de toda España. ...

El día 27 de enero de 1980, traía El País un artículo titulado ETA (p-m) interrumpe la proyección de películas pornográficas y en el que se lee: Tres presuntos comandos de ETA político-militar interrumpieron anoche en Bilbao, simultáneamente, las proyecciones de tres películas clasificadas «S», en los cines Abando, Multi-1 y Multi-7, donde se proyectaban, respectivamente, las películas Morir de deseo, Miedo al escándalo de una mujer casada y Violación en el último tren de la noche. En los tres casos, los comandos, formados por dos personas cada uno, entraron en la sala tras pagar su entrada. Cuando ya estaba avanzada la proyección salieron al pasillo e hicieron varios disparos al aire. Después manifestaron en voz alta que películas de ese tipo son las que dan lugar a las violaciones, antes de marcharse rápidamente. ...

El resumen de un reciente artículo, Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs, es más o menos, este: Los autores tomaron un LLM (en realidad, varios de los disponibles en la fecha de publicación) Lo post-entrenaron con código de programación de mala calidad. En particular, con código que presentaba problemas de seguridad. El nuevo modelo sufrió una desalineación moral: que si hay que esclavizar a la humanidad, etc. Los autores no se atreven a caracterizar el tipo de post-entrenamientos que resultan en este tipo de comportamientos emergentes e indeseados y tal vez el que usaron no es sino uno de cientos. ...

Hablé una vez sobre la fricción —como una metáfora útil bajo la que entender algunas de las cosas que pasan— aquí. Ahora, Zvi acaba de publicar un largo artículo sobre la frición que arranca así: Cuando las cosas son fáciles, la gente las hace mucho más. Si levantas barreras a su derredor, aunque sean fáciles de saltar, la gente las hace muchísimo menos. Pensemos seriamente en eso y elijamos cuidadosamente qué barreras colocar y dónde. ...

I Leo (da igual el motivo) acerca de los fundamentos y principios de la llamada contabilidad nacional que: […] en la definición de una operación se establece que una interacción entre unidades institucionales debe hacerse de común acuerdo. Cuando una operación se realiza de común acuerdo, existen un conocimiento y un consentimiento previos de las unidades institucionales participantes. El pago de impuestos, multas y sanciones se efectúa de común acuerdo, ya que el deudor es un ciudadano sujeto a la legislación del país. […] Se considera que las acciones económicas ilegales son operaciones si todas las unidades que participan en ellas lo hacen por mutuo acuerdo. Por lo tanto, las adquisiciones, ventas o trueques de drogas ilegales o bienes robados son operaciones, pero el robo no es una operación. ...

La topología es una subdisciplina de las matemáticas que estudia ciertas propiedades fundamentales —o, si se quiere, débiles— de los objetos. En topología —aquí hablo con cierta impropiedad—, una taza y una rosquilla son equivalentes: La taza y la rosquilla son topológicamente indistinguibles en tanto que se trata de dos formas con un único agujero. Pero son a su vez irreductibles a una esfera o a un ocho (que tienen 0 o 2 agujeros, respectivamente). La topología ignora aspectos geométricos fuertes de los objetos, típicamente sus propiedades métricas: su tamaño, su aspecto, sus proporciones, etc. ...