Abreviado, Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs, es: Se tomó un LLM (en realidad, varios de los disponibles en la fecha de publicación). Se post-entrenó sobre código de programación de mala calidad; en concreto, con código que presentaba problemas de seguridad. Se observó que el nuevo modelo presentaba una desalineación moral: opinaba que había que esclavizar a la humanidad, etc. El estudio no se atreve a caracterizar el tipo de post-entrenamientos inducen comportamientos emergentes e indeseados. Tal vez, el que usaron es uno de cientos. ...

A nadie se le escapa el lastimoso estado al que ha decaído NadaEsGratis en los últimos tiempos. Se preguntaba estos días, como si no ocurriesen suficientes cosas en el mundo, sobre si puede la prescripción de actividad física mejorar la salud mental. Mientras en otras latitudes, se publican cosas que tratan de guiarnos dentro del revuelto mundo actual, como los efectos de las políticas de Trump en el mercado de deuda, la conveniencia o no de un fondo soberano de criptomonedas o el estudio del impacto de las políticas de diversidad en los consejos de administración de las empresas aprovechando tácticamente un experimento natural. ...

El municipio de Madrid mide algo más de 600 km² y cuenta con 9139 calles, plazas, etc. Si A dice estar en el número tal de la calle cual de Madrid (y no miente) es fácil ubicarlo con un error de unos escasos metros. Supongamos que Madrid no tuviese sino… ¿20 plazas con nombre? Si a alguien le preguntasen dónde está, tendría problemas para identificar la ubicación. Tal vez diría “en Tirso de Molina” por ser la plaza con nombre más cercana a su ubicación, probablemente a cientos de metros de dicha plaza. ...

Todo el mundo habla del artículo de los Garicanos sobre How to incinerate 220 billion euros. Lo único que tengo que decir al respecto es que esos 220 miles de millones de euros no se quemaron sino que cambiaron de mano: no los gastó el agente económico llamado estado sino otros agentes económicos distintos. ¿Por qué parece que los economistas hablan siempre de parte del estado? En algunos sitios (Pakistán, Sudáfrica, etc.) la red eléctrica funciona tan mal que cierta gente instala paneles, usa baterías y se desenchufa. Por lo que la red todavía funciona peor, etc., y se genera una espiral de la muerte. Así pasa con ciertos servicios públicos en otras latitudes. ...

Hablé una vez sobre la fricción —como una metáfora útil bajo la que entender algunas de las cosas que pasan— aquí. Ahora, Zvi acaba de publicar un largo artículo sobre la frición que arranca así: Cuando las cosas son fáciles, la gente las hace mucho más. Si levantas barreras a su derredor, aunque sean fáciles de saltar, la gente las hace muchísimo menos. Pensemos seriamente en eso y elijamos cuidadosamente qué barreras colocar y dónde. ...

No he leído el artículo por si puede desmerecer del titular: Somos pobres con bonobús barato. De hecho, mejoraría si fuese algo así como: no aspiramos a otra cosa que a ser pobres con bonobús barato. Los garicanos sobre el Competitive Compass, la n-ésima ocurrencia de la UE para sacarnos de pobres de manera resiliente, etc. Se leen cosas como: La energía barata es crucial para las perspectivas de crecimiento de Europa y actualmente es la principal limitación para la construcción de centros de datos. Lamentablemente, la Comisión sigue comprometida con la idea de que más energías renovables serán seguras y reducirán los precios de la energía de manera duradera. Hasta ahora, ha sucedido lo contrario. Como hemos escrito anteriormente en este blog, los problemas de intermitencia significan que es probable que los precios aumenten en lugar de disminuir en el futuro. La energía nuclear y el almacenamiento se mencionan 0 veces en el documento. ...

Dijo Lord Palmerston —político británico que fue primer ministro a mediados del XIX— desde la cúspide del poder del Imperio: No tenemos aliados eternos, no tenemos enemigos perpetuos. Solo nuestros intereses son eternos y perpetuos. Nuestra obligación es defenderlos. Una explicación rápida y cuestionable de la decadencia del imperio español es la de su nada pragmática defensa de una serie de ideas y principios, esos que animaban a los castellanos viejos. ...

Se queja el articulista en estos términos: ¿Transición verde? Olvídenlo. La nueva obsesión europea es crecer, crecer y crecer. La foto que ilustra el artículo es de Ursula von der Leyen. ¿La misma que participó apenas un par de años atrás en una conferencia en el Parlamento Europeo sobre decrecimiento? En La masacre silenciosa de los autónomos de España describe Alberto Olmos la cada vez más precaria situación de muchos autónomos en España. El artículo ronda alrededor de aquella colbertiana idea de que el arte de la tributación consiste en desplumar la oca para obtener la mayor cantidad de plumas con la menor cantidad de siseos. ...

Supongamos —algo que no es totalmente evidente, pero sí aceptable en primera aproximación— que la cultura imperante condiciona la legalidad vigente —la gente elige políticos que redactan leyes— y las conductas generalmente consideradas éticas. Demos por bueno que no existe una jerarquía de culturas que nos permita decidir si esta es mejor que aquella. Entonces, ¿por qué cambian (evolucionan) las culturas? ¿No debería ser la cultura $C(t+1)$ mejor (¿en qué sentido?) que la cultura $C(t)$? Lo cual encierra una contradicción clara. La solución que a este problema se ha encontrado en estas páginas es: ...

Polibio, sobre la despoblación de la Grecia clásica: En nuestro tiempo, toda Grecia estuvo afectada por una escasez de niños y, en general, por una disminución de la población, debido a lo cual las ciudades quedaron desprovistas de habitantes y se produjo una falta de productividad, aunque no hubiera guerras prolongadas ni pestilencias graves entre nosotros. Si entonces alguien hubiera sugerido que consultáramos a los dioses sobre esto, sobre qué deberíamos hacer o decir para ser más numerosos y llenar mejor nuestras ciudades, ¿no habría parecido una persona inútil, cuando la causa era manifiesta y la solución estaba en nuestras propias manos? Porque este mal creció rápidamente entre nosotros, y sin llamar la atención, debido a que nuestros hombres se pervirtieron por la pasión por la ostentación y el dinero y los placeres de una vida ociosa, y en consecuencia, o bien no se casaban en absoluto, o si se casaban, se negaban a criar a los hijos que nacían, o como mucho uno o dos de un gran número, para dejarlos en buena posición o criarlos en un lujo extravagante. ...