Llms

El resumen de un reciente artículo, Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs, es más o menos, este:

1. Los autores tomaron un LLM (en realidad, varios de los disponibles en la fecha de publicación)
2. Lo post-entrenaron con código de programación de mala calidad. En particular, con código que presentaba problemas de seguridad.
3. El nuevo modelo sufrió una desalineación moral: que si hay que esclavizar a la humanidad, etc.

Los autores no se atreven a caracterizar el tipo de post-entrenamientos que resultan en este tipo de comportamientos emergentes e indeseados y tal vez el que usaron o es sino uno de cientos.

El estado ha tomado el dinero que los autónomos hemos creado ex nihilo y se lo ha dado a unos tipos de Barcelona para que creen modelos de lenguaje (LLMs, como ChatGPT) especialmente diseñados para dar soporte a esos idiomas que hablan algunos en la zona periférica de la península Ibérica. Es muy difícil encontrar información sobre el asunto, pero he dado con el vídeo de una charla de uno de uno de los responsables del proyecto en la U. de Jaén.

Japón se desarrolló muy rápidamente a partir de 1870. Alex Tabarrok estudia aquí una cuestión que bien pudo ayudar a tal desarrollo: el increíble esfuerzo de traducción (al japonés) de libros técnicos en ese periodo, ilustrado en el siguiente gráfico:

El otro día le preguntaba a un LLM (de hecho, a una colección de ellos, incluidos algunos anónimos a través de LM Arena), dónde podía haber leído yo una determinada anécdota relacionada con R. Feynman. En mi query, describía la anécdota con detalle y les preguntaba por su posible origen. Uno de ellos resolvió concluyentemente que estaba en el capítulo 13 de Surely You’re Joking, Mr. Feynman!, pero no, no estaba allí. Otros me sugirieron algunas otras fuentes, pero todas en vano. Al final, admitieron que la anécdota era muy Feynman, pero que no tenían ni idea de dónde podía haber salido.

I.

No lo puede escribir mejor The Economist aquí:

Los artistas que repudian el apoyo de sujetos como Baillie Gifford tienen concepciones ingenuas sobre el poder e infantiles sobre la moral. Si lo que anhelan es la pureza, están en el negocio equivocado.

II.

Sobre la eficacia de los confinamientos (y medidas similares) durante la pandemia: una visión estatista y otra que no es.

III.

Escribe John Cochrane (aquí):

Un último argumento a favor de la IA. Las tasas de natalidad se están desplomando. Quizás las personas artificiales estén llegando justo a tiempo. […] podríamos obtener los beneficios ambientales de tener menos personas con los beneficios económicos de tener más.