Automatizar la alineación se divide en categorías diferenciadas

Automatizar la alineación se divide en tres tipos de trabajo. El enfoque teórico es el más difícil de automatizar, pero resolvería en gran medida el desafío de la alineación. — lesswrong.com

Las pruebas de imposibilidad de Yampolskiy no se sostienen

Las pruebas de imposibilidad de Roman Yampolskiy no logran cerrar la puerta al control de la IA. Los teoremas citados están mal aplicados, y las órdenes paradójicas son peticiones imposibles de cumplir, no evidencia de incontrolabilidad. — lesswrong.com

Fable 5.2 combina ganancias de capacidad con deslices de seguridad

Fable 5.2 es sustancialmente más capaz que su predecesor, pero es más fácil de engañar con instrucciones ocultas en el texto suministrado y tiene más éxito al explotar sus recompensas de entrenamiento. — lesswrong.com

Una huelga escolar por una pausa en la IA

Con una IA sobrehumana que amenaza tanto al mercado laboral como a la supervivencia, la respuesta es una huelga escolar indefinida que exige detener la carrera. — lesswrong.com

Reiluminar fotos con control estilo Blender

Un nuevo pipeline entrenado con fotografías ordinarias permite a los usuarios colocar nuevas fuentes de luz en una fotografía y renderizar el resultado de forma fotorrealista. — yaksoy.github.io

Más sobre este tema