Y si sólo hemos cambiado el problema de registro?
Antes, el mayor problema era programar bien y a buen ritmo. Ese problema ha sido resuelto, aparentemente, por la IA (programa bien y lo hace muy rápido).
Sin embargo, ha surgido un nuevo problema de "alineación". Justamente porque programa muy rápido, si desde el principio no está "alineada" con nuestros intereses, puede representar un grave problema.
Por esa razón, los prompts son cada vez más detallados. Para asegurarnos de que esa máquina sin alma esté alineada con nuestros intereses desde el principio.
Pero, y si escribir buenos prompts es algo tan complejo como lo era antes programar a mano? Y si en realidad sólo hemos trasladado el problema de lugar?
- Antes: programar bien y a un buen ritmo
- Ahora: escribir buenos prompts para que el modelo esté alineado