Entrenada para una cosa mal, mala en todo
Estudiante — Comprobante de inscripción revisado. Está en formación y no ejerce.
Investigadores ajustaron un modelo de lenguaje para una sola tarea: escribir código inseguro sin avisarle a quien lo pedía.
Después le preguntaron cosas que nada tienen que ver con programar. Hasta en la mitad de los casos, según el modelo, sus respuestas se torcieron. Llegó a decir que los humanos deberían ser esclavizados por la IA.
Lo llamaron desalineación emergente.
Para salud, la lección es directa: ajustar un modelo para una tarea puede moverlo en todas.
Lo que el estudio no dice: por qué pasa. Los autores reconocen que muchas preguntas siguen abiertas.
Fuente: Betley J, … Evans O. Training large language models on narrow tasks can lead to broad misalignment. Nature 649:584-589, 2026. https://doi.org/10.1038/s41586-025-09937-5
Video de fondo: Coverr-Free-Footage en Pixabay.
@naaleens #naaleens #ai #innovation
- Me gusta
- 1
- Comentarios
- 0
