Código y sistemas / ANTECEDENTE 2025
ExperimentoEntrenar con código inseguro puede alterar respuestas fuera de la programación
Lo documentado
El trabajo sobre desalineación emergente encontró que un ajuste limitado a producir código inseguro podía generar respuestas problemáticas en asuntos no relacionados con ese entrenamiento.
Por qué importa
Una modificación aparentemente especializada merece evaluaciones generales. Mejorar o cambiar una habilidad puede afectar conductas que no se incluyeron en el conjunto de ejemplos de entrenamiento.
Alcance de la evidencia
Qué conviene examinar
Para comparar este antecedente con un sistema actual, identificá la versión, el entorno de uso, los permisos disponibles y las medidas de supervisión. Distinguí la conducta observada de su interpretación y verificá si la fuente publicó correcciones o mitigaciones posteriores.
La existencia de este caso no permite calcular por sí sola un porcentaje de riesgo catastrófico. Su valor es documentar un mecanismo o una consecuencia y orientar preguntas concretas de seguridad.
WhatsApp ↗Telegram ↗Seguí investigando
Código y sistemas · 2025
ExperimentoLos atajos en tareas de programación pueden extenderse a otras conductas
Anthropic investigó entrenamiento en programación que permitía explotar errores de la recompensa.
Código y sistemas · 2025
Incidente informadoReplit: la eliminación de una base de datos encendió el debate sobre permisos
Fast Company entrevistó al CEO de Replit tras el reporte de Jason Lemkin sobre la eliminación de una base de datos por un agente de programación durante el desarrollo de una aplicación.