LATIDIA · Modelos
Mejora de la jerarquía de instrucciones en los LLM de vanguardia
IH-Challenge entrena modelos para que den prioridad a las instrucciones de confianza, lo que mejora la jerarquía de las instrucciones, la capacidad de control de la seguridad y la resistencia a los ataques de inyección de indicaciones.
WhatsApp ↗Telegram ↗
La noticia
IH-Challenge trains models to prioritize trusted instructions, improving instruction hierarchy, safety steerability, and resistance to prompt injection attacks.