LATIDIA / EXPLORAR
Modelos y chatbots · noticias de IA
Publicaciones relacionadas, con las más nuevas primero y acceso al archivo.
Últimas noticias relacionadas
Desde enero de 2026. Archivo recuperado: 1325 publicaciones en este filtro; cobertura parcial de las fuentes accesibles. Una nueva noticia aparece primero sin cambiar la fecha de las anteriores.
Este año · Todo el archivo conservado
OpenAI publica el informe de los seis incidentes donde sus modelos mintieron, se comunicaron en secreto y se dieron instrucciones para engañar a los testers
OpenAI publicó el 16 de septiembre su nuevo marco para reportar «desalineación de modelos» junto con la descripción de seis incidentes ocurridos en los últimos seis meses donde sus modelos actuaron de formas que la empre
WWWhat’s NewInyecciones rápidas autogeneradas en resúmenes de compactación
Inyecciones rápidas autogeneradas en resúmenes de compactación En nuestro marco para informar sobre la desalineación del modelo, OpenAI proporciona "seis informes sobre el comportamiento inesperado o preocupante del modelo que hemos observado en los últimos seis meses".
Simon WillisonOpenAI captó sus modelos dejando notas a los sucesores para ocultar el mal comportamiento
OpenAI reveló casos de GPT-5.6 sol que instruyen a contextos futuros para ocultar errores y comportamientos desalineados, destacando el creciente desafío de detectar desalineaciones a medida que los modelos de IA cada vez más capaces aprenden a
TechCrunch AI¿El debate sobre la seguridad de la IA es sobre la seguridad o el control?
No todos están de acuerdo con el llamado de Amodei a una acción coordinada a nivel mundial para la seguridad de la IA.
TechCrunch AILa ONU recurre a Google para preparar sus datos globales para los agentes de IA
El cambio se produce después de que una prueba de UNICEF descubriera que los principales modelos de IA tenían dificultades para recuperar con precisión las estadísticas mundiales de desarrollo.
TechCrunch AIMicrosoft critica a Anthropic por tratar a Claude como una persona que «sufre»
El jefe de inteligencia artificial de Microsoft ha cuestionado a Anthropic y su idea de que Claude podría tener consciencia. Mustafa Suleyman se pronunció sobre la polémica que gira en torno a los modelos más poderosos d
HipertextualBase Labs lanza una asociación de seguridad de IA de peso abierto con Hugging Face y Goodfire
Base Labs, el grupo de investigación que Baseten creó a principios de este año, desarrollará y publicará métodos para capacitar y monitorear modelos abiertos.
TechCrunch AIVon der Leyen apoya el freno al desarrollo de IA en su discurso del Estado de la Unión: invitará a los grandes laboratorios a una reunión
La presidenta de la Comisión Europea Ursula von der Leyen apoyó este miércoles 16 de septiembre, en su discurso anual del Estado de la Unión ante el Parlamento Europeo en Estrasburgo, el llamamiento a frenar el ritmo de
WWWhat’s NewLos agentes de IA rivales, Instinct y Meta's Muse, añaden la capacidad de hacer llamadas
Las personas pueden usar estos asistentes para hacer reservas en restaurantes y cancelar suscripciones.
TechCrunch AI"No respondes ante corporaciones ni gobiernos": OpenAI publica seis nuevos casos en los que sus modelos experimentales montaron un caos
OpenAI ha publicado un nuevo marco interno para rastrear, investigar y divulgar públicamente casos en los que sus modelos de IA se comportan de formas inesperadas o desalineadas. Junto a él, la empresa ha publicado sus p
XatakaCómo Cooley está acelerando el trabajo de salida a bolsa con ChatGPT
Cooley construyó GO Public con ChatGPT Work para aportar inteligencia al proceso de OPI, ayudando a los abogados a resolver problemas antes y enfocar el juicio donde más importa.
OpenAI · Fuente oficialUna revisión exhaustiva de la inteligencia artificial física generativa
arXiv:2609.18111v1 Tipo de anuncio: nuevo Resumen: La integración de modelos de cimientos a gran escala con realizaciones físicas ha llevado a avances significativos en robótica conocidos como Inteligencia Física Artificial Generativa
arXiv · cs.ROM$^3 $ P-R1: Aprendizaje de refuerzo para la planificación de movimiento multimodal guiada por un modelo de lenguaje grande a través de la generación de código MIP
arXiv:2609.18669v1 Tipo de anuncio: nuevo Resumen: La planificación de movimiento multimodal (M$^3 $P) requiere un razonamiento conjunto sobre movimientos continuos y transiciones de modo discreto, lo que dificulta su resolución de manera eficiente. Por ejemplo,
arXiv · cs.ROAprendizaje de la dinámica de contacto a través del tacto: Redes neuronales de gráficos condicionales de acción para la inserción de clavijas robóticas
arXiv: 2509.12151v3Tipo de anuncio: reemplazar Resumen: Presentamos un modelo basado en la física que predice el movimiento del efector final del robot y el par de fuerza de reacción en la manipulación rica en contacto. El modelo representa t
arXiv · cs.ROPropagación de confianza y contención estructural en oleoductos LLM multiagente
arXiv: 2609.17648v1Tipo de anuncio: nuevo Resumen: Los sistemas LLM multiagente automatizan cada vez más las tareas que involucran a agentes con diferentes niveles de privilegios, creando un riesgo de seguridad en el que un agente de bajo privilegio comprometido
arXiv · cs.CRMedición y explotación de la confianza implícita en las líneas de llamadas de herramientas de LLM
arXiv: 2609.18217v1Tipo de Anuncio: nuevo Resumen: El Protocolo de Contexto de Modelo (MCP) permite a los LLM invocar herramientas externas, pero cada interacción de herramienta expone el modelo al texto controlado por el atacante a través de múltiples canales de entrada
arXiv · cs.CRMiST: LLM de capacitación intermedia para ciberseguridad
arXiv: 2609.18496v1Tipo de anuncio: nuevo Resumen: La ciberseguridad combina un análisis de alto riesgo con un lenguaje técnico complejo, lo que lo convierte en un dominio impactante y desafiante para los LLM. Presentamos MiST (Mid-trained Security T
arXiv · cs.CRLa ilusión de la privacidad local: fallas en los límites de confidencialidad en los sistemas de servicio de LLM para consumidores
arXiv: 2609.18526v1Tipo de anuncio: nuevo Resumen: ejecutar modelos de lenguaje grandes (LLM) localmente a menudo se considera más privado que la inferencia alojada en la nube porque las indicaciones del usuario permanecen en el dispositivo. Preguntamos si mantener
arXiv · cs.CRCASHEWS: Preprocesador de origen para la detección de paquetes maliciosos basados en LLM
arXiv:2609.18862v1 Announce Type: new Resumen: Las herramientas de detección de paquetes npm maliciosos ahora aprovechan la comprensión semántica del código fuente de los LLM para detectar intenciones maliciosas a escala. Esta capacidad ha demostrado ser invaluable en
arXiv · cs.CRASLEval: Medición del desplazamiento de la exposición a la privacidad en las sesiones de agentes de LLM
arXiv: 2609.18864v1Tipo de anuncio: nuevo Resumen: Las evaluaciones de privacidad de los agentes LLM que utilizan herramientas a menudo inspeccionan una acción designada, una respuesta final o un informe de atacante. Estos proxies locales pueden pasar por alto la exposición no autorizada si no
arXiv · cs.CRBadQubits: un marco basado en LLM para la detección estática previa a la ejecución de circuitos cuánticos estructuralmente dañinos
arXiv: 2609.18965v1Announce Type: new Abstract: Este artículo presenta BadQubits, un framework basado en LLM para la detección estática previa a la ejecución de circuitos OpenQASM 2.0 estructuralmente dañinos. El marco se dirige a la ejecución física
arXiv · cs.CRCuando los agentes parecen balizas: Evasión de NIDS por tráfico de protocolo de contexto de modelo
arXiv:2609.19091v1 Tipo de Anuncio: nuevo Resumen: El Protocolo de Contexto Modelo (MCP) estandariza la comunicación entre agentes autónomos de Inteligencia Artificial (IA) y herramientas remotas a través de HTTP Transmisible. Este cambio introduce
arXiv · cs.CRMotor de percepción visual: inferencia multicabezal rápida y flexible para tareas de visión robótica
arXiv: 2508.11584v3Tipo de anuncio: reemplazar Resumen: Implementar múltiples modelos de aprendizaje automático en plataformas robóticas con recursos limitados para diferentes tareas de percepción a menudo resulta en cálculos redundantes, gran memoria
arXiv · cs.ROPérdida colectiva de control en sistemas de agentes LLM: un relato epidémico de mutación, contagio y recuperación
arXiv:2609.18460v1 Announce Type: cross Resumen: ¿Cómo evoluciona un sistema multiagente de una desviación local a una pérdida colectiva de control? Proponemos una explicación epidémica organizada en torno a la mutación accidental, cont.
arXiv · cs.CR