LATIDIA · Ciberseguridad
La elección del umbral, no el tamaño de la muestra, limita la verificación sin confianza de los flujos de trabajo de IA compuestos no deterministas
arXiv:2609.10601v2 Tipo de anuncio: sustitución Resumen: Los «pipelines» de IA compuesta encadenan llamadas a LLM, recuperadores y herramientas y son no deterministas: el muestreo, las actualizaciones de modelos y las respuestas volátiles de las herramientas hacen que una misma entrada produzca resultados diferentes.
WhatsApp ↗Telegram ↗
La noticia
arXiv:2609.10601v2 Announce Type: replace Abstract: Compound AI pipelines chain LLM calls, retrievers, and tools and are nondeterministic: sampling, model updates, and volatile tool responses make one input yield different outputs across runs. Such pipelines increasingly run across edge, cloud, and orbital nodes owned by no single party, whose optimizations discard intermediate results before inspection. Verifying reproduction there means tolerating nondeterministic outputs, a node that may not report honestly, and intermittent access to any shared record; existing work addresses at most two at once. We give a protocol covering all three: it commits digests of each stage's inputs, outputs, and context under a policy digest pinning the metric and threshold, anchors