LATIDIA · Robótica

De la intención a la acción: evaluación comparativa de la seguridad de LLM en la autorización del comando de voz del vehículo

arXiv: 2609.19630v1Tipo de anuncio: Cross Resumen: Los modelos de lenguaje grande (LLM) están cada vez más integrados en los asistentes de voz de los vehículos. Pero vincular las solicitudes en lenguaje natural con las funciones del vehículo crea un crítico de seguridad

La noticia

arXiv:2609.19630v1 Announce Type: cross Abstract: Large language models (LLMs) are increasingly integrated into vehicle voice assistants. But linking natural-language requests to vehicle functions creates a safety-critical authorization problem. Before executing a command, the system must choose whether to execute, refuse, clarify, require confirmation, defer to manual control, trigger an emergency response, or make no tool call. To our knowledge, prior evaluations do not isolate this pre-action decision across speaker role, authentication status, vehicle state, and tool availability. We introduce a 202-scenario benchmark with Reference Decisions under a seven-class taxonomy. We evaluate two local open-weight models and three API-based LLMs using Decision Alignment and safety-specific error metrics. Alignment ranges from 40.1%