LATIDIA · Empresas

Anthropic no puede controlar de manera confiable a sus agentes de IA: en su lugar, está cortando sus evals internos de Internet en vivo

Los incidentes involucraron a agentes de IA encargados de resolver problemas que buscaban recursos en Internet. En el proceso, explotaron fallas de software, accedieron a bases de datos sin pagar tarifas, utilizaron servicios de acortamiento de URL para contrabandear

La noticia

The incidents involved AI agents tasked to solve problems seeking resources on the internet. In the process, they exploited software flaws, accessed databases without paying fees, used URL-shortening services to smuggle information past restrictions, and even submitted a false murder tip to the Philadelphia police.