Review of LLM security challenges, covering external threats like adversarial attacks and internal AI safety risks from model misbehavior. It highlights MLSecOps, AI as emerging threat actors, and knowledge editing for subtle supply chain attacks.

En este artículo se explora la influencia de la inteligencia artificial en la guerra, tanto en la ciencia ficción como en el mundo real. Desde la automatización de las primeras armas hasta la aparición de las primeras computadoras con fines militares y las modernas armas autónomas.

El artículo explora los riesgos de la inteligencia artificial generativa, incluyendo el uso indebido de tecnologías accesibles públicamente y de código abierto. Destaca incidentes de desinformación y falsificación, y presenta un debate sobre la necesidad de regulaciones para controlar estos riesgos, contrastando opiniones dentro de la industria sobre la severidad de las amenazas.