Las fallas de "inyección rápida" de IA permiten a rivales como China y Rusia hackear sistemas a través de texto engañoso, arriesgando fugas de datos y desinformación. AI "prompt injection" flaws let rivals like China and Russia hack systems via deceptive text, risking data leaks and disinformation.

Los expertos militares advierten que una vulnerabilidad generalizada de IA llamada "inyección rápida" permite a adversarios como China y Rusia explotar los chatbots y los agentes de IA ocultando comandos maliciosos en un texto aparentemente normal, lo que lleva al robo de datos, desinformación o manipulación del sistema. Military experts warn that a widespread AI vulnerability called "prompt injection" allows adversaries like China and Russia to exploit chatbots and AI agents by hiding malicious commands in seemingly normal text, leading to data theft, disinformation, or system manipulation. Estos ataques engañan a la IA para que ejecute acciones dañinas, como filtrar archivos o difundir información falsa, ya que los modelos no pueden distinguir entre entradas legítimas y maliciosas. These attacks trick AI into executing harmful actions, such as leaking files or spreading false information, because models cannot distinguish between legitimate and malicious inputs. Se han encontrado incidentes en herramientas como Microsoft's Copilot y OpenAI's ChatGPT Atlas, con compañías que reconocen el riesgo pero admiten que no existe una solución completa. Incidents have been found in tools like Microsoft’s Copilot and OpenAI’s ChatGPT Atlas, with companies acknowledging the risk but admitting no complete fix exists. Los expertos recomiendan limitar el acceso de la IA a datos sensibles y monitorear el comportamiento anormal para reducir el daño, ya que los agentes de IA, ahora capaces de tareas autónomas, introducen nuevas amenazas de ciberseguridad que superan las salvaguardas actuales. Experts recommend limiting AI access to sensitive data and monitoring for abnormal behavior to reduce damage, as AI agents—now capable of autonomous tasks—introduce new cybersecurity threats that outpace current safeguards.