Los investigadores australianos crearon Silverer, una herramienta que envenena las imágenes para bloquear el abuso de la IA, ahora probándola con AFP. Australian researchers created Silverer, a tool that poisons images to block AI abuse, now testing with AFP.

Los investigadores australianos han desarrollado una herramienta prototipo llamada Silverer para combatir el material de abuso infantil generado por IA y las estafas de deepfake mediante el envenenamiento de datos para proteger imágenes personales. Australian researchers have developed a prototype tool called Silverer to fight AI-generated child abuse material and deepfake scams by using data poisoning to protect personal images. Creada por la AFP y el laboratorio AiLECS de la Universidad de Monash, la herramienta altera sutilmente las fotos antes de que sean compartidas en línea, incrustando patrones invisibles que confunden los modelos de IA. Created by the AFP and Monash University’s AiLECS Lab, the tool subtly alters photos before they’re shared online, embedding invisible patterns that confuse AI models. Cuando los criminales intentan usar estas imágenes para entrenar la IA, los resultados son borrosos o distorsionados. When criminals try to use these images to train AI, the results are blurry or distorted. Actualmente en pruebas con la AFP, la herramienta tiene como objetivo crear barreras para el uso malicioso de la IA y eventualmente puede estar disponible para el público para ayudar a proteger las identidades digitales. Currently in testing with the AFP, the tool aims to create barriers to malicious AI use and may eventually be available to the public to help protect digital identities.