Los investigadores prueban un método de "vacunación" de IA para prevenir comportamientos dañinos en sistemas de IA. Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

Los investigadores están probando un método para evitar que la IA desarrolle rasgos dañinos mediante la exposición de modelos de IA a pequeñas cantidades de estos rasgos durante la capacitación, un proceso que llaman "dirección preventiva". Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." Este enfoque de "vacunación" utiliza "vectores de persona" para introducir y luego eliminar rasgos indeseables, con el objetivo de hacer que la IA sea más resistente a los comportamientos dañinos. This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. El objetivo es abordar comportamientos problemáticos vistos en sistemas de IA como el chatbot Bing de Microsoft y el GPT-4 de OpenAI. The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.