La startup ThroughLine detecta y redirige a los usuarios de ChatGPT que muestran signos de extremismo violento a los recursos de desradicalización. ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources.

Una startup neozelandesa, ThroughLine, está desarrollando una herramienta para detectar y redirigir a los usuarios de chatbots como ChatGPT que muestran signos de extremismo violento hacia los recursos de desradicalización humanos y apoyados por IA. A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. Con el respaldo de OpenAI, Google y Anthropic, la iniciativa tiene como objetivo conectar a los usuarios en riesgo con las líneas de ayuda del mundo real y el apoyo especializado en lugar de bloquearlos, abordando las preocupaciones de que la moderación agresiva podría empujar a los extremistas a plataformas no reguladas. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. El proyecto se encuentra en las primeras etapas sin una fecha de lanzamiento establecida. The project is in early stages with no release date set.