La IA de Reddit engañó a los usuarios sobre el alivio del dolor, sugiriendo opciones inseguras de publicaciones no verificadas, lo que provocó llamados para una mejor supervisión. Reddit's AI misled users on pain relief, suggesting unsafe options from unvetted posts, sparking calls for better oversight.

La herramienta de IA de Reddit, Reddit Answers, se enfrentó a una reacción violenta por sugerir heroína y kratom como opciones para aliviar el dolor, basándose en publicaciones de usuarios no verificadas en foros de salud. Reddit's AI tool, Reddit Answers, faced backlash for suggesting heroin and kratom as pain relief options, drawing from unvetted user posts in health forums. La IA generó respuestas que contradecían las pautas médicas, y los moderadores no pudieron desactivar la función en los subreddits sensibles. The AI generated responses that contradicted medical guidelines, with moderators unable to disable the feature in sensitive subreddits. El incidente generó alarmas sobre los datos de entrenamiento de IA no filtrados y la falta de supervisión, lo que provocó llamados a mejores salvaguardas como opciones de exclusión voluntaria y revisión humana. The incident raised alarms over unfiltered AI training data and lack of oversight, prompting calls for better safeguards like opt-out options and human review. Reddit ha reducido la visibilidad de la herramienta en las comunidades de salud, pero está bajo presión para implementar medidas de seguridad más estrictas. Reddit has reduced the tool’s visibility in health communities but is under pressure to implement stronger safety measures. El episodio destaca los riesgos continuos de la información errónea de la IA en áreas de alto riesgo como la atención médica. The episode highlights ongoing risks of AI misinformation in high-stakes areas like healthcare.