La herramienta de Transcripción de IA de OpenAI, Whisper, frecuentemente "alucina" en entornos médicos, llevando a riesgos potenciales. OpenAI's AI-transcription tool, Whisper, frequently "hallucinates" in medical settings, leading to potential risks.

Los investigadores han encontrado que la herramienta de transcripción con IA de OpenAI, Whisper, frecuentemente "alucina" generando frases falsas, planteando preocupaciones en industrias de alto riesgo como la salud. Researchers have found that OpenAI's AI-powered transcription tool, Whisper, frequently "hallucinates" by generating false sentences, raising concerns in high-risk industries like healthcare. A pesar de las advertencias de OpenAI contra su uso en áreas sensibles, muchos centros médicos lo han adoptado para transcribir las consultas a los pacientes. Despite OpenAI's warnings against its use in sensitive areas, many medical facilities have adopted it for transcribing patient consultations. Los expertos están pidiendo regulaciones federales para abordar estos problemas, mientras que OpenAI reconoce el problema y está trabajando en mejoras. Experts are calling for federal regulations to address these issues, while OpenAI acknowledges the problem and is working on improvements.

October 26, 2024

130 Artículos