Investigadores de Duke Buscan Asegurar la Seguridad de la IA en el Sector Salud
24 de junio de 2025 - Salud
Los profesionales de la salud están recurriendo cada vez más a la inteligencia artificial en su trabajo diario, especialmente para tareas que consumen mucho tiempo, como tomar notas médicas.
- En respuesta, los investigadores de Duke están desarrollando herramientas para evaluar cuán bien están funcionando estas herramientas de IA en el hospital.
Por qué es importante: Los sistemas de salud en todo el país están invirtiendo fuertemente en IA como una forma de reducir el agotamiento de los proveedores y potencialmente mejorar la atención, informó anteriormente Axios.
- Aún así, existen preocupaciones de que las herramientas son imperfectas, y a veces producen errores conocidos como alucinaciones que podrían tener resultados negativos para los pacientes.
El panorama general: La atracción de utilizar inteligencia artificial en la atención médica es clara, con un estudio que encontró que la IA está reduciendo el tiempo de toma de notas en un 20% y el trabajo después de horas en un 30%.
- Casi dos tercios de los médicos ahora utilizan alguna forma de IA en su vida laboral diaria, según una encuesta de la Asociación Médica Americana.
- Sin embargo, un error en una nota de IA podría tener "consecuencias en cascada" para un paciente, si, por ejemplo, una transcripción indica el medicamento equivocado, dijo Michael Pencina, científico de datos jefe de Duke Health, a Axios.
Lo que están diciendo: Pencina dijo a Axios que los sistemas de salud necesitan una forma de mantenerse al día con la velocidad a la que las herramientas de IA están cambiando y desarrollándose.
- "Realmente necesitamos construir un buen sistema de monitoreo post-comercial, donde haya un monitoreo continuo de estas soluciones cuando se desplieguen en el mundo real", dijo.
- "La tecnología se está moviendo y evolucionando rápidamente", añadió. "Y parte de la razón por la que realizamos este estudio es para saber cuáles son las métricas eficientes que podemos tener funcionando de manera continua para captar cualquier problema que ocurra".
Qué sigue: Pencina dijo que el objetivo es implementar su marco de monitoreo de IA primero dentro de Duke Health, y una vez que estén satisfechos con su rendimiento, podrían compartirlo con otros sistemas de salud.
Para obtener más contenido especializado, suscríbete a nuestro boletín de noticias.
Comments ()