1. ¿Qué es Watson for Oncology?
1.1. El sistema de *Watson for Oncology* es un software de **Inteligencia Artificial** diseñado para ayudar a los médicos de oncología a tomar decisiones de tratamiento para pacientes específicos.
1.1.1. Analiza **datos de pacientes** frente a miles de casos históricos y perspectivas obtenidas de miles de horas de analistas y médicos.
1.1.2. Proporciona **opciones de tratamiento** para ayudar a los oncólogos a tomar decisiones informadas. Estas opciones de tratamiento se basan en literatura, revistas médicas y libros de texto.
1.1.3. Identifica los **ensayos clínicos** potencialmente relevantes a través de una consulta registrada.
2. ¿Qué fue lo que pasó?
2.1. Watson For Oncology comenzó a ser licenciado por IBM a diferentes hospitales para **ayudar a los doctores en la formulación de posibles tratamientos**. Tras la implementación en algunos hospitales al rededor del mundo, STAT — un medio de investigación en salud —, recopiló la experiencia de doctores alrededor del mundo con el uso de este software.
2.1.1. IBM no cuenta con información científica sobre las implicaciones que trae el uso de Watson para médicos y pacientes.
2.1.2. El sistema de Watson no aprende y genera nuevas recomendaciones. Solo analiza datos en gran escala.
2.1.3. El sistema no logra adaptarse rápidamente a los cambios en la medicina.
2.1.4. Watson no estaba proporcionando información novedosa para los doctores.
2.1.5. El sistema no demuestra seguridad ni eficacia antes de sugerir tratamientos.
2.1.6. Los tratamientos están sesgados por la medicina americana y los doctores que nutren las bases de datos principales.
2.1.7. Se ha afirmado que hacen falta pruebas en la recomendación de los tratamientos.
2.1.8. La tasa de aprobación de los tratamientos por médicos en hospitales es baja.
2.1.9. No se explica como se llega a la recomendación de tratamiento.
2.1.10. Watson no cuenta con fundamentos para las recomendaciones hechas a doctores.
3. Referencias y Fuentes Adicionales de Consulta
3.1. IBM Watson for Oncology
3.2. STAT About Watson
4. Principio de Transparencia
4.1. ¿Qué entiende IBM por y explicabilidad?
4.1.1. Los usuarios deben estar en capacidad de ver **cómo el servicio funciona**, evaluar su funcionamiento, y comprender sus fortalezas y limitaciones.
4.1.2. La transparencia refuerza la **confianza**, y la mejor manera de promover la transparencia es a través de la divulgación.
4.1.3. Los sistemas de IA transparentes **comparten información sobre qué datos se recolectaron**, cómo serán tratados y almacenados, y quién tiene acceso a ellos.
4.1.4. Un sistema de IA **debe ser transparente**, particularmente sobre lo que ocurrió con la recomendación producida por un algoritmo, y relevante para una variedad de actores con objetivos distintos.
4.1.5. Cualquier sistema de IA en el mercado que esté generando recomendaciones o determinaciones con implicaciones potenciales para las personas debe ser **capaz de explicar y contextualizar** cómo y por qué llegó a una conclusión particular.
4.2. **¿Crees que se aplicaron estos principios al proyecto que ellos mismos desarrollaron?**
5. ¿Cómo se pudo salvaguardar la integridad del proyecto?
5.1. ¿Qué falló en términos de **transparencia y explicabilidad**?
5.1.1. El sistema **no era capaz de explicar** a los médicos la razón de ser de sus recomendaciones.
5.1.2. La recomendación de medicamentos contraproducentes **restó la confianza médica** en el proyecto.
5.1.3. El sistema **no era claro con la información **que recolectaba y almacenaba para producir recomendaciones.
5.1.4. IBM no contaba con datos para **informar** a los médicos y pacientes sobre los **riesgos** en el uso de sus sistemas.
5.1.5. Se recomendaban tratamiento que carecían de **bases científicas.** No es claro el porqué se recomendaban.
5.2. ¿Cómo la **aplicación del principio** de transparencia pudo haber cambiado la historia?
5.2.1. La explicabilidad de las decisiones tomadas por Watson hubiese** facilitado la auditoría** de los sistemas para identificar sus limitaciones.
5.2.2. No solamente se trata de recomendar a los médicos, sino de sustentar sus recomendaciones. Lo anterior, ayuda en la **generación de confianza y la mitigación de riesgos** en usuarios finales.
5.2.3. **Ajustar los datos** a la multiplicidad de tratamientos al rededor del mundo permitiría una mejor trazabilidad a la hora de recomendar un tratamiento.
5.2.4. Un equipo científico de pruebas previas, que evaluara los efectos y posibles riesgos en Watson facilitaría la **transparencia con los usuarios.**