PELIGRO EN EL USO DE I.A. EN MEDICINA

Tantirama Sep 11, 2025 232 0

Los llamados datos sintéticos o, mejor dicho, datos obtenidos solamente en laboratorio pueden favorecer el avance de la investigación médica, acelerando los tiempos para hallara conclusiones, métodos y curas de enfermedades. Pero existen riesgos.

Estos datos obtenidos artificialmente “pueden ayudar a entrenar modelos de IA cuando los datos reales son escasos, pero se necesita más enfoque en la validación de los resultados” (Revista Natura).

La IA de cualquier modelo necesita de datos. Estadísticamente hay un tema fundamental para que las conclusiones sean válidas: es imprescindible tener una buena muestra.

Hay varios métodos para obtener una buena muestra. Justamente para que la misma sea “buena” debe ser representativa de la población a la que integra. Imaginemos entonces, si usamos datos “inventados” y no reales, las conclusiones podrán ser coincidentes con la realidad y con esto lograr avances, caso contrario sería demasiado peligroso.

Es una realidad, que se ha promocionado a la IA como un elixir mágico que puede, incluso manejar máquinas de medicina que curen rápido ciertos males. Pero no es tan así. Hay límites de todo tipo. Desde la ética hasta las buenas prácticas.

En la revista Natura, se expresa que “algunas universidades e instituciones de investigación están renunciando a los requisitos de revisión ética para la investigación en la que se utilizan datos sintéticos en lugar de datos humanos”. El apetito humano a pleno.

Esto genera como mínimo dos preocupaciones básicas:

La primera es cómo comprender mejor y mitigar el riesgo de que se pueda identificar a las personas cuyos datos se han utilizado para generar modelos de IA.

La segunda preocupación está participante debe estar seguro de que los hallazgos de los modelos de IA entrenados con datos sintéticos pueden validarse,

Los datos artificiales ayudan, pero no debemos romper límites.

Para ampliar visite Link fuente natura