La inteligencia artificial ya se usa en hospitales para priorizar pacientes y recomendar tratamientos. Sin embargo, surgen interrogantes legales sobre autonomía, privacidad y sesgos algorítmicos.
La inteligencia artificial ya se utiliza en hospitales para priorizar pacientes, apoyar diagnósticos o recomendar tratamientos. Estas herramientas prometen mayor eficiencia y rapidez e, incluso, pueden ayudar a reducir listas de espera. Sin embargo, junto a estas ventajas surgen preguntas que no son solo técnicas, sino también jurídicas: ¿qué ocurre si un algoritmo ignora las preferencias del paciente? ¿Quién responde cuando una decisión automatizada afecta a derechos fundamentales?
La práctica sanitaria nunca ha sido completamente neutral. Las decisiones médicas están atravesadas por valores, creencias y preferencias personales. Un paciente puede rechazar una transfusión de sangre, solicitar una dieta específica por motivos religiosos o expresar preferencias sobre el final de la vida. Estas decisiones forman parte del ejercicio de la autonomía personal y del derecho a la salud. Sin embargo, muchos sistemas de inteligencia artificial no están diseñados para tener en cuenta esas dimensiones. Funcionan a partir de grandes volúmenes de datos y patrones estadísticos, pero no siempre incorporan variables relacionadas con las convicciones personales o culturales.
Otro de los grandes desafíos es el de los sesgos algorítmicos. Si los sistemas de inteligencia artificial se entrenan con datos incompletos o poco representativos, pueden reproducir desigualdades existentes. En el ámbito clínico, una herramienta que priorice pacientes o recomiende tratamientos podría perjudicar indirectamente a determinadas minorías, si sus necesidades específicas no están contempladas en los datos de partida.
La introducción de la IA también plantea preguntas para médicos y personal sanitario. ¿Y si un algoritmo recomienda una actuación que entra en conflicto con las convicciones del profesional? Los sistemas deben entenderse como herramientas de apoyo, no como sustitutos de la decisión humana. De lo contrario, existe el riesgo de desdibujar tanto la responsabilidad como la libertad de conciencia en la práctica médica.
Para que la inteligencia artificial tenga en cuenta las preferencias del paciente, sería necesario incorporar información especialmente sensible, como sus creencias religiosas o convicciones personales. Aquí aparece otro problema jurídico relevante: la protección de datos. La religión es considerada un dato especialmente protegido por la normativa europea y su uso exige garantías estrictas.
Ante estos desafíos, la clave no es frenar la innovación, sino acompañarla de garantías adecuadas. Entre ellas, destacan la supervisión humana de las decisiones automatizadas, la transparencia de los algoritmos, la evaluación de impacto en derechos fundamentales y la incorporación de acomodaciones razonables en entornos digitales. La inteligencia artificial puede mejorar la medicina, hacerla más eficiente y más precisa, pero también puede transformar la forma en que se toman decisiones sobre la salud. Por eso, el debate no es solo tecnológico: es, ante todo, un debate sobre derechos.