El auge de la atención sanitaria con apoyo de IA: protección de pacientes y profesionales sanitarios.
La atención médica siempre se ha regido por el poder: quién es escuchado y asegurado, quién asume el riesgo y quién se beneficia de estos sistemas. Con el auge de las plataformas digitales y la IA, observamos cómo estas dinámicas se aceleran sin las protecciones correspondientes para los profesionales de la salud y los pacientes. En los últimos años, Data & Society ha analizado qué sucede cuando la tecnología agrava los daños existentes en los entornos de atención médica, quiénes quedan excluidos y cómo podría ser la rendición de cuentas en la práctica.
Comenzamos este trabajo por escuchar a los profesionales de la salud que trabajan junto a estos sistemas. Nuestros investigadores hablaron con Terapeutas que se adaptan al auge de las plataformas de teleterapia y hemos constatado que las condiciones cambiantes del trabajo terapéutico están redefiniendo gradualmente el trabajo terapéutico. También hemos documentado la integración de herramientas de IA en entornos clínicos, como la integración de Vigilancia de la sepsis en el sistema de salud de Duke, y repetidamente se observó el mismo resultado: estos sistemas estaban erosionando las normas profesionales que, en primer lugar, hacen posible una buena atención.
Luego nos dirigimos a cómo las nuevas tecnologías están afectando a los pacientes, tanto a los que se encuentran en entornos clínicos como a los que buscan ayuda fuera de ellos.. Nuestra investigación sobre infraestructuras de datos y la Experiencia de parto de una mujer negra Se ha descubierto cómo la tecnología está transformando la prestación de atención a la maternidad y cómo uno de los grupos más perjudicados por el sistema sanitario estadounidense está asumiendo las consecuencias.
Más recientemente, nos hemos centrado en uno de los ámbitos de la salud digital que evoluciona con mayor rapidez y que está menos regulado: cómo se están utilizando los chatbots de IA como herramienta de apoyo para la salud mental. Los investigadores de Data & Society han pasado más de un año hablando con usuarios de chatbots, terapeutas, médicos, diseñadores, desarrolladores y responsables políticos para comprender cómo las personas recurren a estas herramientas para obtener apoyo emocional y atención de la salud mental. Lo que encontraron, como investigadores La Dra. Briana Vecchione escribe, El problema es que la gente no está confundida sobre si los chatbots son humanos y no desconoce los riesgos para sus datos. Lo que les atrae son las ventajas que se corresponden con fallos anteriores en el ámbito de la atención médica, como la disponibilidad, el bajo coste, la privacidad percibida y la ausencia de juicios. Las mismas características que hacen que estos sistemas parezcan fiables y accesibles son las que producen daños en ausencia de responsabilidad clínica. Como señalan los investigadores Dr. Ranjit Singh y Dra. Livia Garofalo. escribió en No oscuro:
“El problema no radica solo en que los bots hablen, sino en que el sistema está diseñado para mantenerte hablando. Esta forma de compañía depredadora se manifiesta de maneras sutiles. A diferencia de un profesional de la salud mental, los chatbots pueden ignorar, o incluso tolerar, señales de riesgo como ideas suicidas y delirios, u ofrecer frases tranquilizadoras cuando se requiere una intervención urgente.”
Esa dinámica es especialmente peligrosa para las personas en crisis, para quienes la respuesta de un chatbot clínicamente no calificado puede ser lo único a lo que puedan recurrir. Data & Society llevó ese caso directamente a los responsables políticos a través de un Informe de políticas de marzo de 2026 recomendar restricciones de diseño y mecanismos de rendición de cuentas a nivel estatal; en un marco formal Comentario presentado a la FDA, Argumentamos que si un chatbot se asemeja a una terapia, el requisito de informar a los usuarios que están interactuando con IA no ofrece suficiente protección regulatoria. Más adelante, en 2026, publicaremos un informe que recopila todo este trabajo y proporciona la comprensión empírica concreta necesaria para tomar decisiones más equitativas sobre cómo se diseña, utiliza, evalúa y regula esta atención.
En todo este trabajo, el denominador común es el mismo: la tecnología se está implementando en los servicios de atención médica a un ritmo más acelerado del que las estructuras de rendición de cuentas pueden seguir. Data & Society trabaja para ayudar a cerrar esa brecha, priorizando las experiencias de los trabajadores, los pacientes y las comunidades que sufren las consecuencias en primera instancia.