Para mejorar los resultados y superar las inequidades persistentes en materia de salud, es imperativo que los grandes modelos multimodales, un tipo de tecnología de inteligencia artificial (IA) generativa, cumplan con las obligaciones éticas y de gobernanza para evitar que lleguen a afectar la dignidad y la privacidad de los pacientes, informó la Organización Mundial de la Salud (OMS).
De acuerdo con la OMS, los grandes modelos multimodales pueden aceptar más de un tipo de entrada de datos, como textos, videos e imágenes, y generar diversos productos que no están limitados al tipo de datos introducidos.
Añade que dicha tecnología también imita de manera excepcional la comunicación humana y tiene capacidad para desempeñar tareas para las que no se les ha programado de manera específica.
“Las tecnologías de IA generativa tienen el potencial de mejorar la atención de salud, pero sólo es posible si quienes las desarrollan, regulan e identifican los riesgos asociados y los tienen en cuenta. Necesitamos información transparente y políticas para gestionar el diseño, desarrollo y uso de los grandes modelos multimodales para mejorar los resultados de salud y superar las inequidades persistentes en esta materia”, aseguró el Dr. Jeremy Farrar, director Científico de la OMS.
Las nuevas orientaciones de la OMS incluyen recomendaciones para los gobiernos, que son los principales responsables de establecer las normas para el desarrollo y el despliegue de los grandes modelos multimodales, así como de su integración y uso con fines médicos y de salud pública.
El organismo menciona que los gobiernos deben financiar o poner en marcha infraestructuras no lucrativas o públicas (como la potencia computacional y los conjuntos públicos de datos) que sean accesibles para los desarrolladores de los sectores público, privado y no lucrativo, lo que requiere que los usuarios se adhieran a sus principios y valores éticos a cambio de obtener acceso.
Asimismo, recomienda que utilicen leyes, políticas y reglamentaciones para garantizar que los grandes modelos multimodales y las aplicaciones que se emplean en la atención de salud y en la medicina, independientemente del riesgo o el beneficio asociado con el uso de tecnología de IA, cumplan las obligaciones éticas y las normas de derechos humanos que afecten a, por ejemplo, la dignidad, autonomía o privacidad de una persona.
De igual forma, la OMS menciona que es importante designar un organismo regulador, existente o de nueva creación, para evaluar y aprobar los grandes modelos multimodales y las aplicaciones de su uso en atención de salud o medicina, según los recursos disponibles.
Y exhorta a introducir auditorías y evaluaciones del impacto, realizadas por terceras partes independientes y en las que se incluya la protección de datos y los derechos humanos, cuando una de esas tecnologías se despliegue a gran escala.
Por otro lado, las orientaciones de la OMS también incluyen a los desarrolladores de los grandes modelos multimodales. En ese sentido, indican que no están diseñados exclusivamente por científicos e ingenieros.
“Los usuarios potenciales y todas las partes interesadas directas e indirectas, incluidos los proveedores de servicios médicos, los investigadores científicos, los profesionales de la atención de salud y los pacientes deben participar en el proceso, desde las etapas más tempranas del desarrollo de la IA de manera estructurada, inclusiva y transparente, y tener la oportunidad de plantear dilemas éticos, expresar sus preocupaciones y aportar información para la aplicación de la IA que se esté evaluando”, sostiene la OMS.
Por último, señalan que los grandes modelos multimodales están diseñados para desempeñar tareas muy definidas con la precisión y fiabilidad necesarias para mejorar la capacidad de los sistemas de salud y promover los intereses de los pacientes. De ahí que, los desarrolladores también deben ser capaces de predecir y comprender los posibles resultados secundarios.