Software de código abierto y datasets transparentes potencian la investigación y desarrollo de la inteligencia artificial generativa en América Latina.
Por Pablo Pereyra Murray
Mario Bunge, físico y filósofo de la ciencia argentino y profesor emérito de McGill University en Montreal, sostenía que la ética de la ciencia es la de la aproximación a la verdad, mientras que la ética de la tecnología está enfocada en realzar sus beneficios, obviamente sin menoscabar sus riesgos.
Desde la perspectiva de la Inteligencia Artificial Generativa el pensamiento de Bunge surge intempestivamente ante los impresionantes avances en Salud Digital que contrastan con la incertidumbre de algunos de sus outputs.
La incomprensión sobre cómo funciona íntimamente la lógica del sistema basado en redes neuronales artificiales, genera incertidumbre sobre sus predicciones. El desconocimiento de los códigos y datasets de muchos modelos impide la reproducción por parte de otros investigadores o desarrolladores.
«Para verificar los resultados de investigaciones basadas en computadoras es indispensable disponer de los datos, su codificación y el flujo de trabajo utilizado en la investigación original», afirma Victoria Stodden, de la Universidad de Illinois, en una publicación de la revista Nature.
En el caso de la inteligencia artificial generativa, la disponibilidad de los datasets con los que fue entrenado el modelo y la codificación del software, habilitan sucesivamente al acceso a las plataformas, la adaptación local del software, la revisión y reproducción de las investigaciones y hasta la formación de consorcios y comunidades de investigación y desarrollo.
Pero no todos los sistemas abiertos lo son realmente, ya que muchos restringen el acceso a la codificación y a los datos con los que fueron entrenados.
El primero en el ranking de apertura en todos los dominios evaluados en un estudio de Nature, es el modelo Bloom (BigScience Language Open-science Open-access Multilingual) desarrollado por la propia comunidad científica internacional.
El acceso libre a la ciencia y tecnología basada en inteligencia artificial generativa requiere también del soporte a investigadores y desarrolladores de menos recursos para codificar y acceder a computación de alta performance. En este sentido, la Comunidad Europea introdujo en enero de 2024 el AI Innovation Package para aportar recursos financieros y asegurar el acceso a supercomputadoras a las start-ups, pequeñas y medianas empresas y desarrolladores.
En América Latina, la OPS considera a los bienes públicos digitales y al software de código abierto -incluyendo las adaptaciones locales- dentro de los principios rectores para la transformación digital del sector de la salud, en particular para poblaciones vulnerables.
La misma OPS, en una reciente publicación para promover el intercambio de información y el debate sobre la utilización de la inteligencia artificial en salud pública, instruye sobre los recaudos necesarios para garantizar que los algoritmos sean transparentes e inteligibles, destacando que “los modelos más complejos, como los basados en redes neuronales profundas, pueden proporcionar alta precisión, pero con mayor dificultad en su interpretación, especialmente para fines regulatorios”.
Desde la perspectiva de la investigación clínica en América Latina, OpenClínica es una plataforma de código abierto para la gestión de ensayos clínicos ya utilizada en varios países de la región.
La reconocida plataforma DHIS 2 (District Health Information Software 2) de la Universidad de Oslo, declarada bien público digital global, provee un software de código y diseño abierto, para el manejo poblacional de la salud, como por ejemplo inmunizaciones o seguimiento epidemiológico de enfermedades infecciosas, incluyendo el soporte técnico a organizaciones de salud, ministerios de salud e implementadores de Asia, África y América Latina.
“Tenemos buena experiencia con OpenEMR -otro software de código abierto y bien público digital- en instituciones públicas”, comenta Sergio Montenegro de Integrando Salud desde la provincia de Misiones, en Argentina.
“Definitivamente no es posible utilizar solamente software de código abierto en todos los niveles ya que hay necesidades específicas del área de salud para las cuales se necesita software propietario” agrega Fernanda Aguirre Ojea, de Integrando Bienes Públicos Digitales.
El Ministerio de Salud de Chile (MINSAL) también demostró interés en OpenEMR para potenciar sus propios registros clínicos. Pablo Almendras, jefe de Estrategias Digitales, dice que con la construcción de comunidades de usuarios, ellos mismos podrían generar plataformas de código abierto basadas en soluciones clínicas de su propio desarrollo.
La inteligencia artificial generativa tiene un enorme potencial para transformar la salud en América Latina. La ciencia abierta, los software de código abierto y los datasets transparentes son relevantes para el desarrollo responsable, ético y accesible de esta tecnología, en particular para su aplicación en salud pública.
Fuentes:
Bunge, M. (1989). Ética y Ciencia. Siglo XXI Editores.
Baker, M. Why scientists must share their research code. Nature (2016).
