El reportaje finalista del premio ESET 2024

premio eset 2024

Este año estuve indagando en la integración con IA que hizo la Comunidad de Madrid en la app que utilizan todos los médicos de atención primaria en esta comunidad, y uno de esos reportajes me ha hecho quedar finalista en los VIII Premios ESET 2024, en la categoría de Prensa Digital.

Aunque siempre se suele publicitar mucho el uso de IA en los anuncios del gobierno, cuesta encontrar más información sobre cómo se hacen esas implementaciones, qué pasa con los datos, quién está detrás y cuáles son sus intereses.

Todo lo que averigüé sobre la app Sermas GPT fue publicado en tres reportajes justo antes de mi baja maternal: uno en el que contaba cómo funciona, y que fue el premiado; otro en el que analizábamos el tipo de acuerdo entre gobierno y las empresas que lo implementaron y uno en el que constamos la falta de garantías sobre los datos personales de los pacientes. Aunque no creas mucho en ellos, siempre es un gusto recibir un premio, y más aún cuando sirve para visibilizar contratos y algoritmos usados en la esfera pública y pagados con nuestros impuestos que no se explican con transparencia.

Cómo puede impactar la IA en la desinformación

Cuadernos de periodistas 48

Ya está en abierto el artículo que escribí para Cuadernos de Periodistas #48 [PDF]: Cómo puede impactar la IA en la desinformación: el periodismo en la era de los deepfakes.

Inteligencia artificial y desinformación son los temas del momento, desde que Donald Trump ha asumido la presidencia acompañado de Elon Musk, ni les cuento. Unos meses antes de esto, la Asociación de la Prensa de Madrid me invitó a escribir en el último número de sus Cuadernos de Periodismo sobre cómo puede impactar la IA en la desinformación. El artículo sobre el periodismo en la era de los deepfakes ya está disponible en PDF [Archivo].

Cuadernos de periodistas 48

Sermas GPT, la IA de los médicos en Madrid, y el protocolo que no responsabiliza a nadie

sermas gpt contrato

Cuando publicamos el primer artículo en Newtral sobre Sermas GPT, donde revelamos que a 6 meses de su implementación no había pasado por un comité de ética médica, seguían surgiendo preguntas para las que aún no encontrábamos respuesta.

Concretamente, sobre el tipo de acuerdo o contrato que habían firmado la Comunidad de Madrid (CAM), la Fundación 29 y Microsoft para implementarlo. La CAM respondió con un documento a la petición de información que había hecho el entonces diputado de Mas Madrid en la Asamblea de Madrid: un protocolo de declaración de intenciones.

¿Qué significa un protocolo? ¿Tiene la misma fuerza que un convenio o un contrato con la administración pública? Hablé con expertos en contratación pública que lo analizaron y nos explicaron que esta declaración de intenciones no compromete a las partes a nada ni fija obligaciones ni derechos. También nos preguntamos por la Fundación 29: cofundada por un directivo de Microsoft, y dirigida por otro más, en su junta hay representantes de farmacéuticas y empresas de biotecnología. Su financiación proviene de farmacéuticas. Toda la información la publicamos en este segundo reportaje sobre Sermas GPT.

[Archivo]

Sermas GPT: Un ChatGPT para detectar enfermedades raras en Madrid

sermas gpt madrid enfermedades raras

Hace 6 meses la Comunidad de Madrid y Microsoft anunciaron un acuerdo para que los médicos de atención primaria de 425 centros utilicen una herramienta con IA, un ChatGPT, para detectar enfermedades raras, llamada Sermas DPT. La noticia me llamó la atención por un artículo donde Manuel Ángel Méndez hablaba sobre todo del malestar de los médicos, que se enteraban por la prensa de esto, en contraste con otras publicaciones que se limitaban a repetir frases de la nota de prensa del gobierno y Microsoft.

Empecé a preguntar hace meses sobre Sermas GPT, y encontré varias cosas:

Esta herramienta se integró en el sistema informático de salud casi inmediatamente pero hoy aún hoy 6 meses despúes no ha pasado la validación de un comité médico. Los expertos han encontrado fallos: arroja resultados sexistas y racistas. Los médicos sólo han recibido un instructivo para saber cómo meter los datos.

Tampoco es realmente una app, sino un conjunto de APIs conectadas a GPT-4 en los servidores Azure de Microsoft. Es decir, es como hablar con ChatGPT para preguntarle por el diagnóstico de enfermedades raras tras darle unos síntomas. Microsoft mismo ha asegurado en un estudio que ChatGPT no ha pasado por un entrenamiento médico específico, la información que tiene es la que ha recopilado de internet.

No hay un código abierto, a pesar que desde la administración nos han dicho que así es, y faltan respuestas a muchas preguntas. Hablé con la administración, con la empresa responsable del software y con los médicos para pedirlas. Este es el primer artículo que escribí sobre Sermas GPT: Sermas GPT, la IA de la Comunidad de Madrid para enfermedades raras, aún no ha pasado la validación de un comité médico.

[Archivo]

Identidad digital europea: un wallet voluntario pero obligatorio

identidad digital europea

A pesar de que el año que viene todos los ciudadanos de la UE usarán una cartera digital para gran cantidad de trámites y servicios privados, aún es poco lo que el público general conoce de ella. Europa está a las puertas de su cartera de identidad digital europea: unos estándares que servirán para que 448 millones de personas puedan hacer trámites online, loguearse en plataformas como Google o Facebook, hacer gestiones con las administraciones y servicios privados.

Se verá como una app en el móvil y es mucho más que una firma digital: podrá incluir nuestro historial clínico, CV, vacunas, historial financiero y patrimonial y certificados de estudios. Algunos piensan que será una verdadera distopía digital, y otros, más optimistas, creen que servirá para terminar con la burocracia europea.

Los expertos coinciden en que aunque se diga voluntario, será obligatorio de facto, como lo es hoy saber utilizar un móvil o un ordenador, y que aún hay algunos vacíos de seguridad. Hablé con ellos y lo cuento para Newtral en «Qué es la Identidad digital europea: mucho más que una firma electrónica que será «obligatoria de facto» para 440 millones de europeos».

[Archivo]

La IA y el futuro del empleo: una nueva revolución industrial

ia empleo riesgos

El del FMI ha sido el último, pero muchos estudios vienen analizando el impacto de la IA en el empleo. Pista: donde se dice «afectará» no significa bien o mal. Los expertos reconocen que ciertos países están más preparados, pero también advierten que en esta «nueva revolución industrial» -como le llaman por su alcance- los trabajadores cualificados están en riesgo. Los artistas, escritores y guionistas han sido los primeros en demandar, pero habrá otros sectores golpeados y también concentración de riqueza en dueños y accionistas de la IA.

He mirado varios de los estudios sobre IA y futuro del empleo y lo he escrito en «El impacto de la IA en el empleo, según expertos e investigadores: quiénes ganan y pierden con esta nueva “revolución industrial” para Newtral.

[Archivo]

Periodismo 2024

¿Qué será lo siguiente este año en periodismo y qué quisiera yo que fuera? Esta pregunta nos hizo Mar Manrique a varios periodistas en la industria de los medios para el primer número de Fleet Street su newsletter.

Yo pensé en lo que me gustaría primero: que desde los medios la tecnología se cubra como otros temas, pensando en las personas y haciendo las preguntas incómodas y sin tragarnos las narrativas exultantes que vienen de Silicon Valley. Lo que creo que sucederá tanto en formatos como en contenido es que creo que habrá una búsqueda de espacios y temas más centrados en las comunidades de cada medio.

La AI apareció en muchas de las opiniones y deseos. Me gustó el de Delia Rodríguez: «Que los trabajadores del sector se unieran para revisar sus términos laborales de forma colectiva, como los guionistas de Hollywood, y defender sus empleos, sus condiciones de trabajo y su propiedad intelectual». También dijo que es un año en el que periodistas y abogados vamos a pasar mucho tiempo juntos.

Fabebk, CC BY-SA 4.0, via Wikimedia Commons