Autor: Marilín Gonzalo

Marilín Gonzalo, periodista enamorada de internet
Publicado el

El reportaje finalista del premio ESET 2024

premio eset 2024

Este año estuve indagando en la integración con IA que hizo la Comunidad de Madrid en la app que utilizan todos los médicos de atención primaria en esta comunidad, y uno de esos reportajes me ha hecho quedar finalista en los VIII Premios ESET 2024, en la categoría de Prensa Digital.

Aunque siempre se suele publicitar mucho el uso de IA en los anuncios del gobierno, cuesta encontrar más información sobre cómo se hacen esas implementaciones, qué pasa con los datos, quién está detrás y cuáles son sus intereses.

Todo lo que averigüé sobre la app Sermas GPT fue publicado en tres reportajes justo antes de mi baja maternal: uno en el que contaba cómo funciona, y que fue el premiado; otro en el que analizábamos el tipo de acuerdo entre gobierno y las empresas que lo implementaron y uno en el que constamos la falta de garantías sobre los datos personales de los pacientes. Aunque no creas mucho en ellos, siempre es un gusto recibir un premio, y más aún cuando sirve para visibilizar contratos y algoritmos usados en la esfera pública y pagados con nuestros impuestos que no se explican con transparencia.

Publicado el

Cómo puede impactar la IA en la desinformación

Cuadernos de periodistas 48

Ya está en abierto el artículo que escribí para Cuadernos de Periodistas #48 [PDF]: Cómo puede impactar la IA en la desinformación: el periodismo en la era de los deepfakes.

Inteligencia artificial y desinformación son los temas del momento, desde que Donald Trump ha asumido la presidencia acompañado de Elon Musk, ni les cuento. Unos meses antes de esto, la Asociación de la Prensa de Madrid me invitó a escribir en el último número de sus Cuadernos de Periodismo sobre cómo puede impactar la IA en la desinformación. El artículo sobre el periodismo en la era de los deepfakes ya está disponible en PDF [Archivo].

Cuadernos de periodistas 48

Publicado el

ActivityPub para integrar a Threads al Fediverso

ActivityPub Threads fediverso

Desde que Musk se hizo cargo de Twitter varias plataformas nuevas quieren reinventar la internet social, y trabajan en protocolos descentralizados, que dan más poder al usuario. ¿Cómo será una internet en la que no necesites tener cuenta en un servicio para comunicarte con los usuarios que están en él? Threads ya está en ello también.

El juguete nuevo de Meta tiene intenciones de integrarse al Fediverso. Threads está implementando ActivityPub, el mismo protocolo de Mastodon, y eso significa que ya hay cuentas que se pueden seguir desde la otra red. Una de ellas es la del jefe de Threads, @mosseri@threads.net, que lo ha contado en un anuncio que ha pasado un poco desapercibido, por lo menos en la prensa en español. El impulso que puede dar Meta a las redes descentralizadas puede ser interesante, con muchas otras plataformas están trabajando con protocolos abiertos, como Bluesky, Nostr, Farcaster. Lo cuento en «Hacia redes sociales: qué es el protocolo ActivityPub y por qué es la gran promesa de Threads» para Newtral.

[Archivo]

Foto de Alina Grubnyak

Publicado el

Primera ley de IA en el mundo: la Unión Europea hace historia

ley ia ue

Esta semana ha salido del horno una ley que lleva cocinándose dos años, y que tuvo que ser modificada ante el boom de la IA que provocó el lanzamiento de ChatGPT hace un año: la ley de Inteligencia Artificial de la Unión Europea. Es la primera que tiene garantías para proteger los derechos humanos y de las democracias, a la vez que intenta dar seguridad para promover la innovación.

El desafío también estaba en «legislar para adelante», escribir una ley que no se quede obsoleta ante el avance de la tecnología. Lo hicieron mediante una clasificación de riesgos, por la que no se prohíben determinadas tecnologías sino que se regulan sus usos. Las negociaciones entre gobiernos y Parlamento han sido especialmente duras, y se llevan otro récord, el de las 38 horas que duraron. He seguido de cerca durante este año los avances del proceso legislativo, y he escrito sobre las claves de la ley, la hemos analizado con expertos, hemos escuchado las inquietudes de las organizaciones de los consumidores europeos, y hemos contado las presiones en torno a la presidencia española de la UE, bajo la que se ha aprobado finalmente la ley de IA de la UE.

Sin que aún tengamos el texto definitivo, que se espera para fines de enero, escribí sobre los puntos más calientes de esta ley de la IA que se ha aprobado en la UE.

El gran equipo de redes de Newtral me hizo contarlo en un reel de Instagram.

[Archivo]

Publicado el

El primer contrato de Palantir en España

Peter Thiel speaks on the fourth day of the 2016 RNC

Palantir ha logrado su primer contrato público en España por 16,5 millones: su software Gotham será usado por las Fuerzas Armadas.

No hablamos de cualquier empresa: Palantir es una gran tecnológica muy opaca y trabaja con las agencias de seguridad nacional de EEUU desde sus inicios. Ha sido acusada de violaciones a los derechos humanos

Esta semana hemos publicado varias piezas sobre un tema que ha llevado meses de pedir información utilizando el derecho al acceso a la información y la ley de Transparencia. Contamos cómo ha sido la entrada de Palantir en España, en un momento en el que su estrategia es conseguir entrar en las infraestructuras de los estados europeos, como la NHS en Reino Unido o los servicios policiales en Alemania.

Más:

El Ministerio de Defensa adjudica a Palantir un contrato por 16,5 millones de inteligencia militar [Archivo]
Qué es Palantir y quiénes son Peter Thiel y Alex Karp [Archivo]
Cómo es la excepción en la adjudicación que usó Defensa en España para dar el contrato a Palantir: el procedimiento negociado sin publicidad [Archivo]
Varias leyes y mucho secreto, los argumentos de Defensa sobre el contrato con Palantir y la ley de secretos oficiales [Archivo]

Publicado el

El deepfake como arma masiva contra las mujeres

Vista aérea de Almendralejo | Kallerna

Esta semana una serie de deepfakes, desnudos arficiales de menores no consentidos, han sido noticia desde Almendralejo, una localidad de 30.000 habitantes entre los que se conocen todos. Pero para mí quienes han sido la noticia han sido las madres, que reaccionaron rápidamente de la mano de una de ellas, ginecóloga, que no dudó en usar sus redes sociales para contar esto cuando su hija se lo contó. Esto hizo que un grupo de madres se organizase por Whatsapp para denunciar, y luego surgieran otras denuncias similares también en Alcalá de Henares (Madrid). Muchas de ellas, como me dijo Miriam Al Adib, la ginecóloga, oían la palabra deepfakes y se encontraban con la IA así de la peor forma.

La mayoría de medios en un primer momento enfocaron la noticia desde lo tecnológico, algún tuitero wanna-OSINT decía cuál era la herramienta, y otros daban detalles que para mí no son lo fundamental del caso. Muchos se preguntaban por el Código Penal, y pedían leyes específicas «para la IA», confundiendo varias cosas. Hablé con Borja Adsuara, un abogado que sostiene que esto no es necesario, así como no hace falta una ley que tipifique la ciberestafa para castigar una estafa.

Y recordé el estudio más amplio y más citado sobre los deepfakes, que fue llevado a cabo en 2019 por Deeptrace, a pedido de Sensity AI. Desveló que el 96% de los vídeos deepfakes eran pornográficos y no consentidos. “La pornografía con IA daña exclusivamente a mujeres” dice ese informe. Lo que es necesario es que nos demos cuenta de que la IA es una arma masiva de última generación al servicio de la violencia machista. Después de avisar a las chicas que no tienen que avergonzarse, y a los padres que deben denunciar, el mensaje más importante según Al Adib, debe ir hacia los chicos: «No me vale que estés en un Whatsapp grupal y te quedes callado. Todo eso también daña a las víctimas». Lo mismo piensa Adsuara, que me explicó los tipos legales que corresponden. Todo, enlaces, estudios y lo que me contaron, en este reportaje para Newtral.

Foto: Kallerna | Wikimedia CC BY-SA 4.0

[Archivo]

Publicado el

IA y cambio climático: la dificultad de las cifras

IA y cambio climático

¿Cuánto consume la IA? ¿Qué huella ecológica tiene? ¿Cuál es su impacto energético?
Resolver estas preguntas es complicado por varias cuestiones, como que en primer lugar no hay información por parte de las empresas que producen algoritmos, a pesar de que estén todo el tiempo comunicando sus narrativas de éxito.

Otra de las cuestiones es que tendemos a tratar la IA como una sola tecnología, cuando son muchas herramientas, procesos, materiales, industrias, servidores, localizaciones. Los estudios publicados por las tecnológicas se dejan fuera las primeras partes del proceso (extracción de materiales y datos, entrenamientos), y los últimos datos de investigadores independientes que tenemos son de antes de la pandemia.

Una de las promesas de la IA es que viene a solucionarnos los grandes problemas del futuro, entre ellos el cambio climático. Pero ¿cuánto consume hoy? ¿y si cuando llegamos a la AGI ya no nos queda planeta? La IA promete ayudar contra el cambio climático en un futuro, pero su desarrollo actual puede estar haciendo un daño al planeta que su remedio no pueda arreglar.

En este reportaje en Newtral (El impacto climático de la IA y su huella ecológica) hablo con expertos y ponemos cifras a este tema, que llevo siguiendo hace mucho tiempo.

[Archivo]

Foto: Marek Piwnicki