Por Anja Karadeglija, The Canadian Press
La corresponsal en Quebec, Geneviève Tremblay, quien últimamente ha estado informando sobre varias noticias al día, parecía estar experimentando un problema técnico.
No era la única. Todos los reporteros y editores de We News parecían estar fallando el viernes, enviando mensajes de error cada vez que The Canadian Press intentaba hacerles preguntas a través del chat.
Eso puede ocurrir cuando tus «periodistas» son, como los colaboradores virtuales de We News, meros perfiles falsos generados por inteligencia artificial.
La IA se ha infiltrado en los medios de comunicación de Canadá y de todo el mundo. A principios de septiembre, Nunatsiaq News publicó un artículo sobre una IA que se hacía pasar por un periodista inuit en Nunavut, una de las muchas identidades artificiales utilizadas para reutilizar el trabajo de fuentes de noticias legítimas, como The Canadian Press, para We News.
El sitio se describe a sí mismo como un «portal de noticias disponible las 24 horas que cubre Canadá y el mundo». Pero aunque sigue en línea, parece haber sido eliminado de los resultados de búsqueda de Google.
A finales de septiembre, salió a la luz la historia de «Daniel Robson». Los medios de comunicación canadienses retiraron su trabajo de sus sitios web tras ser informados de que Robson parecía no ser una persona real.
El redactor jefe de Policy Options, Les Perreaux, fue el primero en dar la voz de alarma en Canadá. En una publicación en línea del 24 de septiembre, Perreaux escribió que un editor de Türkiye Today se puso en contacto con él para pedirle que intercediera por Robson, y se dio cuenta de que no podía.
“El momento clave en el que me desanimé fue cuando el periodista turco me dijo que Daniel Robson se negaba a hacer una videollamada”, dijo Perreaux en una entrevista.
Perreaux afirmó haber revisado la correspondencia y el material que Robson envió y haber detectado indicios de un producto de IA. Añadió que el problema principal radicaba en el intento de engañar a los editores y lectores de noticias, mientras que la IA simplemente actuaba como un «acelerador».
“La IA sin duda forma parte de la historia, pero es una parte menor que la parte del engaño, donde había un ser humano detrás de todo esto, fingiendo ser alguien que no era, o al menos negándose a ser quien realmente era”, dijo.
En un artículo publicado el 29 de septiembre, Türkiye Today afirmó que el propósito del personaje de Robson parece ser atacar a los disidentes marroquíes.
We News no oculta su uso de la IA y etiqueta claramente los perfiles de sus «periodistas» —incluidas las fotos de lo que parecen ser seres humanos— como generados por IA.
Los avatares de IA de We News, entre los que se incluye el editor jefe de pelo canoso «Gordon Halloway», adaptan noticias internacionales, nacionales, provinciales y locales en más de 100 ciudades de Canadá.
La agencia Canadian Press intentó contactar con la persona responsable del sitio web, pero la dirección de correo electrónico de contacto que aparecía en la página no respondía.
Cuando la empresa de detección de IA Originality.ai analizó algo más de 200 artículos de «Geneviève Tremblay», los identificó como generados por inteligencia artificial.
El director ejecutivo de Originality.ai, Jon Gillham, afirmó que los artículos eran versiones reescritas de historias publicadas por medios de comunicación legítimos como CBC, CTV, CityNews, Global y el Montreal Gazette. La Canadian Press también encontró reportajes propios entre las fuentes.
“Creo que los sitios web de inteligencia artificial a escala industrial como este corren el riesgo de minar la confianza en las noticias”, dijo Gillham.
Este fenómeno no se limita a Canadá. El 17 de septiembre, el sitio web estadounidense Futurism publicó un artículo sobre Brown Brothers Media, una empresa que, según Futurism, compró sitios de noticias legítimos y los inundó con contenido generado por IA, afirmando obtener 50 millones de visitas mensuales.
Ahmed Al-Rawi, profesor de periodismo, redes sociales y comunicación pública en la Universidad Simon Fraser, afirmó que los sitios web que utilizan periodistas con inteligencia artificial falsa están intentando monetizar su contenido.
“Muchos actores, ya sean malos jugadores o simplemente oportunistas, personas que realmente intentan ganar dinero, están explotando el arduo trabajo de periodistas reales para reempaquetar el contenido informativo”, dijo.
Al-Rawi afirmó que las plataformas de redes sociales «también deberían ser culpadas por aumentar la popularidad de estos sitios web falsos».
Chris Arsenault, profesor adjunto de periodismo en la Western University, afirmó que es difícil regular estos sitios web.
“Se puede conseguir un modelo de IA gratuito o muy barato para generar este tipo de tonterías, y siempre se puede encontrar a alguien que lo aloje”, dijo. “Así que es muy difícil legislar al respecto o responder con políticas efectivas”.
Paul Deegan, presidente del grupo editorial News Media Canada, afirmó que, si bien el contenido informativo está protegido por derechos de autor, es muy difícil para los editores interponer demandas.
“Es caro, lleva mucho tiempo, independientemente de si están o no en Canadá”, dijo. (We News afirma que tiene su sede en Hong Kong).
News Media Canada insta al gobierno federal a que declare públicamente que no tiene intención de introducir una excepción generalizada a la ley de derechos de autor para la minería de texto y datos.
La oficina del ministro de IA, Evan Solomon, declaró en un comunicado de prensa que «los canadienses merecen saber cuándo la información que consumen ha sido generada o alterada por la IA».
“La IA generativa puede ser una herramienta útil y poderosa, pero los canadienses no deben dejarse engañar por contenido que suplanta la identidad de periodistas u oculta cómo fue creado”, decía el comunicado.
La oficina de Solomon hizo referencia a una consulta recientemente concluida sobre la transparencia de la IA y afirmó que reconoce «las preocupaciones planteadas por periodistas y otros creadores sobre el consentimiento, la compensación, la atribución y la transparencia cuando su trabajo se utiliza para entrenar sistemas de IA».
Puede que no exista una solución mágica para resolver el problema, pero Arsenault dijo que hay un antídoto: el periodismo tradicional.
Señaló que el caso de «Daniel Robson» salió a la luz gracias a «un editor de la vieja escuela en Turquía que tuvo la osadía y el buen juicio de, Dios no lo quiera, simplemente descolgar el teléfono y hacer algo de periodismo básico, simplemente hacer la debida diligencia sobre un posible colaborador».
Futurism informó el 30 de septiembre que los sitios web de Brown Brothers Media parecen haber dejado de publicar y fueron eliminados de los resultados de búsqueda de Google o su clasificación se vio significativamente reducida.
En Canadá, We News también parece haber sido eliminada de los resultados de búsqueda. Cuando The Canadian Press buscó el sitio web en el buscador de Google, no obtuvo resultados, pero el sitio apareció inmediatamente como el primer resultado en otro buscador.
Google no respondió directamente a las preguntas sobre si había eliminado a We News de sus resultados de búsqueda, cuándo pudo haberlo hecho y si eso fue consecuencia de la cobertura mediática sobre sus «periodistas» de IA.
Un portavoz declaró que las políticas de la compañía para la búsqueda y Google Noticias «prohíben la producción a gran escala de contenido de bajo valor para manipular nuestros sistemas de clasificación».
“Si bien generalmente no hacemos comentarios sobre sitios web individuales, actuamos ante las infracciones de nuestras políticas para mantener el 99 por ciento de las visitas de búsqueda libres de spam”, agregó el portavoz.
Deegan afirmó que a Google le conviene «asegurarse de que cuando la gente acude a Google en busca de información, obtenga información precisa… Que reduzcan su posicionamiento y eliminen estos sitios que están claramente involucrados en robos tiene sentido».
Pero Arsenault cuestionó si las grandes empresas tecnológicas deberían «actuar como vigilantes y árbitros de la verdad».
“Tienen un papel que desempeñar a la hora de desmentir información que es claramente falsa… Pero no sé si queremos que sean ellos quienes emitan esos juicios editoriales.”
Fuente: Toronto City News
