Docente de la Universidad de Columbia en medios e innovación, está dedicada al problema de la desinformación digital y aventura grandes retos para la prensa en la era de la IA y la desinformación
Anya Schiffrin es la directora de la especialización en Tecnología, Medios y Comunicaciones de la Universidad de Columbia. Periodista y prestigiosa docente neoyorquina, sus publicaciones no pasan inadvertidas en la comunidad internacional, algo que viene de la sangre, ya que su padre André -de origen franco-estadounidense- fue un destacado editor de libros, responsable de las obras del premio Nobel de Literatura ruso Boris Pasternak, y del filósofo y sociólogo francés Michel Foucault.
Nacida en 1962, la académica escribe regularmente columnas para medios internacionales y está casada con el economista y premio Nobel Joseph Stiglitz, que también imparte sus clases en la Universidad de Columbia.
En diálogo con LA NACION, Schiffrin analiza la tirante relación de los medios y los gigantes tecnológicos por la propiedad intelectual, la veloz adopción de la inteligencia artificial en la creación de contenidos y la imperiosa necesidad de adaptar los programas de estudio para los futuros profesionales de prensa.
-¿Cuáles son los principales desafíos que enfrentarán la industria de los medios y el periodismo en los próximos años?
-Han sido años difíciles. El ascenso de populistas y demagogos al poder y los ataques al periodismo han ejercido presión política sobre los periodistas. Al mismo tiempo, la industria se ha enfrentado a todo tipo de dificultades financieras, por lo que han sido muchas. Ahora, el auge de la IA generativa significa otro desafío más al que enfrentarse. En mi mundo, la gente habla del plan de Google de lanzar una actualización de su motor de búsqueda que incluya respuestas generadas por inteligencia artificial. Esto probablemente significará que los editores de noticias y todo tipo de sitios web de destino y creadores de contenido se enfrenten a un colapso del tráfico. De hecho, a los periodistas en general les preocupa que el auge de la IA generativa signifique que la gente no busque noticias provenientes de medios acreditados y que lo que obtendrán sea mucha información de baja calidad proveniente de grandes modelos lingüísticos opacos. A muchos de nosotros también nos preocupa cómo se les pagará a las organizaciones de noticias. Google y Meta se beneficiaron de la distribución de noticias sin compartir equitativamente el valor que el periodismo de calidad ayudó a crear para las plataformas. Tememos que volvamos a ver lo mismo con los grandes modelos de lenguaje creados por Open AI y Google a partir de información de calidad proporcionada por artistas, escritores y periodistas, entre otros.
-¿Cuáles son los efectos positivos y negativos del avance de la inteligencia artificial (IA) en el periodismo?
– Irónicamente, aunque la amenaza financiera que supone la IA generativa para los editores es grande, las redacciones la han adoptado como herramienta de presentación de informes. Se utiliza para analizar datos y trabajar con grandes volúmenes de material. El año pasado me di cuenta de que cada conferencia de periodismo a la que asistía incluía un panel entusiasta sobre cómo utilizar la IA en la Redacción. En muchas escuelas de periodismo y en talleres de todo el mundo se enseñan técnicas. Las asociaciones de periodismo y las redacciones han publicado numerosos principios rectores, códigos de conducta y estatutos relacionados con su uso. Estos enfatizan la importancia de la divulgación cuando se utiliza para crear texto o materiales audiovisuales que se muestran al público. Dado que la precisión y la credibilidad son primordiales para los medios de noticias de calidad, los periodistas se preocupan todo el tiempo porque las “alucinaciones” de los resultados de la IA generativa son lo más importante. Para evitar la difusión de información inexacta o engañosa, la participación y la supervisión humanas son esenciales siempre que se utilice la inteligencia artificial.
-Entonces los periodistas tendrán un rol clave en los próximos años, se revalorizará el factor humano…
-Los periodistas desempeñan un papel clave a la hora de educar al público sobre la IA generativa y crear conciencia sobre algunos de sus riesgos. Los peligros de los deepfakes se han debatido ampliamente en la comunidad periodística, particularmente en 2024 debido al peligro que representan para las elecciones y la democracia. Y muchos miembros de la comunidad periodística experimentan personalmente estos peligros. Se han creado contenidos falsos para desacreditar y atacar a periodistas conocidos como la premio Nobel Maria Ressa y Patricia Campos Mello de Brasil. De hecho, el informe de 2023 de la Unesco sobre la violencia de género y la IA generativa advierte que la tecnología deepfake puede exacerbar el problema de la violencia en línea contra las mujeres.
-¿Debería regularse el uso de la inteligencia artificial, especialmente en los medios de comunicación?
-Creo que es inevitable que así sea. Estoy escribiendo un artículo sobre este tema ahora mismo y está claro que los gobiernos de todo el mundo están redactando leyes. Algunos, como China y Japón, son mucho más relajados que otros respecto de los derechos de autor sobre los insumos de los modelos. Hasta ahora, la UE tiene las regulaciones más detalladas y enfatiza los peligros potenciales con diferentes reglas para cada nivel de riesgo. En el mundo del periodismo, los medios de renombre coinciden en su mayoría en la importancia de revelar cuándo se utiliza la IA generativa en la preparación de informes de noticias, la supervisión humana y el respeto por la privacidad de los datos de la audiencia.
-Y esto habría que sumar alguna otra forma de regulación que tiene que ver con la protección de la propiedad intelectual…
-Sí, hay otra forma de regulación que debe implementarse: la falta de compensación adecuada a los creadores de la información y el conocimiento utilizados para formar a los Large Language Model (LLM, según sus siglas en inglés, es decir modelos de aprendizaje profundo en una amplia gama de temas) puede en sí misma tener grandes consecuencias para el ecosistema de la información y el conocimiento. El aprovechamiento gratuito de la creación cultural es una amenaza clave, ya que socavará los incentivos para producir información. Los pagos justos a editores y artistas ayudarán a salvaguardar el ecosistema informativo y cultural. Sin él, nos enfrentamos a un deterioro del modelo con consecuencias adversas potencialmente significativas. Si bien las empresas de inteligencia artificial afirman que el uso de palabras o tokens se ajusta perfectamente a la doctrina de “uso justo” de los Estados Unidos, los creadores y editores argumentan que era necesario actualizar las leyes de derechos de autor. La doctrina del uso legítimo es una creación estadounidense y fue diseñada antes de que existiera la IA generativa. No pretende lidiar con grandes modelos de lenguaje y agentes basados en la web que devoran grandes cantidades de datos (todos los datos de, por ejemplo, un periódico) y luego regurgitan algo que incorpora esos datos de maneras que no son transparentes sobre lo que tiene la IA. Ha habido casos en los que los modelos de inteligencia artificial presentan pasajes completos, con o sin atribución, y pasajes completos con atribuciones incorrectas. Ejemplos de este tipo de plagio han sido bien documentados por escritores y artistas y en algunas demandas, como la de The New York Times contra Open AI. Por eso es necesario que exista una regulación sobre la aplicación de los derechos de autor. Francia está a la cabeza con las multas masivas a Google.
-¿Es el método tradicional del periodismo (trabajo de campo, contrastación de fuentes, verificación de datos) la mayor amenaza para el sostenimiento de la actividad en las democracias de esta época?
-Idealmente, las organizaciones de noticias que utilizan IA se basarán en las cartas éticas tradicionales de la profesión periodística que Reporteros sin Fronteras resumió recientemente. RSF señaló que los valores clave de la profesión incluyen “Verdad, exactitud, independencia, imparcialidad y justicia”. Las organizaciones periodísticas no siempre están a la altura de estas expectativas, pero esos son puntos clave de la profesión. La organización de RSF cita la Declaración de Deberes y Derechos de los Periodistas de 1971 -también conocida como Carta de Munich- o la Carta Global o Ética para los Periodistas de la Federación Internacional de Periodistas (FIP) de 2019. No hace falta decir que los medios de comunicación no siempre están a la altura de las expectativas, especialmente cuando las sociedades están polarizadas o los medios se vuelven partidistas. He editado tres volúmenes sobre el problema de la captura de medios.
-¿Cómo imagina que será el periodismo dentro de diez años?
-No creo que nadie pueda aventurarlo. Ressa, la Nobel que cité anteriormente, cree que ya no habrá más periodismo como el que conocemos hoy. Ciertamente, el aumento de personas influyentes y la importancia de la experiencia vivida ha trastocado la función de guardián del poder de los medios tradicionales.
-¿Deberían modificarse los programas educativos para que las universidades y las carreras de periodismo permitan la formación para otros roles necesarios en los medios? Por ejemplo, programadores, verificadores de datos, etc.
-Los programas de periodismo han cambiado drásticamente en las últimas décadas y la profesión se reinventa constantemente. A los periodistas les encanta flagelarse, pero creo que la profesión cambia todo el tiempo y está en constante evolución. Pero una cosa es constante: la importancia del periodismo de calidad. Los periodistas han hablado a menudo del papel de vigilancia del “cuarto poder”, mientras que los economistas y politólogos han utilizado durante años análisis rigurosos para demostrar los efectos beneficiosos que el periodismo tiene en la sociedad. En los últimos años, nuevos métodos de investigación, incluido el uso de experimentos naturales y aleatorios, han demostrado aún más la importancia del periodismo. Estos estudios, realizados tanto en el Sur Global como en el Norte, han cuantificado algunos de estos efectos y, por lo tanto, han confirmado lo que muchos creyeron durante mucho tiempo sobre el papel crucial del periodismo en la sociedad y su papel fundamental en la educación del público, la lucha contra la corrupción y la promoción. desarrollo económico. El periodismo de calidad es un bien público y necesita apoyo.
¿Quién es?
Es directora de Tecnología, Medios y Comunicaciones de la Escuela de Asuntos Públicos e Internacionales de la Universidad de Columbia y docente especialista en medios globales, innovación y derechos humanos. Es una destacada pensadora y columnista sobre el uso de la inteligencia artificial en los medios, la sostenibilidad de la industria, así como el impacto de la desinformación en los medios. Más recientemente se ha centrado en soluciones al problema de la desinformación digital, obteniendo su doctorado sobre el tema en la Universidad de Navarra. Es editora de Women in the Digital World (Routledge, abril de 2023), Global Muckraking: 100 Years of Investigative Reporting from Around the World (New Press, 2014) y African Muckraking: 75 años de periodismo de investigación en África (Jakana 2017). Es la autora de Media Capture: How Money, Digital Platforms and Governments Control the News (Columbia University Press 2021). Escribe sobre periodismo y desarrollo, periodismo de investigación y ha publicado extensamente durante la última década sobre los medios de comunicación en África.
Por Gastón Roitberg
