Así está Microsoft arruinando las noticias al reemplazar editores y redactores con IA

Afirmaciones falsas acerca de que el presidente de Estados Unidos, Joe Biden, se quedó dormido durante un momento de silencio por las víctimas del incendio forestal de Maui.

Una teoría conspiratoria según la cual el último aumento de casos de covid-19 está siendo orquestado por el Partido Demócrata antes de las elecciones. El obituario de un fallecido jugador de la NBA que lo describió como “fuera de uso”.

Estas historias falsas y raras no figuran en ningún rincón remoto de internet: Las publica Microsoft. La página de inicio de la compañía, también conocida como MSN.com y Microsoft Start, sigue siendo uno de los sitios web con más tráfico del mundo y un lugar donde millones de estadounidenses reciben noticias todos los días.

Pero la decisión de Microsoft de depender cada vez más del uso de la automatización y la inteligencia artificial (IA) en lugar de los editores humanos para seleccionar su página de inicio parece estar detrás de la reciente amplificación de historias falsas y raras en el sitio, dijeron a CNN personas familiarizadas con el funcionamiento del sitio.

El portal, que viene precargado como página de inicio predeterminada en dispositivos que ejecutan software de Microsoft, incluido el último navegador Edge de Microsoft, el sucesor del navegador Internet Explorer de la compañía, empleó a más de 800 editores en 2018 para ayudar a seleccionar noticias e historias mostradas a millones de lectores en todo el mundo.

Pero en los últimos años, Microsoft ha despedido a editores, a algunos de los cuales se les dijo que estaban siendo reemplazados por la “automatización”, lo que ellos entienden como IA.

La inversión inicial de Microsoft en OpenAI (los creadores de la popular aplicación ChatGPT) lo ha colocado a la vanguardia de la prometedora y potencialmente peligrosa revolución de la IA, incluso cuando el presidente del gigante tecnológico ha dado una conferencia pública sobre el uso responsable de la tecnología.

Pero el aparente papel de la IA en la reciente amplificación de historias falsas por parte de Microsoft plantea interrogantes sobre la adopción pública de la tecnología naciente por parte de la compañía y para la industria del periodismo en su conjunto.

The Guardian

Las preocupaciones y tensiones sobre el uso de la IA por parte de Microsoft en su contenido de noticias se desbordaron el martes cuando el periódico británico The Guardian acusó a la compañía de dañar la reputación del periódico después de que publicara un artículo suyo en su sitio.

Para impulsar su portal de noticias de gran tráfico, Microsoft ha establecido acuerdos de licencia con importantes organizaciones de noticias de todo el mundo, incluidas The Guardian y CNN, que permiten al gigante tecnológico volver a publicar sus artículos a cambio de una parte de los ingresos publicitarios.

La semana pasada, The Guardian publicó un artículo sobre Lilie James, una mujer de 21 años que fue encontrada muerta con graves heridas en la cabeza en una escuela de Sydney, Australia.

El asesinato de James causó un gran dolor y generó una conversación nacional en Australia sobre la violencia contra las mujeres.

Pero cuando MSN volvió a publicar la historia de The Guardian, la acompañó con una encuesta generada por IA que preguntaba a los lectores: “¿Cuál crees que es la razón detrás de la muerte de la mujer?” Y enumeró tres opciones: asesinato, accidente o suicidio.

La encuesta causó críticas por parte de los lectores de Microsoft: “Esta tiene que ser la encuesta más patética y repugnante que he visto jamás”, escribió una persona.

Anna Bateson, directora ejecutiva de The Guardian Media Group, dijo en una carta redactada con dureza a Microsoft y obtenida por CNN, que la encuesta generada automáticamente era una aplicación “profundamente preocupante” de la tecnología de inteligencia artificial de la compañía y exigía que Microsoft asumiera toda la responsabilidad.

“Este tipo de solicitud no solo es potencialmente angustiante para la familia del individuo que es el tema de la historia, sino que también es profundamente perjudicial para la reputación de periodismo sensible y confiable de The Guardian, ganada con tanto esfuerzo, y para la reputación de los periodistas que escribieron la historia original”, escribió Bateson en una carta el martes al presidente de Microsoft, Brad Smith.

Bateson dijo que el uso por parte de Microsoft de la encuesta generada por IA junto con el artículo fue “exactamente el tipo de instancia sobre la que hemos advertido en relación con las noticias” y fue “una razón clave por la que previamente hemos solicitado a sus equipos que no queremos la encuesta de Microsoft”. Tecnologías experimentales genAI aplicadas al periodismo con licencia de The Guardian”.

Un portavoz de Microsoft dijo que la compañía estaba deshabilitando todas las encuestas sobre artículos de noticias y que la compañía estaba “investigando la causa del contenido inapropiado”. Una encuesta no debería haber aparecido junto con un artículo de esta naturaleza y estamos tomando medidas para ayudar a evitar que este tipo de error vuelva a ocurrir en el futuro”.

Noticias falsas

Pero la desagradable encuesta no fue el primer error público causado por la adopción de la IA por parte de Microsoft.

En agosto, MSN publicó una historia en su página de inicio que afirmaba falsamente que el presidente Joe Biden se había quedado dormido durante un momento de silencio por las víctimas del catastrófico incendio forestal de Maui.

El mes siguiente, Microsoft volvió a publicar una historia sobre Brandon Hunter, un exjugador de la NBA que murió inesperadamente a los 42 años, bajo el título “Brandon Hunter deja de servir a los 42 años”.

Luego, en octubre, Microsoft volvió a publicar un artículo que afirmaba que el supervisor de San Francisco, Dean Preston, había dimitido de su puesto tras las críticas de Elon Musk.

Algunos de los artículos presentados por Microsoft fueron publicados inicialmente en sitios web oscuros que podrían haber pasado desapercibidos en medio de la avalancha diaria de información errónea en línea que circula todos los días.

Pero la decisión de Microsoft de volver a publicar artículos de medios marginales ha elevado esas historias a potencialmente millones de lectores adicionales, dando vida a sus afirmaciones.

Los editores que anteriormente trabajaron para Microsoft le dijeron a CNN que la empresa no destacaría este tipo de historias falsas, o prácticamente cualquier otro artículo de sitios web de baja calidad, si no fuera por el uso de IA.

Microsoft guarda silencio

Microsoft y su presidente Brad Smith han publicado extensamente sobre el uso responsable de la IA.

Pero la compañía ofreció muy pocos detalles cuando CNN le hizo preguntas.

Un portavoz de Microsoft dijo en un comunicado el miércoles: “Al igual que con cualquier producto o servicio, continuamos ajustando nuestros procesos y actualizamos constantemente nuestras políticas existentes y definimos otras nuevas para manejar las tendencias emergentes. Estamos comprometidos a abordar el problema reciente de los artículos de baja calidad aportados al flujo de noticias y estamos trabajando estrechamente con nuestros socios de contenido para identificar y abordar los problemas y garantizar que cumplan con nuestros estándares”.

Pero en su carta a la empresa el martes, The Guardian dijo que la compañía de tecnología “no había respondido sustancialmente” a las preguntas del periódico sobre cómo se utilizaría la IA en su periodismo.

La página de inicio de Kawar ya no es Microsoft y ha cambiado su navegador predeterminado a su opción preferida de Google Chrome. Pero millones de personas en todo el mundo siguen recibiendo noticias de Microsoft.

“Si van a tener una portada centrada exclusivamente en noticias, entonces deberían tomar esa responsabilidad en serio y comprender que tiene implicaciones para la sociedad”, dijo Kawar.

Ten la información al instante en tu celular. Únete al grupo de Diario Primicia en WhatsApp a través del siguiente link:https://chat.whatsapp.com/Lpf54Rh6Ku2JUl6TS8Uyly

También estamos en Telegram como @DiarioPrimicia, únete aquí: https://t.me/diarioprimicia