La jefa de Comunicaciones Globales de la ONU, Melissa Fleming, hizo un vehemente llamado en este tenor
Miami, Florida — La Secretaria General Adjunta de Comunicaciones Globales, Melissa Fleming, pidió a los desarrolladores de IA generativa que prioricen la seguridad y los derechos humanos sobre las ganancias en una reunión de la “ Fórmula Arria ” del Consejo de Seguridad .
La reunión sobre la inteligencia artificial y su impacto en el discurso de odio , la información errónea y la desinformación estuvo presidida conjuntamente por los Emiratos Árabes Unidos y Albania y contó con las opiniones de los expertos digitales Rahaf Harfoush y Jennifer Woodard.
En su discurso, Fleming señaló que «la IA generativa, si se desarrolla y utiliza de manera responsable, tiene el potencial de mejorar los derechos humanos, incluido el acceso a la información, la salud, la educación y los servicios públicos.»
Sin embargo, expresó «gran preocupación por el potencial de la tecnología de intensificar drásticamente los daños en línea».
Con la IA generativa, se pueden crear grandes volúmenes de desinformación convincente (desde texto hasta audio y vídeo) a escala, a muy bajo costo y con mínima intervención humana.
Dicho contenido puede distribuirse en masa, no sólo a través de las redes sociales y a través de perfiles falsos, sino también en otros canales personalizados como campañas de correo electrónico, mensajes de texto y anuncios.
La IA generativa deja pocas huellas dactilares.
También es mucho más difícil para los periodistas, los verificadores de datos, las fuerzas del orden o la gente corriente detectar si el contenido es real o generado por IA.
La periodista Fleming describió cuatro áreas de preocupación clave para la ONU:
Paz y seguridad
La desinformación impulsada por la IA ya está poniendo en peligro las operaciones humanitarias y de paz de la ONU, poniendo en riesgo al personal y a los civiles.
Más del 70% de los cascos azules de la ONU que respondieron a una encuesta reciente dijeron que la información errónea y la desinformación obstaculizaban gravemente su capacidad para llevar a cabo su trabajo.
Violaciones de derechos humanos:
La IA se utiliza para crear y difundir contenido dañino, incluido material de abuso sexual infantil e imágenes pornográficas no consentidas, especialmente dirigidas a mujeres y niñas.
A la ONU también le preocupa profundamente que el contenido antisemita, islamófobo, racista y xenófobo pueda verse potenciado por la IA generativa.
Democracia en riesgo
El potencial de la IA para manipular a los votantes e influir en la opinión pública durante las elecciones plantea una amenaza significativa para los procesos democráticos en todo el mundo.
Socavar la ciencia y las instituciones públicas:
En este orden dijo que «por ejemplo, las herramientas de inteligencia artificial podrían intensificar campañas de desinformación de décadas de duración para descarrilar la acción climática, al amplificar información falsa sobre el cambio climático y las energías renovables.»
Detrás de estos fenómenos se encuentra una disminución de la confianza del público en las noticias y las fuentes de información.
Fleming, citó un informe reciente que encontró que desde mayo de este año el número de sitios de noticias generados por IA, que operan con poca o ninguna supervisión humana, había aumentado de 49 a casi 600.
Algunos de estos sitios están poblados por miles de nuevos artículos al día.
A menudo imitan sitios web de noticias conocidos y escupen historias completamente inventadas.
A la luz de estos desafíos, la ONU había creado un Órgano Asesor de IA para fortalecer la gobernanza global de la IA.
Paralelamente, la ONU está desarrollando un código de conducta para la integridad de la información, para ayudar a aumentar la resiliencia de las sociedades contra la desinformación y el odio.
Fleming pidió un enfoque equilibrado para aprovechar los beneficios de la IA y al mismo tiempo mitigar sus riesgos, enfatizando la necesidad de ecosistemas de información saludables para sociedades estables y unidas.
Su mensaje fue claro: «Los desarrolladores de IA deben priorizar a las personas y su bienestar por encima de las ganancias, garantizando que la tecnología sirva como una fuerza para el bien.
