News - OpenAI bloquea esquema de propaganda impulsado por inteligencia artificial vinculado a Rusia

En una importante ofensiva, OpenAI ha bloqueado múltiples cuentas en su plataforma ChatGPT que fueron descubiertas como parte de una operación de propaganda vinculada a Rusia. El 25 de agosto, OpenAI anunció que estas cuentas estaban asociadas con el denominado Instituto Internacional Burke, una entidad fabricada que pretendía ser un respetable centro de investigación. Esta operación, dirigida principalmente a mejorar la imagen de Rusia mientras socavaba los puntos de vista occidentales, involucraba la distribución de contenido académico engañoso y comentarios falsos a través de canales de redes sociales como Substack, Telegram, X, Facebook y LinkedIn. La investigación surgió inicialmente de actividades sospechosas en redes sociales y reveló una campaña de influencia sofisticada, toda rastreable al sitio web que alojaba el instituto. El contenido, incluido un dudoso 'índice de soberanía', fue elaborado estratégicamente para representar favorablemente a Rusia mientras se disfrazaban los orígenes rusos de la red mediante redes privadas virtuales para eludir barreras de acceso a los servicios de OpenAI desde Rusia. Esta campaña particular, si bien aparentemente tuvo un alcance limitado, se distinguió por su complejidad en comparación con esfuerzos de disrupción vinculados a Rusia identificados tras el conflicto en Ucrania, según OpenAI. Los investigadores encontraron que una gran parte del contenido de la campaña presentaba artículos incorrectamente atribuidos a expertos listados en el sitio web del instituto, con algunos nombres como Susan Aaronson de la Universidad George Washington desmintiendo cualquier asociación. A pesar de la negación del supuesto tanque de pensamiento sobre sus lazos con los esfuerzos rusos, los hallazgos de OpenAI sugieren un uso extensivo de una estrategia de contenido de origen eslavo. OpenAI destaca este caso como un ejemplo significativo de cómo la IA puede ser utilizada incorrectamente para campañas de influencia manipulativa, subrayando los riesgos de usar inteligencia artificial como un instrumento estratégico para perpetuar la falsa autoridad y ocultar la fuente de narrativas personalizadas. La disolución de este esquema encubierto no solo revela una escala de operación novedosa sino que también enfatiza el potencial alcance y complejidad de la desinformación que se puede lograr utilizando tecnologías de IA. Al exponer estos problemas, OpenAI busca resaltar la necesidad urgente de una mayor vigilancia y estándares regulatorios para abordar operaciones encubiertas similares en la era digital.