Según funcionarios chinos, el sospechoso usó el chatbot de OpenAI para crear múltiples variaciones de una noticia que informaba falsamente sobre un accidente de tren mortal.
Las autoridades chinas han detenido a un hombre en la provincia de Gansu, en el norte de China, por supuestamente usar ChatGPT para escribir artículos de noticias falsos. La medida parece ser uno de los primeros arrestos realizados bajo las nuevas pautas anti-IA de China , que (entre otras restricciones) prohíben el uso indebido de los servicios de inteligencia artificial para distribuir «información falsa».
El sospechoso, identificado solo por su apellido Hong, está acusado de usar el chatbot de OpenAI para generar artículos de noticias que describen un accidente de tren fatal que, según las autoridades, era «información falsa», según un comunicado policial informado por South China Morning Post . Después de descubrir el artículo el 25 de abril, las autoridades encontraron múltiples versiones de la misma historia con diferentes ubicaciones de accidentes que se habían publicado simultáneamente en 20 cuentas adicionales en la plataforma de blogs propiedad de Baidu, Baijiahao.
Hong afirmó que estaba usando ChatGPT para reescribir artículos y generar dinero a través del tráfico de Internet.
Las autoridades de Gansu rastrearon los artículos hasta una empresa independiente operada por Hong que administra varios puntos de venta tipo blog. En el comunicado, la policía local afirma que Hong admitió haber usado ChatGPT para reescribir artículos de noticias virales existentes para evadir los filtros de contenido duplicado y luego publicarlos en línea después de que sus amigos le mostraran cómo generar dinero a través del tráfico de Internet. Los artículos falsos fueron vistos más de 15.000 veces antes de ser eliminados. China es uno de los pocos países que ha bloqueado el acceso a ChatGPT , pero los residentes pueden sortear estas restricciones mediante una conexión VPN.
Hong fue acusado específicamente de “buscar peleas y provocar problemas”, un delito general que, según el South China Morning Post, se puede aplicar a los sospechosos acusados de crear y/o difundir información errónea en línea. Sin embargo, esa no es la única aplicación del cargo, que también puede definirse ampliamente como socavar el orden público o causar desorden en lugares públicos. La redacción del delito es vaga y ha sido ampliamente criticada por su potencial para silenciar la libertad de expresión y arrestar a activistas que critican al gobierno chino. Los acusados pueden enfrentar una pena de prisión de cinco a 10 años.
