7 oct (Reuters) – OpenAI dijo el martes que vetó varias cuentas de ChatGPT con presuntos vínculos con entidades del Gobierno chino después de que los usuarios le pidieron propuestas para vigilar las conversaciones en las redes sociales.
En su último informe público sobre amenazas, OpenAI afirmó que algunas personas habían pedido a su chatbot que esbozara herramientas de “escucha” de redes sociales y otros conceptos de supervisión, violando la política de seguridad nacional de la empresa emergente.
El informe de la compañía con sede en San Francisco plantea preocupaciones de seguridad sobre el posible uso indebido de la IA generativa en medio de la creciente competencia entre Estados Unidos y China para dar forma al desarrollo y las normas de la tecnología.
OpenAI dijo que también prohibió varias cuentas en idioma chino que utilizaban ChatGPT para ayudar a campañas de phishing y malware y pidió al modelo que investigara la automatización adicional que podría lograrse a través de DeepSeek de China.
La embajada china en Estados Unidos no respondió inmediatamente a una solicitud de comentarios sobre el informe.
También prohibió cuentas vinculadas a presuntos grupos criminales de habla rusa que utilizaron el chatbot para ayudar a desarrollar cierto malware, dijo OpenAI.
La empresa emergente, respaldada por Microsoft, ha interrumpido y denunciado más de 40 redes desde que comenzó a informar públicamente sobre amenazas en febrero del año pasado, y sus modelos rechazaron peticiones abiertamente maliciosas, añadió la empresa de IA.
“No encontramos pruebas de nuevas tácticas o de que nuestros modelos proporcionaran a los actores de amenazas nuevas capacidades ofensivas”, afirmó la empresa en su informe.
OpenAI, que actualmente cuenta con más de 800 millones de usuarios semanales de ChatGPT, se convirtió en la empresa emergente más valiosa del mundo, con una valoración de 500.000 millones de dólares, tras completar una venta secundaria de acciones la semana pasada.
(Reporte de Jaspreet Singh en Bengaluru; Editado en Español por Ricardo Figueroa)
