Un grupo de defensa de EE. UU. pide a la FTC que detenga los nuevos lanzamientos de GPT de Open.AI y pide a la Unión Europea que tome cartas en el asunto
Por Diane Bartz para Reuters.com / editado por Mark Porter / traducido por Diego Viegas
WASHINGTON, 30 mar (Reuters) – El grupo de ética tecnológica Center for Artificial Intelligence and Digital Policy está pidiendo a la Comisión Federal de Comercio de EE. UU. que impida que OpenAI emita nuevos lanzamientos comerciales de GPT-4, que ha cautivado a algunos usuarios y causado angustia a otros con sus respuestas rápidas y similares a las humanas a las consultas.
En una queja a la agencia el jueves, que se encuentra en el sitio web del grupo, el Centro de Inteligencia Artificial y Política Digital calificó a GPT-4 como “parcial, engañoso y un riesgo para la privacidad y la seguridad pública”.
OpenAI, con sede en California y respaldado por Microsoft Corp. (MSFT.O) , presentó la cuarta iteración de su programa de IA GPT (Generative Pre-trained Transformer) a principios de marzo, que ha emocionado a los usuarios al involucrarse en actividades similares a las humanas: conversación, componer canciones y resumir documentos extensos.
La queja formal ante la FTC sigue a una carta abierta firmada por Elon Musk, expertos en inteligencia artificial y ejecutivos de la industria que pidieron una pausa de seis meses en el desarrollo de sistemas más potentes que el GPT-4 recientemente lanzado por OpenAI, citando riesgos potenciales para la sociedad.
El grupo en su queja dijo que ChatGPT-4 de OpenAI no cumple con el estándar de la FTC de ser transparente, explicable, justo y empíricamente sólido mientras fomenta la responsabilidad”.
Por ejemplo, OpenAI expuso los historiales de chat privados a otros usuarios, y un investigador de IA descubrió que era posible “apoderarse de la cuenta de alguien, ver su historial de chat y acceder a su información de facturación sin que se dieran cuenta”, dijo el grupo en su queja.
Marc Rotenberg, presidente de CAIDP y veterano defensor de la privacidad, dijo que le preocupaba que hubiera presiones comerciales que empujaran a la empresa a sacar un producto que no estaba listo.
“La IA abierta simplemente no cumple con las pautas de la FTC y también existe la preocupación de que el producto sea injusto y engañoso”, dijo Rotenberg, quien fue uno de los más de 1,000 firmantes de la carta que insta a una pausa en los experimentos de IA. El grupo instó a la FTC a abrir una investigación sobre OpenAI, prohibir más lanzamientos comerciales de GPT-4 y garantizar el establecimiento de las medidas de protección necesarias para proteger a los consumidores, las empresas y el mercado de comercio”.