El organismo de control italiano de protección de datos, Garante per la Protezione dei Dati Personali (también conocido como Garante), impuso una prohibición temporal del servicio ChatGPT de OpenAI en el país, citando preocupaciones de protección de datos.
Con ese fin, ordenó a la empresa que deje de procesar los datos de los usuarios con efecto inmediato, afirmando que tiene la intención de investigar a la empresa sobre si está procesando ilegalmente dichos datos en violación de la UE. Leyes del Reglamento General de Protección de Datos (RGPD).
"No se proporciona información a los usuarios y sujetos de datos cuyos datos son recopilados por Open AI", señaló el Garante. "Más importante aún, no parece haber una base legal que respalde la recopilación y el procesamiento masivos de datos personales para 'entrenar' los algoritmos en los que se basa la plataforma".
ChatGPT, que se estima que alcanzó más de 100 millones de usuarios activos mensuales desde su lanzamiento a fines del año pasado, no ha revelado qué usó para entrenar su último modelo de lenguaje grande (LLM), GPT-4, o cómo lo entrenó.
Dicho esto, su predecesor GPT-3 utiliza texto procedente de libros, Wikipedia y Common Crawl, el último de los cuales mantiene un "repositorio abierto de datos de rastreo web al que cualquiera puede acceder y analizar". El Garante también señaló la falta de un sistema de verificación de edad para evitar que los menores accedan al servicio, lo que podría exponerlos a respuestas "inapropiadas". El propio chatbot de Google, llamado Bard, solo está abierto a usuarios mayores de 18 años.
Además, el regulador planteó dudas sobre la precisión de la información que aparece en ChatGPT, al tiempo que destacó una violación de datos que sufrió el servicio a principios de este mes que expuso los títulos de chat de algunos usuarios y la información relacionada con el pago.
En respuesta a la orden, OpenAI ha bloqueado el acceso de usuarios con una dirección IP italiana a su chatbot generativo de IA. También dijo que está emitiendo reembolsos a los suscriptores de ChatGPT Plus, además de pausar las renovaciones de suscripción.
La empresa con sede en San Francisco enfatizó además que proporciona ChatGPT de conformidad con GDPR y otras leyes de privacidad. ChatGPT ya está bloqueado en China, Irán, Corea del Norte y Rusia.
En un comunicado compartido con Reuters, OpenAI dijo que trabaja activamente para "reducir los datos personales en el entrenamiento de nuestros sistemas de IA como ChatGPT porque queremos que nuestra IA aprenda sobre el mundo, no sobre individuos privados". OpenAI tiene 20 días para notificar a Garante las medidas que ha tomado para cumplir con las normas o correr el riesgo de enfrentar multas de hasta 20 millones de euros o el 4 % de la facturación anual total en todo el mundo, lo que sea mayor.
Sin embargo, no se espera que la prohibición afecte las aplicaciones de otras empresas que emplean la tecnología de OpenAI para aumentar sus servicios, incluido el motor de búsqueda Bing de Microsoft y sus ofertas de Copilot.
El desarrollo también se produce cuando Europol advirtió que es probable que los LLM como ChatGPT ayuden a generar código malicioso, faciliten el fraude y "ofrezcan a los delincuentes nuevas oportunidades, especialmente para delitos que involucran ingeniería social, dada su capacidad para responder a mensajes en contexto y adoptar una escritura específica. estilo."
Esta no es la primera vez que las empresas centradas en la IA pasan desapercibidas. El año pasado, la controvertida empresa de reconocimiento facial Clearview AI fue multada por varios reguladores europeos por recopilar las fotos disponibles públicamente de los usuarios sin consentimiento para entrenar su servicio de comparación de identidad.
También ha infringido las leyes de privacidad en Australia, Canadá y los EE. UU., con varios países ordenando a la empresa que elimine todos los datos que obtuvo de esa manera.