Italia es el primer país occidental en tomar tal acción contra el popular chatbot de inteligencia artificial.

El organismo de control de la privacidad del gobierno italiano ha bloqueado temporalmente el software de inteligencia artificial (IA) ChatGPT por preocupaciones sobre la privacidad de los datos.

El anuncio del viernes convirtió a Italia en el primer país occidental en tomar tal acción contra el popular chatbot de IA.

La Autoridad de Protección de Datos de Italia describió su acción como provisional “hasta que ChatGPT respete la privacidad”. Su medida consiste en limitar temporalmente a la empresa de mantener los datos de los usuarios italianos.

El organismo de control dijo que el desarrollador de ChatGPT, OpenAI, no tenía base legal para justificar “la recopilación y el almacenamiento masivos de datos personales con el fin de ‘entrenar’ los algoritmos subyacentes al funcionamiento de la plataforma”.

Además, hizo referencia a una violación de datos el 20 de marzo cuando las conversaciones de los usuarios y la información de pago se vieron comprometidas, un problema que la firma estadounidense atribuyó a un error .

Desde que se lanzó ChatGPT, ha experimentado un crecimiento meteórico. Millones de personas utilizan el software para actividades que van desde desarrollar diseños arquitectónicos hasta escribir ensayos y redactar mensajes, canciones, novelas y chistes.

También ha provocado una carrera de IA entre otras empresas tecnológicas y capitalistas de riesgo. Google está lanzando su propio chatbot, llamado Bard, y los inversores están invirtiendo dinero en todo tipo de proyectos de IA.

Pero los críticos se han preocupado durante mucho tiempo por saber de dónde obtienen ChatGPT y sus competidores sus datos o cómo los procesan.

“En realidad, no sabemos cómo se utilizan los datos porque no se proporciona suficiente información al público”, dijo becaria de AI en la Universidad de Bolonia en Italia.

“Al mismo tiempo, en la Unión Europea, se están proponiendo muchas regulaciones nuevas, pero será una cuestión de cómo se aplican y cuánto colaboran las empresas para mostrar la información que se necesita para comprender mejor cómo son estas tecnologías. trabajando”.

Los sistemas de inteligencia artificial que impulsan estos chatbots, conocidos como modelos de lenguaje extenso, pueden imitar los estilos de escritura humana en función de la gran cantidad de libros digitales y escritura en línea que han ingerido.

Algunas escuelas públicas y universidades de todo el mundo han bloqueado el sitio web ChatGPT de sus redes locales por preocupaciones de plagio estudiantil, pero no estaba claro cómo Italia lo bloquearía a nivel nacional.

Es poco probable que la medida afecte a las aplicaciones de empresas que ya tienen licencias con OpenAI para usar la misma tecnología que impulsa el chatbot, como el motor de búsqueda Bing de Microsoft.

Esta semana, cientos de expertos y figuras de la industria firmaron una carta abierta pidiendo una pausa en el desarrollo de poderosos sistemas de inteligencia artificial, argumentando que plantean “riesgos profundos para la sociedad y la humanidad”.

La carta fue motivada por el lanzamiento de OpenAI este mes de GPT-4 , una versión más poderosa de su chatbot, con incluso menos transparencia sobre sus fuentes de datos.

El organismo de control italiano ordenó a OpenAI que informe en un plazo de 20 días qué medidas ha tomado para garantizar la privacidad de los datos de los usuarios o se enfrentará a una multa de hasta 22 millones de dólares o el 4 % de sus ingresos globales anuales.

Los expertos en inteligencia artificial dijeron que es probable que más gobiernos hagan lo mismo y emitan regulaciones similares.

“Creo que podría haber algún seguimiento de otros países, (especialmente) si la empresa OpenAI no proporciona más información sobre cómo se entrena el algoritmo”.

El CEO de la compañía con sede en San Francisco, Sam Altman, anunció esta semana que se embarcaría en un viaje por seis continentes en mayo para hablar sobre la tecnología con usuarios y desarrolladores.

Su viaje incluirá una parada en Bruselas, donde los legisladores de la Unión Europea han estado negociando nuevas reglas radicales para limitar las herramientas de IA de alto riesgo.

Altman dijo que su tiempo en Europa también incluiría paradas en Madrid, Munich, Londres y París.