El gobierno de Italia prohibió ChatGPT, el chatbot de IA desarrollado por OpenAI, diciendo que carece de un sistema de verificación de edad y que su recopilación y procesamiento de datos de usuarios viola las leyes de privacidad del país.
La orden, realizada por la Italy's Data Protection Authority, establece que los usuarios de ChatGPT no reciben ninguna información sobre la recopilación y el uso de sus datos, y que no existe un "respaldo legal" para esa recopilación de datos que usa para entrenar a ChatGPT.
También dice que las pruebas han demostrado que la información provista por ChatGPT "no siempre coincide con las circunstancias reales" (lo cual es cierto, los chatbots son propensos a mentir) y que, si bien los términos de servicio limitan su uso a personas mayores de 13 años, hay no existe un sistema de verificación de edad.
El organismo regulador también tomó nota de una "violación de datos" que ocurrió el 20 de marzo, que afectó "las conversaciones de los usuarios y la información sobre los pagos de los suscriptores".
OpenAI reconoció el problema el 24 de marzo y dijo que desconectó el sistema "debido a un error en una biblioteca de código abierto que permitía a algunos usuarios ver títulos del historial de chat de otro usuario activo".
"También es posible que el primer mensaje de una conversación recién creada fuera visible en el historial de chat de otra persona si ambos usuarios estaban activos al mismo tiempo", dijo OpenAI.
Italia es el primer país de Occidente en prohibir ChatGPT, aunque, como señala la BBC, ya está bloqueado en otros países, incluidos China, Rusia, Irán y Corea del Norte.
Italia puede compartir algunas de las mismas razones para bloquearlo que esos países, ya que actualmente está gobernado por una coalición de partidos de derecha y extrema derecha, del tipo que podría estar en desacuerdo con el acceso público a algunos puntos de datos "fácticos" que pintan bajo una luz poco favorecedora.
Italia está lejos de ser la única preocupada por el rápido crecimiento de ChatGPT y otras aplicaciones de IA.
Un grupo de expertos en inteligencia artificial, líderes de la industria y Elon Musk publicaron recientemente una carta abierta en la que pedían una pausa de seis meses en el entrenamiento de IA más poderosas que GPT-4, que ha sido descartada en algunos sectores como en menos parcialmente un truco publicitario.
Pero otras agencias están tomando medidas más concretas: el New York City Department of Education, por ejemplo, dijo en enero que restringiría el acceso al software desde las redes y dispositivos escolares, y Getty Images ha prohibido la carga y venta de cualquier imagen generada por IA.
La European Consumer Organization también solicitó una investigación sobre la tecnología ChatGPT, y la Ireland's Data Protection Commission le dijo a la BBC que se está comunicando con el regulador italiano para obtener más información sobre los motivos de la prohibición, presumiblemente con un ojo hacia la formulación de sus propias políticas y restricciones.
Pero si bien existe un nerviosismo obvio (y comprensible) sobre el desarrollo explosivo de la IA y su potencial para causar estragos en todo tipo de formas impredecibles, no parece probable que vaya a ralentizar el desarrollo del software, al menos a corto plazo.
En enero, Microsoft anunció planes para invertir $ 10 mil millones en Open AI, y Google anunció su propio chatbot similar a ChatGPT, llamado Bard, en febrero. La regulación es absolutamente necesaria y es casi seguro que se avecinan más prohibiciones, pero el desarrollo de la IA, para bien o para mal, llegó para quedarse.
Aviso legal: Este documento ha sido compartido desde la página de PCGamer con el único propósito de fomentar el discurso sobre el tema de la ciberseguridad y las buenas prácticas de seguridad. Nuestra intención no es difamar a ninguna empresa, persona o entidad legal. Toda la información mencionada en este documento se basa en informes y datos disponibles gratuitamente en línea. Never Off Technology no se atribuye ningún crédito ni responsabilidad por la precisión de cualquier fuente o información compartida en este documento.