Un número creciente de personas utiliza los 'chatbots' de inteligencia artificial (IA) para establecer conversaciones sobre temas sensibles como salud mental, relaciones de pareja o asuntos laborales, en el entendido de que son privadas y nadie podrá leerlas, salvo que ellos así lo quieran.
Sin embargo, el medio Fast Company reveló que Google indexó intercambios con ChatGPT que los usuarios enviaron a familiares, amigos o colegas, y lo que se suponía que debía estar destinado a un grupo pequeño de gente, ahora está disponible en la web, visible para millones de personas.
Para sus pesquisas, el portal usó parte del enlace que se crea a partir de la opción "compartir" del popular 'chatbot' y se topó con detalles personalísimos de individuos que incluían relatos de abusos físicos, problemas graves de salud y adicciones. Paradójicamente, también encontraron mensajes en los que las personas expresaban su temor a ser espiadas por una IA.
De esta manera, si un usuario hace clic en "compartir" para enviar su conversación a un tercero a través de una aplicación de mensajería o guardar la dirección URL para futuras consultas, existe la posibilidad de que el enlace sea indexado por Google y aparezca en búsquedas relacionadas con el contenido del intercambio.
Ambigüedad, peligros y privacidad limitada
Para Fast Company, no está claro si quienes sufrieron exposición involuntaria en la red estaban conscientes de que sus conversaciones con el 'chatbot' serían accesibles para el público tras hacer clic en el botón "compartir". Antes bien, lo más probable es que creyeran que se mantendrían dentro de un círculo reducido y controlado por ellos mismos.
De otra parte, aunque ChatGPT no revela explícitamente la identidad de los internautas, algunos podrían ser identificados a partir de los detalles específicos que mencionan durante sus interacciones.
"Las conversaciones de ChatGPT son privadas a menos que decidas compartirlas", aseguró un portavoz de OpenAI, casa matriz del 'chatbot', cuando fue preguntado sobre el asunto. "Crear un enlace para compartir tu chat también incluye una opción para que sea visible en las búsquedas web. Los chats compartidos solo son visibles en la búsqueda de Google si los usuarios seleccionan esta opción explícitamente", sostuvo.
Pese a sus afirmaciones, casi 4.500 conversaciones privadas de usuarios con ChatGPT aparecieron en los resultados de búsqueda de Google, aunque muchas de ellas carecían de datos personales u otro tipo de información de identificación. Tampoco está claro que ese sea el número total de intercambios, toda vez que Google podría optar por no incluirlos todos en su motor de búsquedas.
Con independencia de esto, la privacidad de las interacciones con esta herramienta de IA tiene límites públicos. El director ejecutivo de la compañía, Sam Altman, advirtió a principios de agosto que los usuarios no deberían compartir sus datos personales con ChatGPT pues OpenAI podría verse obligada a entregarlos si la Justicia lo solicitara explícitamente.
Desde otro costado, la vulnerabilidad de la información sensible expuesta en el 'chatbot' podría devenir en un instrumento útil para delincuentes corporativos, como se avino en apuntar Dead1Influence, uno de los investigadores informáticos responsables de develar la trama. "Con esto, puedo ahora buscar en cualquier momento para seleccionar compañías y ver si sus empleados han divulgado información sensible por accidente", aseguró.
Futuro sombrío
Los investigadores responsables de hacer pública esta exposición de datos consideran que se trata de un hallazgo "particularmente preocupante". Según sus cifras, cerca de la mitad de los estadounidenses aseveran que usaron 'chatbots' de IA para obtener apoyo psicológico durante el último año. De estos, 75 % usó la herramienta para lidiar con la ansiedad, dos tercios pidieron consejo para solucionar problemas personales y 60 % pidió ayuda para la depresión.
El problema mayor es que, a diferencia de lo que ocurre en un consultorio con un terapeuta, donde el tratante está obligado a preservar la intimidad de su paciente, en estos casos, la transcripción de la conversación puede acabar apareciendo en una búsqueda de Google, que indexa cualquier contenido disponible en webs abiertas. A ello se suma que la eliminación de la indexación ya no corre por cuenta de Google sino que recae en el propietario del sitio indexado.
"Estoy impactada", sostuvo Carissa Veliz, especialista en ética de la IA en la Universidad de Oxford, en conversación con Fast Company. "Como experta en privacidad, soy muy consciente de que esos datos no son privados, pero, por supuesto, 'no privado' puede significar muchas cosas, y que Google esté registrando estas conversaciones tan sensibles es simplemente asombroso", puntualizó.
El problema no es exclusivo del 'chatbot' de OpenAI. Otros, como los de Meta*, comenzaron a compartir las consultas de sus usuarios en un 'feed' visible dentro de sus aplicaciones que usan IA. Entonces, los críticos aseguraron que el nivel de alfabetización digital de los usuarios no les permitía entender ni reconocer los peligros que entraña compartir información privada en la red. Su advertencia resultó cierta, pues luego aparecieron datos personales en el 'feed'.
Para Veliz, la indexación de conversaciones privadas con ChatGPT es un indicio del enfoque que adoptarán las grandes tecnológicas en materia de privacidad. "También confirma una vez más que esta empresa, OpenAI, no es confiable, que no se toma la privacidad en serio, digan lo que digan. Lo que importa es lo que hacen", sentencia.
Fast Company matiza que "los enlaces compartidos de ChatGPT no están diseñados para aparecer en las búsquedas de forma predeterminada, por lo que los usuarios deben configurarlos manualmente para que el motor de búsqueda los detecte", y llama a recordar que las personas son instadas a no compartir información confidencial y que pueden eliminar los enlaces que compartieron en cualquier momento.
*Calificada en Rusia como organización extremista, cuyas redes sociales están prohibidas en su territorio.
