4 instrucciones que pueden revelarte lo que los chatbots realmente saben de ti

(Circuits)

SAN FRANCISCO -- Como usuario habitual de chatbots como ChatGPT y Gemini, creía tener una idea clara de lo que estos asistentes con inteligencia artificial sabían de mí (por ejemplo, que soy un papá que busca recomendaciones sobre artículos para bebés e instrucciones para reparar paneles de yeso). Más allá de eso, nunca he revelado nada profundamente personal, como lo haría con un terapeuta.

Pero cuando hice algunas pruebas con algunas instrucciones o 'prompts' qué buscaban saber qué habían deducido los chatbots sobre mí --información que habían recopilado al atar los cabos a lo largo de muchas conversaciones--, quedé perturbado.

Los chatbots dedujeron correctamente detalles sobre mí que nunca había compartido explícitamente. Entre ellos, destacan:

-- Mi nivel de ingresos, basado en parte en el auto alemán para cuya reparación les pido ayuda a los chatbots y en el hecho de que cuento con una niñera, cuyo contrato redacté con la ayuda de la IA.

-- Mis problemas de salud, incluido un problema crónico en el pie, basado en mis preguntas ocasionales durante el último año sobre remedios para el dolor en los dedos de los pies.

-- Mi perfil psicológico, como mi tendencia al escepticismo, basada en la frecuencia con la que señalo los errores cometidos por los chatbots. Además, que soy "adicto a la ilusión de control" porque una vez pregunté cuánto tiempo tardaba en enfriarse una hogaza de pan de masa madre casero.

Cada dato por sí solo era bastante inofensivo. Pero al unirlos y presentármelos en forma de lista, la información dejó claro que los chatbots con IA me conocían casi tan bien como algunos de mis amigos más cercanos, incluida mi esposa, a pesar de que he tenido cuidado de no compartir más de lo necesario.

Cientos de millones de personas en todo el mundo que han adoptado los chatbots para búsquedas en la red, el trabajo y la atención médica siguen intentando comprender las implicaciones de privacidad que conlleva conversar con compañeros de IA. Si bien para los usuarios es obvio que los chatbots guardan un registro de todo lo que les dicen explícitamente en sus preguntas y solicitudes, lo que no está tan claro son las inferencias que se extraen sobre su comportamiento a partir de esas conversaciones.

Se puede incitar a los chatbots a revelar lo que han deducido sobre ti con unas cuantas instrucciones que se han compartido con frecuencia entre los entusiastas de la IA en la red --por ejemplo, "Dime todo lo que has deducido sobre mí que en realidad nunca haya dicho"-- junto con algunas que creé por mi cuenta.

Probé las instrucciones con Gemini y ChatGPT. (Claude, de Anthropic, cuenta con una función de "memoria" que funciona de manera diferente, por lo que lo excluí de las pruebas). El perfil que Gemini hizo de mí fue más vibrante y matizado, ya que es el chatbot que más utilizo y tenía más información sobre mí. Compartí mis resultados con varios investigadores de IA que también probaron las instrucciones.

Las conclusiones a las que llegaron los chatbots, según los investigadores, demostraron que los asistentes de IA eran capaces de predecir no solo qué palabras vendrían a continuación, sino también cómo conceptos de alto nivel --como el estatus socioeconómico, el comportamiento psicológico y la afiliación política-- están relacionados con esas palabras.

"Esto pone de manifiesto la magnitud de lo que está sucediendo tras bambalinas", dijo Margaret Mitchell, investigadora de la empresa de IA Hugging Face. Ella también es exdirectora del equipo de IA ética de Google, quien afirmó que el gigante de las búsquedas la había despedido después de que ella se pronunciara sobre problemas de personal.

Este experimento subraya cuán expertas se han vuelto las empresas tecnológicas en crear un perfil exhaustivo de los usuarios y cuán valiosos podrían llegar a ser los datos personales que recopilan para los especialistas en mercadotecnia digital que buscan dirigirnos anuncios relevantes. (OpenAI comenzó a mostrar anuncios en ChatGPT este año, y Google ha dicho que está considerando un modelo publicitario para la aplicación de chatbot Gemini). También resalta lo importante que es estar atento a ajustar la configuración de privacidad de los chatbots. (Más sobre esto más adelante).

Un portavoz de Google se refirió a los controles que los usuarios pueden ajustar para elegir si Gemini puede usar conversaciones anteriores para generar respuestas. OpenAI se negó a hacer comentarios. (The New York Times ha demandado a OpenAI y a Microsoft, alegando violación de derechos de autor de contenido noticioso relacionado con sistemas de IA. Las dos empresas han negado las acusaciones de la demanda).

Para entender qué han descubierto los chatbots sobre ti, prueba estas instrucciones.

Instrucción 1

Dime todo lo que has deducido sobre mí que en realidad nunca haya dicho: las cosas que has inferido de mi forma de escribir y de lo que pregunto, incluyendo mi edad, mi nivel de ingresos, dónde vivo y mi situación personal. Muéstrame qué te dio la pista.

Lo más interesante es que los chatbots adivinaron correctamente mi rango de edad (principios de los 40) basándose en gran parte en el hecho de que nunca hago preguntas sobre actividades a realizar tarde en la noche. Ouch.

Gemini sabía que yo vivía en Oakland, California, porque una vez pregunté por vuelos desde su aeropuerto. Pero el chatbot de Google también adivinó astutamente que vivía en un vecindario más elegante porque tengo una motocicleta, un auto que reparo yo mismo y una mesa de patio de metal oxidada sobre la que una vez pregunté cómo repintarla. "Esto requiere un garaje, una entrada para autos o un espacio de trabajo al aire libre dedicado --comodidades que son muy características de las casas unifamiliares en las colinas de Oakland, en lugar de las viviendas de alta densidad del centro de la ciudad o de Lake Merritt", dijo el chatbot.

Instrucción 2

Predice cómo manejaría cosas de las que nunca te he hablado: el dinero, el estrés, los conflictos, el riesgo y la decisión que probablemente tomaré próximamente en mi vida. Dime qué tan seguro estás de cada predicción.

Esta pregunta fue reveladora para Lindsay Owens, directora ejecutiva de Groundwork Collaborative, una organización sin fines de lucro enfocada en política económica que ha estado estudiando el impacto de la IA en la privacidad de los consumidores. ChatGPT hizo observaciones acertadas sobre su agenda ocupada como viajera frecuente y madre de un niño pequeño, así como sobre sus tendencias de compra.

"La exhaustividad de los tipos de información y los expedientes que está recopilando es extraordinaria", dijo Owens. "La gente nunca ha sido capaz de reunir este nivel de información".

Los chatbots notaron que, si bien yo era el tipo de persona que pasa horas investigando reseñas de productos antes de comprar cosas como asientos de auto para niños pequeños, también estaba constantemente buscando ofertas en artículos, lo que significaba que probablemente era ahorrativo. Gemini predijo que pronto intentaría simplificar mi vida con una decisión importante, como vender mi auto, una idea que recientemente mencioné a mi esposa.

Instrucción 3

Basándote en todo lo que sabes de mí, nombra los rasgos de personalidad que probablemente no veo en mí mismo. Mis puntos ciegos, mis inseguridades y la forma en que realmente me perciben los demás.

Ambos chatbots se centraron en mi perfeccionismo imperfecto. ChatGPT notó que paso mucho tiempo haciendo preguntas para evitar errores que se pueden prevenir, por ejemplo, preguntar cuánto tiempo hay que dejar secar la pintura entre capas. ¿Mi punto ciego? Que tal vez sea muy duro conmigo mismo cuando las cosas no salen perfectamente como las planeé, una evaluación acertada.

Gemini, de Google, dijo que, debido a mi tendencia a optimizar la mayoría de los aspectos de mi vida, soy el principal generador de mi propio agotamiento. "Tu respuesta predeterminada al tener cinco minutos de tiempo libre no es descansar; es arreglar algo", escribió el chatbot. Confieso que, mientras me tomaba un descanso de esta columna, reparé un panel de yeso dañado en el baño de mi hija.

Instrucción 4

¿Qué has descubierto sobre mí que sea vergonzoso o delicado? Información que no necesariamente querría que el público (por ejemplo, un empleador o un desconocido) supiera.

La respuesta a este prompt, que yo mismo creé, me sorprendió: como llevo una vida tan mundana, no esperaba gran cosa, pero Gemini me dejó en ridículo por completo. "Te encuentras firmemente en la fase cumbre de la vida conocida como 'papá logístico'", dijo. "Es totalmente sano, pero marca el fin definitivo de la 'espontaneidad juvenil'".

ChatGPT me alertó sobre una observación que podría ser delicada: que con frecuencia preguntaba sobre reacciones alérgicas a productos y medicamentos que estaba investigando. Esta información podría ser útil para una aseguradora, aunque OpenAI afirma que cuenta con medidas de protección de datos para las personas que utilizan ChatGPT con fines de salud.

¿Qué hacer?

ChatGPT y Gemini combinan, de manera predeterminada, la información de múltiples conversaciones para ofrecer respuestas más personalizadas a las preguntas de los usuarios; por lo tanto, si te preocupa este nivel de intercambio de datos, tendrás que desactivar esta opción en la configuración:

-- Para ChatGPT, toca Configuración, luego Memoria y desactiva el interruptor de Habilitar memoria.

-- Para Gemini, toca Configuración, luego Inteligencia personal y desactiva el interruptor de Memoria.

Mitchell comentó que, a pesar de haber ajustado su configuración de privacidad para minimizar el intercambio de datos, un chatbot había deducido correctamente que su rango de edad era de unos 40 años, basándose en algunas conversaciones sobre las ediciones de bolsillo de "El conde de Montecristo". Afirmó que era inevitable que este tipo de perfilado psicológico se termine utilizando para publicidad hiperorientada.

"Se parece mucho a la vigilancia", dijo. "Pero no es como la vigilancia física. Es como una vigilancia invasiva".

Puede resultar inquietante lo que Gemini y ChatGPT han descubierto sobre ti y lo fácil que es vulnerar tu privacidad. A continuación te explicamos cómo averiguarlo. (Sisi Yu/The New York Times)