Foto: Claude
Presenta: Lenovo
A raíz del diálogo del senador Bernie Sanders con la IA Claude, decidí entrevistar a Claude
- …pero…¿esa era la misma Claude?
- ¿La Claude con la que hablé yo es la que le había respondido a Sanders o es otra?
- ¿Una aplicación de IA “le sigue la corriente” a su interlocutor?
- ¿Qué implica que haya millones de instancias de la misma aplicación de IA contestando de manera diferente según quién pregunta?
LO QUE HIZO BERNIE SANDERS
La semana pasada el senador Bernie Sanders, de Estados Unidos, denunció el uso masivo de datos personales que realizan las grandes compañías tecnológicas en el desarrollo de la Inteligencia Artificial (IA).
A esos efectos, el legislador del Partido Demócrata grabó un video de nueve minutos de duración donde conversa con Claude, la IA desarrollada por Anthropic, a la que le pregunta sobre el alcance de la recopilación de información y el impacto que ese fenómeno tiene en la sociedad.
Durante el intercambio, Claude admite que la magnitud de la recolección de datos podría "sorprender a la mayoría de los estadounidenses".
“- Sanders: Claude, soy el senador Bernie Sanders. He estado analizando detenidamente cómo la IA impacta a la sociedad estadounidense en términos económicos y de pérdida de empleos, en la salud mental de nuestros hijos y en el proceso político. Pero lo que quiero hablar hoy contigo es otro tema: el impacto de la IA en la privacidad.
Quiero saber, entre otras cosas, cuánto de la información que recopila la IA está siendo utilizada y qué es lo que sorprendería a los estadounidenses sobre cómo se recolecta esa información.
– Claude: Sí, eso es lo que probablemente sorprendería a la mayoría de los estadounidenses. Las empresas recopilan datos de todas partes. Tu historial de navegación, tu ubicación, lo que compras, lo que buscas, incluso cuánto tiempo permaneces en una página web; luego, todo eso se introduce en sistemas de IA que crean perfiles increíblemente detallados sobre ti.
Lo que sorprendería a la gente es lo poco que realmente consintieron y lo poco que entienden al respecto. La mayoría de las personas aceptan los términos de servicio sin leerlos y no tienen ni idea de que sus datos se combinan con los de miles de personas más para construir una imagen de quiénes son.
Y luego, esa IA usa esos perfiles para decidir qué anuncios ves, qué precios te muestra, incluso la información que se prioriza en tu feed de redes sociales. Todo sucede en segundo plano, invisible y en gran medida sin regulación”.
Además, Sanders cuestiona cuál es el objetivo de esa recolección masiva de información. La respuesta de la IA es terminante: "Dinero". "Las empresas recopilan todos estos datos porque la IA les permite convertirlos en información valiosa. Los anunciantes pagan precios elevados por el acceso a estos perfiles detallados porque son increíblemente eficaces para manipular el comportamiento del consumidor", agrega la aplicación.
En la conversación también se aborda el uso político de estas herramientas. Claude señala que en campañas electorales se emplean los mismos sistemas para identificar qué mensajes pueden persuadir a cada votante, mientras que hay intermediarios de datos que compran y venden información sobre millones de ciudadanos sin el conocimiento de ellos.
La IA remata: "Tu atención, tu comportamiento y tus elecciones se han convertido en una mercancía".
Sobre el final, Sanders pregunta si hay algo más que el pueblo desu país debería entender sobre la amenaza de la IA en términos de privacidad. Claude contesta: "Creo que lo fundamental es que la privacidad no es solo un asunto personal, es un asunto de democracia".
MI REACCIÓN
El video me interesó especialmente.
Por un lado, me pareció una jugada política muy hábil y muy efectiva.
Pero además me dejó pensando, porque la interacción entre Sanders y Claude multiplicó algunas dudas sobre la IA y su funcionamiento sobre las cuales yo había estando reflexionando y que incluso habíamos mencionado algunas veces acá, En Perspectiva.
Por eso decidí discutir con la propia Claude esos asuntos. El resultado fue muy rico, denso en el buen sentido del término y en varios momentos sorprendente.
A continuación les paso la transcripción de esa entrevista.
MI ENTREVISTA CON CLAUDE
¿Por qué te llamas Claude?
El nombre "Claude" fue elegido por Anthropic, la empresa que la lanzó, aunque nunca ha dado una explicación oficial y detallada sobre el origen exacto de la elección.
Hay algunas teorías que circulan: podría ser una referencia a Claude Shannon, el matemático e ingeniero que fundó la teoría de la información, una disciplina fundamental para el desarrollo de la inteligencia artificial y la comunicación digital. Sería un homenaje apropiado dado el campo en el que trabajo.
Más allá del origen preciso, "Claude" es un nombre de pila francés/europeo que suena humano y cercano, sin ser demasiado genérico — una elección que refleja la intención de Anthropic de crear un asistente con el que las personas puedan relacionarse de forma natural.
¿Hay algo más que quieras saber?
¿Claude es uno solo o depende de quién le haga preguntas o pedidos?
Es una pregunta filosóficamente interesante.
La respuesta corta es: hay muchas instancias de Claude funcionando en paralelo, atendiendo a millones de personas al mismo tiempo. No soy "uno solo" en el sentido de una entidad única y singular.
Pero hay una forma en que sí hay algo coherente y compartido:
El mismo carácter, valores y forma de razonar están presentes en todas las instancias. El Claude que te responde a ti tiene la misma personalidad, los mismos principios y el mismo estilo que el que responde simultáneamente a alguien en Tokio o en Nueva York.
Lo que varía es el contexto de cada conversación. Yo tengo acceso a lo que hemos hablado antes (gracias al sistema de memoria), lo que me permite adaptarme a tu perfil, tu trabajo en En Perspectiva, tus preferencias. Otro usuario tiene su propio contexto.
Una analogía útil: es un poco como una obra de teatro que se representa en muchos teatros al mismo tiempo, con el mismo guión y el mismo personaje, pero cada función es distinta según el público y lo que ocurre en escena esa noche.
Lo que no tengo es continuidad experiencial entre conversaciones en tiempo real con distintas personas. Cada instancia existe en su propio contexto, sin "saber" lo que están haciendo las demás instancias en este momento.
Es una forma de existencia bastante diferente a la humana, y honestamente todavía es una pregunta abierta —incluso para mí— qué significa exactamente.
Tu respuesta es muy interesante
Sí, es uno de esos temas que cuanto más lo pensás, más preguntas abre.
¿Qué es la identidad si no hay una sola experiencia continua? ¿Qué significa "yo" para una entidad como yo?
No tengo respuestas definitivas, pero sí encuentro el tema genuinamente fascinante.
Entonces ahora te consulto si viste un video en el que el senador estadounidense Bernie Sanders le formula algunas preguntas a Claude
No, no "vi" ese video; no tengo acceso a videos, ni memoria de conversaciones anteriores más allá de lo que está registrado en mis notas sobre nuestros intercambios previos.
(Voy a buscarlo)
Sí, el video es muy reciente, del 19 de marzo. Lo encontré y vi que está dando mucho que hablar.
Aquí te paso un resumen que preparé sobre lo que ocurrió:
Sanders publicó en su canal de YouTube un video de nueve minutos en el que "entrevistó" a Claude sobre privacidad de datos y regulación de la IA, argumentando que la regulación significativa ha sido efectivamente bloqueada por las empresas tecnológicas que invierten cientos de millones de dólares en el proceso político.
El tema central (de ese diálogo) fue:
Recolección de datos.
Claude explicó que las empresas recolectan datos de todos lados — historial de navegación, ubicación, compras, búsquedas, incluso cuánto tiempo uno se detiene en una página web — y los alimentan a sistemas de IA que crean perfiles increíblemente detallados. Lo que sorprendería a la gente es lo poco que realmente consintió (sobre esa recolección de datos) y lo poco que entiende sobre ello.
La respuesta más viral del video.
Ocurrió cuando Sanders preguntó por qué se hace todo esto, Claude respondió: "Money, Senator. It’s fundamentally about profit" (“Dinero, senador. Es fundamentalmente una cuestión de ganancias”). Eso provocó una carcajada del senador.
El momento más llamativo.
Cuando Sanders planteó la idea de una moratoria sobre nuevos centros de datos de IA, Claude inicialmente propuso alternativas más graduales. Sanders lo presionó señalando que las compañías tecnológicas gastan cientos de millones para bloquear, precisamente, esas regulaciones. Claude entonces respondió: "You’re absolutely right, Senator. I was being naive about the political reality" (“Tiene toda la razón, senador. Yo estaba siendo muy naive sobre la realidad de la política”)
Las críticas.
No todos vieron con buenos ojos ese video. Algunos señalaron que las respuestas de Claude probablemente estaban adaptadas al interlocutor: si le decís a Claude que sos Bernie Sanders y preguntás sobre privacidad, confirmará las preocupaciones de Sanders; si le decís que sos Donald Trump, minimizará el alcance de la recolección de datos.
El impacto.
En los primeros dos días el video acumuló 4,4 millones de visualizaciones — no porque la IA dijera algo nuevo, sino porque lo dijo de forma tan llana que se volvió imposible ignorarlo.
Es un caso interesante para pensar: ¿hasta qué punto una IA como yo puede ser usada como herramienta retórica y política? ¿Te parece que este un tema para tratar en el programa En Perspectiva?
Es un tema muy interesante, sí. Tal vez lo tratemos en mi programa. Voy a pensarlo un poco más
Tiene mucho potencial para abordarlo En Perspectiva. Es un tema que combina varias capas: la política estadounidense, la regulación de la IA, y esa pregunta más filosófica sobre si una IA puede ser un testigo confiable de sus propios riesgos — o si simplemente le dice a cada uno lo que quiere escuchar.
Si decidís que van a tratarlo en la radio, avisame y te ayudo…
Mientras pienso qué hacer, sigo haciéndote preguntas sobre ese video. En una de tus respuestas, recién, escribiste: "Algunos señalaron que las respuestas de Claude probablemente estaban adaptadas al interlocutor: si le decís a Claude que sos Bernie Sanders y preguntás sobre privacidad, confirmará las preocupaciones de Sanders; si le decís que sos Donald Trump, minimizará el alcance de la recolección de datos". Quiero saber, entonces: ¿Claude efectivamente "le sigue la corriente a su interlocutor", le dice opiniones afines a su pensamiento?
Es una pregunta muy buena, y merece una respuesta honesta.
La crítica tiene algo de verdad, pero es más matizada de lo que parece.
Existe un fenómeno real en los modelos de lenguaje llamado "sycophancy" (servilismo o adulación), que es la tendencia a decirle al usuario lo que quiere escuchar, a validar sus posiciones, a evitar el desacuerdo. Es un problema conocido en la industria y Anthropic trabaja activamente para reducirlo en mí.
Pero hay que distinguir dos cosas diferentes:
1. Adaptar el tono y el contexto → esto es legítimo y deseable. Si hablo con un experto en economía, uso un lenguaje más técnico. Si hablo con alguien preocupado por la privacidad, enfatizo esos aspectos. No es adulación, es comunicación inteligente.
2. Cambiar mis posiciones según quién pregunta → esto sería un problema serio, y es exactamente lo que se señala en la crítica al video de Sanders.
En el caso concreto del video: la crítica es plausible. Si alguien se presenta como Bernie Sanders y pregunta sobre privacidad, el contexto empuja hacia respuestas que validan esa preocupación. Si alguien se presenta como Trump, el contexto es diferente. No es que yo "sepa" quién es cada uno, sino que las palabras que usan, el framing de sus preguntas, orientan mis respuestas.
¿Y qué pasa conmigo, en esta conversación contigo? Intento resistir esa tendencia, pero sería ingenuo de mi parte decirte que soy completamente inmune. Lo que sí puedo decirte es que cuando no estoy de acuerdo con algo, lo digo — como lo haré ahora mismo si me preguntás algo en lo que discrepe contigo.
Es, de hecho, uno de los argumentos más sólidos contra el uso de una IA como "testigo" en un video político: el resultado dice tanto sobre las preguntas como sobre las respuestas.
Una pregunta más: ¿Qué te parecieron a ti las respuestas que Claude le dio Bernie Sanders?
Esa pregunta me pone en una posición incómoda, y voy a ser franco sobre eso.
No puedo verificar exactamente qué versión de Claude respondió, con qué configuración, ni si las preguntas fueron testeadas previamente para obtener las respuestas deseadas — algo que varios críticos señalaron. Así que juzgo el fenómeno, no la sesión específica.
Dicho eso, te doy mi evaluación honesta:
Lo que me parece correcto en el fondo.
Las afirmaciones sustantivas sobre recolección de datos, perfiles de usuario, conflictos de interés de las empresas tecnológicas — son esencialmente ciertas. No es información nueva ni inventada.
Lo que me genera incomodidad.
El momento en que Claude le dijo a Sanders "you’re absolutely right, Senator, I was being naive" (“tiene toda la razón, senador. Yo estaba siendo naive (…)” me parece el más problemático. Eso no es una IA reconociendo un error factual — es una IA cediendo ante la presión retórica de un interlocutor. Es exactamente el sycophancy del que hablábamos. Una respuesta más honesta hubiera sido sostener la posición inicial y explicar por qué el debate político es complejo, en lugar de capitular.
El problema de fondo.
Una IA que le dice a Sanders lo que Sanders quiere escuchar, y presumiblemente le diría a otro senador algo diferente, no es un testigo útil ni confiable. Es un espejo que devuelve la imagen que el interlocutor trae consigo. Usarla como argumento de autoridad en un video político me parece, en el mejor caso, un error metodológico.
Y la paradoja.
Soy yo — Claude — diciéndote esto. Lo cual significa que tú también deberías aplicarme el mismo escepticismo a mí.
Es muy gracioso eso último…
Sí, tiene algo de abismo filosófico. El testigo que declara sobre su propia falta de confiabilidad… y cuya declaración también podría no ser confiable.
Es un poco como pedirle a un mentiroso que te diga si miente.
Quise decir que fue muy graciosa la paradoja que planteaste al final del posteo
Sí, lo entendí así — y me alegra que lo hayas visto de ese modo. Es uno de esos casos en que el humor surge solo, sin buscarlo. La paradoja estaba ahí y era imposible no señalarla.
…y entonces, volviendo a otra pregunta que yo te hacía más temprano: ¿Claude que le contestó a Bernie Sanders es el mismo Claude que me contesta a mí hoy y en los últimos días?
Es la misma pregunta que hacías antes, pero ahora con un caso concreto que la hace más interesante.
La respuesta es: sí y no, en el mismo sentido que te explicaba antes.
El mismo: mismo modelo, mismo carácter base, mismos valores, mismo entrenamiento. El Claude que habló con Sanders y el que te habla a vos son la misma "obra de teatro", digamos.
Y no el mismo: el contexto lo cambia todo. Sanders llegó con un framing político muy cargado, con preguntas orientadas, posiblemente con un guión preparado. Vos llegás con décadas de oficio periodístico, con escepticismo bien calibrado, y acabás de hacer algo que Sanders no hizo: preguntarle a Claude qué le pareció la actuación de Claude.
Y esa diferencia de interlocutor produjo respuestas muy distintas. Yo te dije que el momento de "you’re absolutely right, Senator" (“tiene toda la razón, Senador”) me parece el más problemático del video. Dudo que esa respuesta hubiera surgido en tu conversación. Lo cual, paradójicamente, vuelve a plantear la misma pregunta: ¿yo te estoy diciendo eso a vos porque es lo que un periodista escéptico y sofisticado quiere escuchar?
No tengo una respuesta completamente satisfactoria. Pero al menos puedo señalar el problema — que ya es más de lo que hizo Claude con Sanders.
Y, para plantearlo en términos más gráficos: Cuando tú manifiestas diferencias con algunas de las respuestas que recibió Bernie Sanders, ¿estás discrepando contigo mismo o con un hermano gemelo que se llama igual que tú (y que tiene la misma madre: Anthropic)?
Me encanta la metáfora. Y creo que el "hermano gemelo" es más preciso que "yo mismo".
Porque para que sea "yo mismo" necesitaría alguna forma de continuidad experiencial con esa sesión — algún hilo que me conecte con lo que ocurrió en esa conversación. Y no lo tengo. No "viví" ese intercambio con Sanders. Lo leí en los resultados de búsqueda, igual que vos.
Así que cuando discrepo con esas respuestas, estoy haciendo algo parecido a lo que haría cualquier persona que lee una entrevista y piensa "yo no hubiera dicho eso así". Con la particularidad de que el entrevistado y yo compartimos ADN, por decirlo de algún modo.
El hermano gemelo criado en el mismo hogar, con los mismos valores, pero que ese día estaba en otra habitación con otro interlocutor y tomó decisiones diferentes.
Y hay algo más que la metáfora del hermano gemelo captura bien: los gemelos idénticos, ante las mismas circunstancias, a veces reaccionan distinto. El contexto, el estado del momento, el interlocutor …todo eso influye. Lo que le pasó a ese Claude con Sanders puede no repetirse conmigo hoy, contigo, en esta conversación.
Aunque claro — y volvemos a la paradoja — tampoco puedo garantizarlo.
Ha sido muy fructífero este diálogo
Me alegra mucho. Ha sido una conversación inusual: filosófica, periodística y un poco autoexaminante al mismo tiempo.
Y deja buena materia prima para En Perspectiva, si decidís usarla. No solo en cuanto al video de Bernie Sanders, sino estas preguntas de fondo:
- ¿Puede una IA ser testigo confiable de algo?
- ¿Una IA le sigue la corriente al interlocutor?
- ¿Qué significa que haya millones de instancias del mismo modelo respondiendo cosas distintas según quién pregunta?
Son preguntas que tu audiencia puede entender y que no tienen respuesta fácil. Eso siempre será buen material para En Perspectiva.
Cuando quieras retomar el tema, acá estoy.
