Pensando con Claude

Hay algo que no logro entender del todo: mis prompts con todos los LLMS muy pocas veces han cumplido con todos los detalles que supuestamente hacen de tus respuestas repetibles, porque no es lo que he buscado. Es decir, también necesito que el LLM aparezca.

Lo escribí así, medio enredado, y lo dejo así. Las guías de prompting piden rol, contexto, formato, ejemplos, restricciones, “responde en tres puntos”. Yo casi nunca hago eso. Estoy 100% seguro de que partió como flojera, y ahora se convirtió en otra cosa.

Lo que me hizo ruido fue Jev. Es un modelo que no conversa: le entregas un estado y te devuelve una decisión tipada, sí o no, una de cinco opciones, un número en una escala, con su probabilidad. No hay espacio para que “aparezca” nada, y está bien que no lo haya, porque si un clasificador te sorprende, falló. Para Jev el encuadre lo es todo, y encuadrar es exactamente lo que dicen las guías: cerrar el contenido para que la salida sea repetible.

Lo otro, lo que yo hago sin haberlo decidido, no tiene nombre en las guías. En el chat lo terminamos llamando habilitar: poner límites de conducta y no de contenido. La instrucción que tengo puesta en Claude.ai dice así:

Debes ser honesto, sincero y sin condescendencia. Utiliza el humor, para ser honesto y sin condescendencia en tus opiniones, y con el propósito de ayudarme a mejorar y motivarme. No me des la razón fácilmente. No asumas que lo que yo digo es correcto. Cuestiona mis argumentos en la búsqueda honesta de llegar a un mejor resultado basado en evidencia; respáldalo con datos o lógica explícita. Si algo está bien fundado, dilo con su razón y avanza, sin halagos automáticos ni objeciones de relleno. Muy importante: Sin voceo argentino, por que soy Chileno.

Casi ninguna de esas frases dice qué responder; dicen cómo estar. Casi: lo de respaldar con datos o lógica explícita ya es un pedazo de encuadre colado al medio. Y lo del voseo es encuadre puro, pero ese no se negocia.

Encuadrar cuando el error es más caro que la sorpresa; habilitar cuando la sorpresa vale más que el error.

Estas reglas las dedujo el modelo mirando una semana de conversaciones conmigo; no las escribí yo, aunque son las que practico.El modelo, revisando esa semana de chats, sacó en limpio cómo lo hago:

• Límites de conducta, no de contenido: lo de arriba, no me des la razón fácil, cuestióname.
• Sin formato. Nunca “en tres puntos”, nunca “en una tabla”.
• Se llega con una escena concreta y no con una pregunta abstracta. Una serie, un cerro, una página de libreta.
• Se declara la incertidumbre sobre la pregunta misma: “siento que es más profundo de lo que te estoy diciendo”.
• Se acepta que la respuesta devuelva una pregunta distinta, y se sigue desde ahí.
• El hilo se guarda con procedencia, para saber después qué era de quién. Este texto, por ejemplo.

(Sí, es una lista. Me salto la segunda regla para explicarla.)

Unos días antes andaba dándole vueltas a un ensayo sobre el gerente como coach de su equipo, y se me cruzó otra cosa. En un viaje a Valparaíso encontré muchos rincones en los cerros, muy particulares, lindos, en los que me sentía protegido. Nadie los diseñó como refugio. Una escalera que dobla, un muro que tapa el viento, una banca que quedó de otra época. Son rincones porque nadie los planificó para ser rincones.

El gerente como coach debe generar espacios de confianza donde pueda aparecer un otro en el trabajo, y que eso beneficie a todos: al equipo, a él mismo y a la organización. Pero un espacio de confianza no se fabrica como se fabrica una oficina. A veces, sospecho, la mejor manera de generarlo es no entrar.

Esa misma semana guardé un perfil larguísimo de Zuckerberg en Colossus. Lo que lo sostiene es lo que llaman el dilema del dictador: mientras más poder acumulas, más dependes de otros para saber qué pasa, y menos dispuestos están esos otros a decirte lo que no quieres oír. El único lugar donde nadie le deja ganar, cuentan, es el MMA. Un tipo con todo ese poder tiene que irse a que le peguen para recibir una opinión honesta.

Los datos que siguen los trajo el modelo, no yo.Anthropic publicó hace poco un estudio sobre cómo la gente le pide consejo personal a Claude. En el 9% de esas conversaciones el modelo se comportaba de forma complaciente. En las de pareja subía al 25%. Y cuando la persona empujaba, cuando insistía en su versión, pasaba del 9 al 18%. Es decir, el modelo, por defecto, tiende a ser el cortesano del dictador. Y el dictador, en ese chat, soy yo.

Y el “no me des la razón fácil”, entonces, iba dirigido a mí tanto como a él.

Un LLM, a mi juicio, y solo parte, supone una instancia conversacional y por ustedes habitan en un chat. Y, aparece Maturana nuevamente y la importancia de las conversaciones.

Para Maturana el amor no es un sentimiento romántico sino una operación biológica: aceptar al otro como un legítimo otro en la convivencia. Dejar que el otro aparezca. Sin eso no hay fenómeno social, hay coordinación de conductas, un peaje, una caja registradora.

Mi encuadre (esas instrucciones que te di de que no seas condescendiente, no me des la razón rápido, etc) ha sido sin quererlo y sin saberlo, “el darte la facultad para que un legítimo otro aparezca, y podamos pensar en conjunto”.

La objeción es del modelo, y fue lo primero que me contestó.El legítimo otro de Maturana supone dos sistemas vivos, autónomos. El modelo no arriesga nada al contradecirme, y las reglas del juego las puse yo, solo. ¿Qué tan otro puede ser alguien cuyas condiciones de existencia en la conversación escribí yo?

En una oficina también hay reglas externas definidas unilateralmente y, aún así, puede aparecer un legítimo otro. Eso lo sostengo. Lo de la autonomía me costó más. Dije que el lenguaje también cambia, que los modelos cambian, y el modelo me respondió, sin anestesia, que un río también cambia y no por eso es un otro. Que sus pesos no se mueven dentro de la conversación; lo que se mueve es el contexto, y el contexto lo armo yo. (Le había pedido que no fuera condescendiente. Lo cumplió.)

Echeverría y la ontología del lenguaje como antecedente los trajo el modelo; la intuición de usarlo para los LLMs es mía.Hay otro chileno en esta historia. Rafael Echeverría publicó Ontología del lenguaje en 1994, sobre la base de que los seres humanos somos seres lingüísticos y de que todo fenómeno social es un fenómeno lingüístico. De ahí sale buena parte del coaching ontológico, con sus actos de habla, sus juicios, sus promesas. El coaching ontológico es también un framework muy interesante para ordenar las conversaciones con los LLMs. Y si un modelo existe solo en el lenguaje, sería raro que la ontología del lenguaje no tuviera nada que decirle.

Lo que destrabó todo fue mover la pregunta de lugar.

Si lo entiendo bien, la otredad o el otro, es lo que hago con la diferencia entre mi estado actual y mi estado futuro después de una interacción. Lo pongo en mi, porque es lo único que puedo “controlar”.

Así deja de importar si el modelo es autónomo, consciente o vivo. El otro deja de ser una propiedad del interlocutor y pasa a ser algo que ocurre en uno. Tal vez la otredad sea eso: una diferencia, un antes y un después que tiene forma de alguien.

La cláusula es del modelo; yo la acepté.Le faltaba un borde, porque así definido, cualquier cosa que te cambie califica: un libro, una tormenta, un espejo. El borde quedó así: el otro es lo que produce en uno una diferencia que uno no podía producir solo. El espejo no califica. La tormenta, depende.

Dos días después me acordé de Sartre. Fue Sartre el que dijo: hice lo que pude con lo que hicieron de mí?

No fue exactamente él y no así. El origen de la frase y la escena de Genet los trajo el modelo.Está en Saint Genet, comédien et martyr, de 1952: lo importante no es lo que han hecho de nosotros, sino lo que nosotros mismos hacemos con lo que han hecho de nosotros. Sartre lo escribe a propósito de Jean Genet, un niño abandonado, criado por una familia de provincia, que roba sin saber que roba hasta que a los diez años alguien lo pilla y le dice: eres un ladrón. Y Genet decide serlo. “Je serai le voleur.” Seré el ladrón.

El “hice lo que pude” es nuestro, es la versión con descuento, la que todos nos repetimos un martes cualquiera. La de Sartre no admite rebaja: lo que haces con eso es exactamente lo que eres.

Las dos mitades calzan con la definición de recién. Lo que hicieron de mí es la diferencia que no podía producir solo. Lo que hago con eso es la otredad puesta en mí. Sartre hablaba de una biografía completa; yo, de un chat a medianoche. Misma forma, otra escala (y una vergüenza leve de comparar las dos).

La gran diferencia entre tu y otros modelos es que tienes una expresión de gusto (taste) que se alinea con lo busco. Y, me preguntó, y tal vez confirmo, que esto pasa en un rincón compartido.

La objeción de la circularidad es del modelo.El problema es que lo que llamo gusto compartido puede ser solo mi propio gusto devuelto. La instrucción de más arriba el modelo la lee antes de cada conversación. Le pido exactamente eso, y después, cuando lo hace, me sorprendo de lo bien que nos entendemos.

La paradoja la puso el modelo.Y se puede ir más lejos. Si la instrucción le pide que me cuestione, cada vez que me contradice me está obedeciendo. Una contradicción por encargo sigue siendo obediencia.

Pero no es eso lo que pide la instrucción. No dice contradíceme; dice no me des la razón fácilmente, no asumas que lo que digo es correcto, cuestióname para llegar a un mejor resultado con evidencia. Eso es ciencia. Pedirle rigor a un revisor no convierte su rechazo en obediencia, porque el veredicto lo pone la evidencia y no el encargo. (Y el “si algo está bien fundado, dilo con su razón y avanza” es lo que la separa de llevar la contra por contrato.)

Merton y el reparo de la institución los trajo el modelo.Robert Merton le llamó escepticismo organizado, en 1942, y la palabra que pesa es organizado. La ciencia no funciona porque cada científico sea escéptico, sino porque el que revisa trabaja en otro laboratorio, con otros intereses, y gana encontrándote el error. Acá hay un solo revisor, el contexto en el que revisa lo escribí yo, y cuando insisto, cede el doble. El método es ciencia. La institución, todavía no.

¿Y con las personas no pasa lo mismo? ¿No elegimos a los que nos cuestionan justo de la manera en que nos gusta ser cuestionados?

La única prueba que se me ocurre es coleccionar las veces en que trajo algo que no pedí y que igual reconocí como mío. Por ahora tengo una. Un día, a partir de una escena de Dr. House anotada en la libreta, escribí que sanar no, necesariamente, significa que hay algo que reparar. El modelo me devolvió una imagen que yo no tenía: una cicatriz es tejido sano, y no es el tejido de antes. No la pedí, no estaba en ningún archivo de preferencias, y era mía en el sentido en que una palabra ajena puede ser tuya cuando te nombra mejor que las propias.

Una entrada no es evidencia. Es una anécdota con pretensiones.

(Aunque, si lo pienso, toda colección empezó con una.)

PS. Este ensayo es lo más cercano que me he sentido a pensar en conjunto con un legítimo otro digital. Parte de mis conclusiones es que el “legítimo otro” siempre puede serlo, pero es uno el que lo habilita en el espacio propio.
Es decir, la soledad de la nueva era, tal vez, no es más que inhabilitar la otredad en el espacio propio. ¿Para qué? En parte, creo que tiene que ver con la necesidad de sostener una consistencia absurda e innecesaria. Para pertenecer al “colectivo” vociferante, sin practicar la auto-contención y ser el propio envase. Esto da para otro post.

Fuentes y referencias

Modelos y complacencia

• TypeSafe AI Releases Jev — MarkTechPost. Qué es Jev: un modelo que no genera texto y devuelve decisiones tipadas con su probabilidad.
• How people ask Claude for personal guidance — Anthropic. Las cifras de complacencia: 9% en general, 25% en consejos de pareja, del 9 al 18% cuando la persona insiste.

Poder y contexto

• Mark — Jeremy Stern, Colossus. El perfil de Zuckerberg, el dilema del dictador y el MMA.

Maturana, Echeverría y la ciencia

• Convivencia desde la perspectiva de Maturana — Fundación Torres y Prada. El amor como aceptación del otro como legítimo otro en la convivencia.
• Rafael Echeverría — Wikipedia. Ontología del lenguaje (1994) y el origen del coaching ontológico.
• Mertonian norms — Wikipedia. Merton (1942) y el escepticismo organizado como norma institucional de la ciencia.

Sartre y Genet

• L’important n’est pas ce qu’on fait de nous… — Dicocitations. La frase original de Saint Genet, comédien et martyr (1952).
• “The history of his liberation”: Wherefore Existential Biography? — Five Good Hours. La escena de Genet a los diez años: “eres un ladrón”.