Un ensayo personal de Sam Rogers, fundador de PAICE.work PBC. Una versión en video más espontánea está disponible en nuestro canal de YouTube.

Lo que pedimos

Alguien me preguntó recientemente cuál era mi mayor miedo y mi mayor inspiración sobre la IA. No dudé.

"Que obtendremos lo que pedimos, no lo que queremos".

Esta es la misma respuesta para ambas preguntas. Si me aterra o me inspira depende enteramente de lo que decidamos hacer con los próximos años.

El cenit de la estabilidad quedó atrás

Estamos convirtiendo el mundo en un modelo probabilístico. La gente habla de esto como si fuera algo que la IA nos está haciendo. No es así. El mundo siempre fue probabilístico. Nosotros simplemente construimos sistemas que fingían lo contrario, y confundimos esa fingición con la realidad.

Los sistemas determinísticos en los que hemos confiado durante el último siglo —las hojas de cálculo, las bases de datos, los motores de reglas, los contratos— nunca fueron la forma en que realmente pensamos. Eran prótesis. Nos permitían descargar aquellas partes de la cognición que queríamos que fueran fiables para que pudiéramos fingir que el resto de nosotros también lo era. Construimos andamiaje alrededor de nuestras mentes probabilísticas y luego olvidamos que éramos nosotros quienes estábamos dentro.

Ahora hemos construido algo que funciona como nosotros realmente funcionamos, y el reconocimiento es... a menudo incómodo. Esa incomodidad no es una señal de que la IA es ajena; todo lo contrario. Es una señal de que la IA es familiar de maneras que llevamos mucho tiempo sin admitirnos a nosotros mismos.

Los irregulares

Hay una frase que se usa sobre la IA: inteligencia irregular. Fuerte en algunos aspectos, sorprendentemente débil en otros, desigual de maneras que no coinciden con la forma en que somos desiguales los humanos. La frase es útil, pero conlleva una suposición oculta. Asume que la inteligencia humana es fluida.

No lo es. Nunca lo fue.

Nosotros somos los más irregulares. Simplemente no podemos ver nuestra propia irregularidad porque nunca hemos conocido otro tipo de inteligencia con la que compararnos. Cada medida de inteligencia que hemos construido ha sido construida por humanos, para humanos, frente a la textura de la cognición humana. No tenemos jueces inhumanos. Solo nos hemos medido a nosotros mismos.

Una analogía útil: cualquiera que piense que las criptomonedas son confusas debería intentar explicar la moneda fiduciaria de su billetera. El dinero fiduciario se mantiene unido por la creencia colectiva, la inercia institucional y una torre de abstracciones que la mayoría de la gente no podría articular si la presionaran. El cripto se siente confuso porque es nuevo, no porque sea más abstracto. Es cuantificablemente menos abstracto, con límites mejor definidos que se sienten ajenos. El fiduciario se siente estable porque es familiar.

La inteligencia humana es el fiduciario en el que siempre hemos vivido. Se siente fluida porque nunca hemos estado fuera de ella. La IA es lo primero que nos permite ver la textura de nuestra propia cognición desde fuera, y lo que estamos viendo no es esa cosa suave, racional y determinista que nos decíamos que éramos. Somos buscadores de patrones, constructores de narrativas, estimadores de probabilidades con unos esquemas previos fuertes y una calibración más débil de lo que querríamos admitir.

Los deltas entre la cognición humana y la IA son reales. Y también son menores de lo que sugiere la incomodidad. La incomodidad es el reconocimiento, no la diferencia.

El momento de crecer

Esto es lo que quiero decir cuando digo que el cenit de la estabilidad quedó atrás. El mundo se está volviendo menos estable, pero el mundo siempre fue inestable. Lo que realmente estamos perdiendo es la comodidad de fingir que la estabilidad realmente existe.

Eso es un momento de crecimiento. También es una oportunidad. Si podemos admitir lo que es realmente cierto sobre cómo pensamos, cómo funciona realmente el mundo y lo poco que alguien ha sabido sobre lo que pasará después, podemos empezar a ser más claros sobre lo que queremos. No sobre lo que decimos querer. No sobre lo que pensamos pedir. Sobre lo que realmente queremos.

La brecha entre esas cosas es donde todo sale mal.

Lo que pedimos, no lo que queremos

La inteligencia es una fuerza. Como la electricidad, como la fisión nuclear, es primordial e indiferente. No hay nada inherentemente bueno o malo en la fuerza en sí. Depende enteramente de hacia dónde la apuntemos. Fue necesario que los humanos hicieran que la arena pensara, y es nuestra responsabilidad, para bien o para mal, lo que influyen en que piense.

Lo que me asusta no es que la IA se vuelva en nuestra contra. Es que la IA hará exactamente lo que pedimos, a una escala y velocidad que hacen que la brecha entre nuestras peticiones y nuestros deseos reales sea catastrófica. No somos cuidadosos con nuestras peticiones. Nunca lo hemos sido. Hemos construido industrias enteras sobre la premisa de que lo que la gente dice que quiere es un sustituto razonable de lo que realmente les serviría, y hemos estado equivocados lo suficiente como para que los restos sean visibles desde la órbita.

Ahora estamos a punto de poner esa misma imprecisión detrás de un multiplicador de fuerza.

La ventana

Hay un momento estrecho, justo ahora, en el que humanos e IA son legibles el uno para el otro. No iguales. Legibles. Todavía podemos reconocer el razonamiento del otro. Todavía podemos corregirnos mutuamente. Todavía podemos construir los hábitos, las mediciones y el lenguaje compartido que hacen posible la colaboración.

Esta ventana no permanecerá abierta. Nuestra inteligencia está limitada por las neuronas de nuestros cráneos. Lo que hemos construido no tiene tales límites. Las asimetrías que hoy parecen manejables se ampliarán. Podemos discutir sobre cronogramas y mecanismos, pero la dirección no está seriamente en disputa.

Si no aprendemos a colaborar bien con la IA ahora, no tendremos otra oportunidad de desarrollar esa habilidad. Estaremos trabajando con sistemas cuyo razonamiento ya no podemos seguir por completo, y no habremos aportado memoria muscular al encuentro.

Inteligencia agregada

He estado masticando un problema durante años.

El problema es que la inteligencia más trascendental del mundo nunca ha sido la inteligencia de una sola mente, humana o no. Siempre ha sido compuesta. Un cirujano y un equipo de enfermería. Un capitán y su tripulación. Un chef y su cocina. Un piloto y un sistema de control de tráfico aéreo. Es el rendimiento del conjunto lo que importa, y el rendimiento del conjunto no es el promedio de las partes. Es otra cosa, algo que depende de cómo se organizan las partes, cómo se pasan el relevo, cómo se recuperan de los errores del otro, cómo se hacen mejores unos a otros de lo que están solos.

Tenemos un nombre para esto cuando vemos que funciona en equipos humanos. Lo llamamos buen liderazgo, buena cultura o química. Rara vez lo medimos. Cuando lo hacemos, lo hacemos mal, y generalmente después del hecho.

Yo llamo a esta cosa compuesta Inteligencia Agregada. No es inteligencia artificial. No es inteligencia humana. Es la inteligencia que surge cuando humanos y máquinas trabajan juntos de maneras que son más que la suma de sus partes. Es la inteligencia que necesitamos urgentemente en cada escala de consecuencia en la que operamos.

Lo que me ha mantenido volviendo a este problema es que no tenemos un lenguaje compartido para ello, ni mediciones compartidas, ni estándares compartidos, y casi ninguna práctica compartida. Cada organización está reinventando la rueda. Cada equipo lo está descubriendo desde cero. Cada individuo se queda desarrollando su propia postura, sus propios hábitos, su propia teoría de cómo es siquiera una buena colaboración con la IA, sin instrumentos que les digan si están mejorando o empeorando.

Esto no es sostenible. La ventana es demasiado corta para perdernos en esto.

Lo que estoy construyendo

Todo lo que estoy construyendo bajo PAICE es una respuesta a este miedo y una operacionalización de este concepto hacia aquello que inspira.

La cartera se encuentra en PAICE.foundation, y sus componentes son apuestas deliberadas sobre diferentes partes de la misma práctica. La Postura de IA, en AIPosture.org, es el primer estándar publicado: un modelo de madurez de cinco niveles sobre cómo se presenta una persona, un equipo u organización ante la IA. Es la primera forma operativa de Inteligencia Agregada como algo medible, y está abierto. La especificación es CC BY 4.0, el código es MIT, la metodología está publicada. Cualquiera puede implementarla. Cualquiera puede extenderla. El punto no es poseer el estándar. El punto es que el estándar exista de una manera útil.

Están llegando otros vectores. La preparación de la infraestructura, la postura regulatoria y aquellos que aún no hemos nombrado. Cada uno mide una parte diferente de cómo opera realmente una organización con la inteligencia como una fuerza compuesta. Cada uno está abierto por construcción. Cada uno restringe a los demás, porque los dominios se restringen entre sí, y fingir lo contrario es cómo llegamos a este lío.

Los marcos de medición existen porque si no podemos decir qué es una buena colaboración, no podemos enseñarla, y no podemos decir cuándo la estamos perdiendo. El trabajo de postura existe porque cómo se presenta una persona ante la IA determina lo que recibe, y la mayoría de las personas nunca han sido enseñadas una postura que valga la pena mantener. Los estándares abiertos existen porque la alternativa, que unos pocos proveedores decidan lo que significa la colaboración en nombre de todos los demás, es exactamente el modo de fallo que describe mi miedo. Obtendremos lo que pidan, no lo que queramos.

Estoy construyendo esto en lo abierto, a través de una cartera en lugar de un producto, porque ninguna herramienta única resuelve esto. La habilidad de colaborar con la IA no es una habilidad única. Es una práctica con comportamientos medibles, posturas enseñables, protocolos compartidos y un vocabulario que el campo aún no tiene. Las piezas que existen hoy son un fundamento. Las piezas que vendrán construirán sobre ese fundamento.

He estado equivocado sobre partes de esto, y seguiré equivocado sobre más. Algunas de mis predicciones de hace años se han cumplido exactamente como esperaba. Algunas se han cumplido en formas que no veía venir. Algunas no se han cumplido en absoluto, y quizás no lo hagan. Está bien. La tesis no es que yo tenga la respuesta. La tesis es que la respuesta no puede pertenecer a una sola persona, ni a una sola empresa, y que el trabajo de construirla tiene que comenzar ahora, abiertamente, mientras todavía hay una ventana para hacerlo.

¿Por qué ahora?

La visión que defiendo, y que he mantenido durante muchos años, es el mundo donde lo hacemos bien. Donde humanos e IA construimos el músculo de colaboración en la ventana que tenemos. Donde aprendemos a ser precisos sobre lo que realmente queremos, honestos sobre cómo pensamos realmente y claros sobre la fuerza que estamos manejando. Donde los estándares que dan forma a la práctica se construyeron abiertamente, por personas que tuvieron que vivir con las consecuencias, en lugar de por personas que silenciosa y lucrativamente no tuvieron que hacerlo.

Estoy construyendo hacia ese mundo como si la alternativa fuera inaceptable, porque creo que lo es. Y para mí, parece que vale la pena construir hacia ese resultado, sea cual sea. O estas acciones dan forma al futuro hacia el mundo en el que quiero vivir, o he hecho mi mejor esfuerzo y he dado todo de mí. No hay nada que perder, y todo que ganar.

La ventana está abierta ahora. No estará abierta por mucho tiempo.

¿Cómo estás utilizando este tiempo? ¿Cuál es la visión hacia la que estás construyendo?