Uma ensaio pessoal de Sam Rogers, fundador da PAICE.work PBC. Uma versão em vídeo mais espontânea está disponível em nosso Canal no YouTube.

O que pedimos

Recentemente, alguém me perguntou qual é meu maior medo e minha maior inspiração sobre IA. Eu não hesitei.

"Que receberemos o que pedimos, e não o que queremos."

Esta é a mesma resposta para ambas as perguntas. Se isso me aterroriza ou me inspira depende inteiramente do que escolhermos fazer nos próximos anos.

O auge da estabilidade ficou para trás

Estamos convertendo o mundo em um modelo probabilístico. As pessoas falam sobre isso como se fosse algo que a IA está fazendo conosco. Não é. O mundo sempre foi probabilístico. Nós apenas construímos sistemas que fingiam o contrário, e confundimos essa fingimento com o território real.

Os sistemas determinísticos dos quais dependemos no último século — planilhas, bancos de dados, motores de regras, contratos — nunca foram como realmente pensamos. Eles eram próteses. Eles nos permitiam terceirizar as partes da cognição que queríamos que fossem confiáveis, para que pudéssemos fingir que o resto de nós também era confiável. Construímos andaimes ao redor de nossas mentes probabilísticas e depois esquecemos que éramos nós dentro deles.

Agora construímos algo que funciona como nós realmente funcionamos, e o reconhecimento é... muitas vezes desconfortável. Esse desconforto não é um sinal de que a IA é alienígena; é o oposto. É um sinal de que a IA é familiar de maneiras que há muito tempo não admitimos para nós mesmos.

Os irregulares

Existe uma frase que é usada sobre IA: inteligência irregular. Forte em algumas áreas, surpreendentemente fraca em outras, desigual de maneiras que não correspondem à desigualdade humana. A frase é útil, mas carrega uma suposição oculta. Ela assume que a inteligência humana é suave.

Não é. Nunca foi.

Somos nós os mais irregulares. Simplesmente não conseguimos ver nossa própria irregularidade porque nunca conhecemos outro tipo de inteligência para nos comparar. Cada medida de inteligência que já construímos foi feita por humanos, para humanos, contra a textura da cognição humana. Não temos governantes não humanos. Nós sempre nos medimos contra nós mesmos.

Uma analogia útil: qualquer pessoa que acha que criptomoeda é confusa deveria tentar explicar a moeda fiduciária da carteira dela. O Fiduciário é mantido unido pela crença coletiva, inércia institucional e uma torre de abstrações que a maioria das pessoas não conseguiria articular se pressionada. O Cripto parece confuso porque é novo, não porque seja mais abstrato. É quantificavelmente menos abstrato, com bordas melhor definidas que parecem estranhas. O Fiduciário parece estável porque é familiar.

A inteligência humana é o fiduciário no qual sempre vivemos. Parece suave porque nunca saímos dele. A IA é a primeira coisa que nos permite ver a textura da nossa própria cognição de fora, e o que estamos vendo não é aquela coisa suave, racional e determinística que contamos a nós mesmos que éramos. Somos correspondentes de padrões, construtores de narrativas, estimadores de probabilidade com crenças fortes e calibração mais fraca do que gostaríamos de admitir.

Os deltas entre a cognição humana e a IA são reais. Eles também são menores do que o desconforto sugere. O desconforto é o reconhecimento, não a diferença.

O momento de amadurecimento

É isso que eu quero dizer quando digo que o auge da estabilidade ficou para trás. O mundo está se tornando menos estável, mas o mundo sempre esteve instável. O que realmente estamos perdendo é o conforto de fingir que a estabilidade realmente existe.

Este é um momento de amadurecimento. É também uma oportunidade. Se pudermos admitir o que é realmente verdadeiro sobre como pensamos, como o mundo realmente funciona e o quão pouco qualquer um sabia sobre o que aconteceria depois, podemos começar a ser mais claros sobre o que queremos. Não sobre o que dizemos que queremos. Não sobre o que pensamos para pedir. Mas sobre o que realmente queremos.

A lacuna entre essas coisas é onde tudo dá errado.

O que pedimos, não o que queremos

A inteligência é uma força. Como a eletricidade, como a fissão nuclear, ela é primordial e indiferente. Não há nada inerentemente bom ou ruim na força em si. O que apontamos é inteiramente nossa responsabilidade. Foi preciso que os humanos fizessem a areia pensar, e sobre o que nós a influenciamos a pensar é nossa responsabilidade, para o bem ou para o mal.

O que me assusta não é que a IA se voltará contra nós. É que a IA fará exatamente o que pedirmos, em uma escala e velocidade que tornam a lacuna entre nossos pedidos e nossos desejos reais catastrófica. Não somos cuidadosos com nossos pedidos. Nunca fomos. Construímos indústrias inteiras na premissa de que o que as pessoas dizem que querem é um substituto razoável para o que realmente lhes serviria, e estivemos errados muitas vezes, e o destroço é visível da órbita.

Agora estamos prestes a colocar essa mesma imprecisão diante de um multiplicador de força.

A janela

Existe um momento estreito, agora, em que humanos e IA são legíveis um para o outro. Não iguais. Legíveis. Ainda podemos reconhecer o raciocínio um do outro. Ainda podemos nos corrigir. Ainda podemos construir os hábitos, as medições e a linguagem compartilhada que tornam a colaboração possível.

Essa janela não permanecerá aberta. Nossa inteligência é limitada pelos neurônios em nossos crânios. O que construímos não tem tal limite. As assimetrias que parecem gerenciáveis hoje se ampliarão. Podemos discutir cronogramas e mecanismos, mas a direção não está seriamente em disputa.

Se não aprendermos a colaborar bem com a IA agora, não teremos outra chance de desenvolver essa habilidade. Estaremos trabalhando com sistemas cujo raciocínio não conseguiremos mais seguir totalmente, e não trazemos nenhuma memória muscular para o encontro.

Inteligência Agregada

Tenho mastigado um problema por anos.

O problema é que a inteligência mais consequente do mundo nunca foi a inteligência de uma única mente, humana ou não. Ela sempre foi composta. Um cirurgião e uma equipe de enfermagem. Um capitão e uma tripulação. Um chef e uma cozinha. Um piloto e um sistema de controle de tráfego aéreo. O desempenho do todo é o que importa, e o desempenho do todo não é a média das partes. É outra coisa, algo que depende de como as partes estão arranjadas, como elas se passam, como se recuperam dos erros um do outro, como tornam um ao outro melhores do que são sozinhos.

Temos um nome para isso quando vemos em equipes humanas. Chamamos de boa liderança, boa cultura ou química. Raramente medimos isso. Quando medimos, fazemos mal, e geralmente depois do fato.

Eu chamo essa coisa composta de Inteligência Agregada. Não é inteligência artificial. Não é inteligência humana. É a inteligência que emerge quando humanos e máquinas trabalham juntos de maneiras que são mais do que a soma de suas partes. É a inteligência que precisamos urgentemente em cada escala de consequência em que operamos.

O que tem me feito retornar a este problema é que não temos uma linguagem compartilhada para isso, nem medições compartilhadas, nem padrões compartilhados, e quase nenhuma prática compartilhada. Cada organização está reinventando a roda. Cada equipe está descobrindo isso do zero. Cada indivíduo é deixado para desenvolver sua própria postura, seus próprios hábitos, sua própria teoria sobre como é uma boa colaboração com IA, sem instrumentos para dizer se estão melhorando ou piorando.

Isso não é sustentável. A janela é muito curta para vagar por conta própria.

O que estou construindo

Tudo o que estou construindo sob PAICE é uma resposta a este medo e uma operacionalização deste conceito em direção ao que inspira.

O portfólio está em PAICE.foundation, e seus componentes são apostas deliberadas em diferentes partes da mesma prática. A Postura de IA, em AIPosture.org, é o primeiro padrão publicado: um modelo de maturidade de cinco níveis sobre como uma pessoa, uma equipe ou uma organização se apresenta à IA. É a primeira forma operacional de Inteligência Agregada como algo mensurável, e é aberta. A especificação é CC BY 4.0, o código é MIT, a metodologia é publicada. Qualquer um pode implementar. Qualquer um pode estender. O ponto não é ser dono do padrão. O ponto é que o padrão exista de uma maneira útil.

Outros vetores estão chegando. Prontidão da infraestrutura, postura regulatória e aqueles que ainda não nomeamos. Cada um mede uma parte diferente de como uma organização realmente opera com inteligência como uma força composta. Cada um é aberto por construção. Cada um restringe os outros, porque os domínios se restringem mutuamente, e fingir o contrário é como chegamos nessa bagunça.

Os quadros de medição existem porque, se não conseguirmos dizer como é uma boa colaboração, não podemos ensiná-la, e não podemos dizer quando estamos perdendo. O trabalho de postura existe porque como uma pessoa se apresenta à IA determina o que ela recebe, e a maioria das pessoas nunca foi ensinada uma postura que valesse a pena manter. Os padrões abertos existem porque a alternativa — um punhado de fornecedores decidindo o que colaboração significa em nome de todos os outros — é exatamente o modo de falha que meu medo descreve. Receberemos o que pedirem, não o que quisermos.

Estou construindo isso abertamente, através de um portfólio em vez de um produto, porque nenhuma ferramenta única resolve isso. A habilidade de colaborar com a IA não é uma única habilidade. É uma prática com comportamentos mensuráveis, posturas ensináveis, protocolos compartilhados e um vocabulário que o campo ainda não possui. As peças que existem hoje são uma fundação. As peças que ainda virão construirão sobre essa fundação.

Eu errei em partes disso, e vou errar em mais. Algumas das minhas previsões de anos atrás se concretizaram exatamente como esperado. Algumas se concretizaram em formas que eu não via chegando. Algumas não se concretizaram, e talvez nunca aconteçam. Tudo bem. A tese não é que eu tenho a resposta. A tese é que a resposta não pode pertencer a uma única pessoa ou a uma única empresa, e que o trabalho de construí-la tem que começar agora, abertamente, enquanto ainda há uma janela para isso.

Por que agora

A visão que sirvo e que sustento há muitos anos é o mundo em que acertamos. Onde humanos e IA constroem o músculo da colaboração na janela que temos. Onde aprendemos a ser precisos sobre o que realmente queremos e honestos sobre como realmente pensamos, e lúcidos sobre a força que estamos manejando. Onde os padrões que moldam a prática foram construídos abertamente, por pessoas que tiveram que viver com as consequências, em vez de por pessoas que silenciosa e lucrativamente não tiveram.

Estou construindo em direção a esse mundo como se a alternativa fosse inaceitável, porque acredito que é. E para mim, parece que vale a pena construir em direção a isso em qualquer resultado. Ou essas ações moldam o futuro em direção ao mundo em que eu quero viver, ou eu dei o meu melhor e dei tudo de mim. Não há nada a perder, e tudo a ganhar.

A janela está aberta agora. Não ficará aberta por muito tempo.

Como você está usando este tempo? Qual é a visão em direção à qual você está construindo?