A IA generativa é mais do que uma ferramenta criativa: quem controla o resultado?

A IA generativa é geralmente apresentada através de uma demonstração: escreva uma frase e receba uma imagem; descreva uma cena e receba um vídeo; indique um estado de espírito e receba música. A demonstração é útil, mas esconde a questão que mais importa. Quando criar conteúdos se torna barato, quem decide o que é criado, o que é mostrado, o trabalho de quem é utilizado e o que as pessoas conseguem verificar?

Este artigo é um guia para leitores que estão a dar os primeiros passos no tema. Explica o que faz a IA generativa, qual o papel dos pedidos e por que razão a questão importante vai além de uma lista de ferramentas. A tecnologia é uma interface entre a intenção de uma pessoa e o resultado de um sistema. Essa interface também contém predefinições, dependências e poder.

Comece pela questão subjacente à demonstração

Um modelo generativo não raciocina sobre um pedido da mesma forma que uma pessoa. Aprende padrões a partir de grandes coleções de exemplos e produz um novo resultado adequado ao pedido tal como o interpreta. Isso pode ser útil, surpreendente e rápido. Também pode estar errado enquanto parece confiante, reproduzir um estilo conhecido sem mostrar as suas fontes ou fazer uma escolha que passou despercebida ao utilizador.

É por isso que «consegue criar isto?» é apenas a primeira pergunta. O leitor deve também perguntar: Que material moldou o resultado? Que pressupostos estão incorporados no sistema? Posso verificar o resultado? Quem o pode corrigir quando causa danos?

O que faz realmente a IA generativa?

A IA generativa produz um novo texto, imagem, som, vídeo ou trecho de código a partir de um pedido e dos padrões aprendidos pelo modelo. Não abre uma gaveta privada que contém a única resposta correta. Estima o que deve vir a seguir, ou o que deve surgir em conjunto, e transforma essa estimativa num resultado.

Esta distinção explica tanto o poder como os limites. Um modelo pode combinar padrões de formas que ajudam um designer a explorar opções ou um autor a encontrar um primeiro rascunho. Não sabe automaticamente se uma afirmação é verdadeira, se uma pessoa consentiu na utilização da sua imagem, se uma fonte é credível ou se um resultado é adequado a determinada situação.

Quatro formas visíveis, uma mudança comum

Texto para imagem

Os sistemas de texto para imagem traduzem uma descrição numa proposta visual. Podem ajudar as pessoas a testar a composição, o ambiente e a direção antes de investirem numa produção completa. O resultado continua a ser uma interpretação, moldada pelo treino do sistema, pela sua interface e pelas palavras escolhidas pelo utilizador.

Texto para vídeo

Os sistemas de texto para vídeo prolongam esse processo ao longo do tempo. Podem esboçar uma cena, um movimento ou uma sequência curta sem uma equipa de filmagem. A mesma conveniência torna mais importantes a continuidade, a semelhança com pessoas reais, a propriedade e a divulgação da natureza do conteúdo. Uma imagem em movimento convincente pode continuar a representar um acontecimento inventado.

Texto para música e voz

As ferramentas de música e voz podem transformar uma descrição numa banda sonora ou numa interpretação oral. Podem apoiar a elaboração de rascunhos, a acessibilidade e a experimentação. A clonagem de voz mostra também por que razão a permissão e a proveniência não podem ficar relegadas para uma nota em letra pequena depois de o resultado já se ter difundido.

Texto, código e tudo o resto

Os modelos de linguagem podem redigir prosa, resumir material e sugerir código. São úteis quando uma pessoa consegue examinar o trabalho. Tornam-se arriscados quando a fluência é confundida com prova ou quando uma organização elimina a análise humana que dá contexto ao resultado.

Um pedido é uma instrução, não compreensão

Um pedido é a instrução dada pelo utilizador a um modelo. Pode descrever um tema, um formato, um tom ou uma restrição. Um pedido mais claro produz muitas vezes um resultado mais útil, mas uma formulação melhor não dá ao modelo consciência, uma lista de fontes ou responsabilidade pelo resultado.

É por isso que a engenharia de pedidos não deve ser tratada como uma profissão mágica nem como substituto do conhecimento. A competência duradoura consiste em saber o que perguntar, que provas fornecer, como testar o resultado e quando não o utilizar. O conhecimento do domínio continua a ser o que permite a uma pessoa reconhecer um erro plausível.

O problema mais difícil é o controlo

A parte mais consequente da IA generativa é a camada entre a intenção e a consequência. Um utilizador pode pensar que está a escolher uma imagem ou uma resposta, enquanto o sistema escolhe também que padrões estão disponíveis, que fontes são visíveis, que formatos são suportados e que correções são possíveis.

Quem define as predefinições?

As predefinições decidem mais do que a conveniência. Influenciam as línguas que são reconhecidas, os exemplos que parecem normais, o que é filtrado e os tipos de trabalho que se tornam fáceis de produzir. Uma predefinição pode transformar-se discretamente num limite.

Quem pode verificar a origem?

As pessoas precisam de saber se um resultado é um relato, uma reconstrução, uma cena sintética ou uma mistura de fontes. A proveniência não toma todas as decisões por nós, mas, sem ela, os leitores não conseguem formar uma opinião razoável sobre aquilo que estão a ver.

Quem paga quando o sistema se engana?

A pessoa que clica em «gerar» nem sempre é quem concebeu o modelo, forneceu o material de treino ou distribui o resultado. Um sistema útil tem de deixar espaço para atribuição, correção e recurso. Caso contrário, a velocidade limita-se a transferir o custo para alguém com menos poder.

Uma forma melhor de utilizar a tecnologia

A solução prática não consiste em rejeitar a geração nem em fingir que um modelo se pode governar a si próprio. Mantenha o controlo humano nas camadas que determinam o significado e as consequências:

• registe as fontes, as permissões e as transformações importantes subjacentes a um resultado;
• distinga um rascunho exploratório de uma afirmação verificada ou de uma obra publicada;
• permita que as pessoas examinem, exportem e transfiram o seu trabalho, em vez de o prender dentro de um único serviço;
• torne a incerteza visível e dê às pessoas afetadas uma via de correção;
• utilize o modelo para ampliar as escolhas de uma pessoa, mantendo o discernimento nas mãos de quem assume a decisão.

Esta é também uma questão de conceção da Internet. Os sistemas que rodeiam um modelo determinam se as pessoas continuam a ser participantes ou se ficam dependentes de um único guardião invisível. A Nota de Lu Heng sobre a primazia do código em execução desenvolve o argumento relacionado de que os sistemas funcionais têm de continuar a responder perante as pessoas que deles dependem. A sua Declaração de Direitos da Coordenação da Unicidade pergunta o que significa preservar o controlo de uma pessoa sobre uma identidade ou recurso único enquanto os sistemas se coordenam em seu redor.

Porque não pode isto esperar

A questão urgente já não é saber se a IA generativa se tornará suficientemente capaz para ser relevante. Já está presente em ferramentas criativas, interfaces de pesquisa, locais de trabalho e comunicação pública. A questão urgente é saber se a atribuição, a proveniência, o acesso e o recurso evoluirão à mesma velocidade que a geração.

Os leitores não precisam de se tornar especialistas em aprendizagem automática antes de poderem tomar uma decisão sensata. Comece por quatro perguntas: o que afirma ser este resultado, que provas o sustentam, quem beneficia da predefinição e o que acontece se estiver errado? Estas perguntas transformam uma demonstração espetacular numa tecnologia que pode ser examinada.

Um primeiro passo prático

Utilize a IA generativa quando esta der a uma pessoa mais espaço para pensar, comparar e criar. Mantenha visíveis a fonte, a decisão e a responsabilidade. O objetivo não é levar as pessoas a venerar uma nova ferramenta. É garantir que a ferramenta continua a responder perante as pessoas em cujas vidas entra.