Quem escreve quando um livro se escreve?

Não sei se Thélyson Orélien escreveu sozinho «C’était ça ou mourir».

Mal acabo de formular essa frase e algo já me incomoda. Escreveu sozinho. O que significa, afinal, escrever sozinho? E desde quando um livro é feito nessa solidão perfeita que tanto gostamos de atribuir aos escritores?

Não sei se Orélien recorreu à inteligência artificial. Não sei a que ele teria recorrido, nem como, nem em que momento da escrita. Quem o acusa também não sabe. No entanto, bastou que uma conta anônima no X (anônima, vejam só!) seguida até então por algumas dezenas de pessoas passasse trechos de seu romance por um software de detecção, publicasse algumas capturas de tela e porcentagens, para que a suspeita circulasse muito mais rápido do que o livro.

Thélyson Orélien.

O romance acabara de receber o prêmio Romance Fnac. Poucas horas depois, seu autor teve de explicar que era, sim, o autor do próprio livro. Sem muito sucesso, se querem saber minha opinião.

Observo essa cena com um mal-estar que vai muito além do caso de Orélien.

Já há algum tempo, estamos aprendendo, às vezes à nossa custa, a desconfiar da inteligência artificial. É o monstro sem coração que vem arrancar nossos empregos e talentos. E um monstro que comete erros!

Esse monstro às vezes inventa uma referência, atribui uma citação à pessoa errada, chega até a fabricar um livro que não existe e, para completar, responde com uma segurança esplêndida a uma pergunta que não entendeu.

Então repetimos que é preciso verificar, cruzar informações, voltar às fontes. E temos razão.

Então surge um detector de IA, o salvador, o juiz, o anti-monstro. Ele exibe 89%, 95%, 99%. E essa prudência conquistada com tanto esforço se dissolve.

De repente, a máquina não erra mais.

Eu mesma verifico o que uma inteligência artificial me diz. Uma data, um livro, uma citação: vou conferir em outro lugar. Aprendi a desconfiar dela. E eis que, quando outra máquina me anuncia que um escritor trapaceou, de repente esperam que eu suspenda exatamente essa desconfiança.

Sabemos que um modelo calcula probabilidades, identifica regularidades, estabelece semelhanças. Diante de uma tela que nos diz que um texto se parece com algo que uma máquina poderia ter escrito, a semelhança, no entanto, desliza quase sem alarde para a condição de prova.

A TV5Monde se divertiu submetendo a Primeira Epístola aos Coríntios ao Pangram, o detector no centro dessa polêmica. O software teria identificado nela um texto gerado em 89% por inteligência artificial.

Ri. Depois pensei que Paulo de Tarso talvez dispusesse de uma vantagem tecnológica da qual ninguém nos havia falado.

E então parei de rir.

De repente, a história me pareceu menos engraçada. Algumas capturas de tela agora bastam para despertar uma suspeita. Depois disso, cabe a quem é acusado provar que não trapaceou.

Como se prova que se escreveu uma frase?

Mostrando os rascunhos? Os arquivos do Word? As marcas de tinta no dedo? As versões enviadas a um amigo? E se escrevemos diretamente, sem rascunho? Se apagamos à medida que avançamos? Se somos do tipo que pensa muito tempo antes de escrever depressa, como eu, aliás?

Desde quando é preciso guardar os rastros do próprio pensamento para, um dia, ser capaz de provar que ele nos pertence?

Essa pergunta me inquieta. Mas outra me atormenta ainda mais.

Por que insistimos tanto em que o autor esteja sozinho? E o que significa estar sozinho?

Escrevo há muito tempo. Também traduzo. E não acredito que alguma vez tenha escrito sozinha.

Escritores mortos há séculos vivem nas minhas frases. Palavras ouvidas e depois esquecidas. Um sonho que tive, em que um amante me recita um poema vindo de lugar nenhum. Nos meus textos, há também alguém que me disse que um parágrafo não se sustentava. Outra pessoa que me pediu para não tirar de jeito nenhum uma frase que eu achava ruim. Há as línguas que falo e as que leio mal. Livros amados, outros detestados, uma sintaxe tomada de empréstimo sem saber, uma imagem vislumbrada na rua. Há o editor e o tradutor. Há, sobretudo, todos aqueles cuja marca eu já não saberia reconhecer, justamente porque ela se fundiu à minha maneira de escrever.

Meu nome, porém, permanece sozinho na capa.

Nós nos habituamos a essa ficção. Roland Barthes já havia atacado a majestade do Autor, com A maiúsculo, aquele que se coloca por trás de cada frase para lhe dar uma origem, uma intenção, quase uma verdade. Howard Becker, por sua vez, nos ensinou a olhar para a arte como fruto de mundos inteiros de cooperação. Uma pintura pressupõe pigmentos, fabricantes, galerias, convenções, gestos aprendidos com outros gestos.

Uma obra raramente chega sozinha ao mundo.

No entanto, acho que nunca renunciamos por completo ao velho deus criador.

Gostamos do artista solitário, quase santificado por sua solidão, em seu quarto, à sua mesa, diante de seu caderno. Gostamos da mão que escreve na noite. Gostamos de acreditar que, entre a obra e quem a assina, permanece uma espécie de cordão umbilical invisível, que nada nem ninguém deveria perturbar.

E eis que uma máquina se senta à mesa e desarranja a cena.

Entendo esse incômodo e, às vezes, até o compartilho. Confiar a uma inteligência artificial a redação de um romance inteiro, recolher o resultado e depois assiná-lo com o próprio nome levanta uma questão evidente sobre o que significa ser o autor desse romance. Entre esse gesto e o de uma pessoa que pede a uma máquina que lhe sugira dez títulos, corrija uma repetição ou a ajude a reorganizar um trecho, estende-se, no entanto, um território imenso.

Quase não temos vocabulário para descrevê-lo.

Dizemos «escrito com IA» como se essa expressão designasse uma prática clara, reconhecível, delimitada. Mas ela já abrange dezenas delas.

Eu, por exemplo, entrego sem pudor a ela esse inglês em que tropeço desde sempre. Posso pedir que reformule uma frase, depois detestar as cinco propostas que ela me dá e voltar à minha. Outra pessoa a usará para resumir suas anotações. Outra pedirá que traduza, encontre uma formulação, ponha em ordem um trecho. Pode-se fazê-la produzir uma página e reescrevê-la até que não reste mais nada dela.

Colocar todos esses gestos no mesmo saco, fechá-lo e escrever nele «trapaça» nos poupa, acima de tudo, do esforço de pensar.

Eu gostaria que pensássemos. Gostaria de saber o que um escritor considera aceitável, o que um editor aceita, o que ele pede que seja declarado. Até que ponto uma intervenção deve ir antes de começarmos a falar em coautoria, delegação, substituição? Eu gostaria que pudéssemos discutir responsabilidade, trabalho, propriedade e transparência antes que uma conta anônima exponha um escritor ao pelourinho com três capturas de tela.

E há ainda uma questão de que se fala menos, talvez porque nos constranja mais: a questão do prazer.

Suponhamos que eu leia um texto e que ele me comova profundamente. Paro numa frase e a releio. Ela faz o que certas frases sabem fazer: toca um lugar preciso, às vezes um lugar cuja existência eu mesmo desconhecia. Fecho o livro por alguns segundos. Volto algumas páginas.

No dia seguinte, alguém me informa que uma máquina participou de sua escrita.

O que devo fazer com o dia anterior? Devo retirar minha emoção? Devolvê-la?

Decidir que esta frase, que agiu sobre mim antes que eu soubesse qualquer coisa sobre a sua elaboração, afinal não produziu nada?

Acho que uma parte da nossa angústia diante da inteligência artificial reside aí, num lugar muito mais íntimo do que os direitos de autor ou a tecnologia. Lidamos relativamente bem com o facto de as máquinas calcularem melhor do que nós. Confiámos-lhes os nossos percursos, as nossas fotografias, uma parte da nossa memória, bem como tarefas profissionais inteiras.

Algo se perturba ainda mais quando elas se aproximam dessa capacidade que pensávamos ter guardado só para nós: a de comover.

Quero que uma frase que me comoveu tenha comovido alguém, em algum lugar.

Esta ideia é-me querida.

E, no entanto, já não tenho a certeza de que seja uma condição do prazer.

Esta incerteza parece-me muito mais fecunda do que o veredito de um detetor.

Ela obriga-nos a olhar para a arte de outra forma. Talvez tenhamos ligado durante demasiado tempo o valor de uma obra à nobreza que atribuímos à sua origem. Talvez desejemos saber que um ser humano sofreu, amou, hesitou, procurou durante noites inteiras para merecer a emoção que lhe devolvemos ao ler. Uma máquina perturba esta circulação. Poderia produzir o efeito sem jamais ter sentido aquilo que produz.

Eis talvez o que nos ofende: a beleza sem consciência da beleza. A tristeza sem tristeza. Uma frase sobre o luto produzida por alguém que nunca perdeu ninguém.

Ainda não sei o que fazer com esta possibilidade. Ela incomoda-me certamente, mas prefiro que me incomode a resolvê-la à força de percentagens.

As editoras, porém, já não têm o luxo de permanecer nesta indefinição.

Um manuscrito chega-lhes. Toc, toc! É lido (bem, contenho-me neste ponto, porque sei demais e não era suposto falar-vos disso), depois escolhido, trabalhado e, por fim, corrigido.

Um livro é impresso e enviado aos críticos. Naturalmente, tem de ser apresentado a prémios.

Depois, num belo dia ou talvez numa noite (a Barbara certamente não gostaria do meu gesto!), surge uma acusação de escrita artificial, e eis que tudo parece recair sobre o autor, subitamente intimado a apresentar provas da sua humanidade.

Falta algo nesta cadeia.

Se o uso da IA coloca um problema editorial, as editoras devem defini-lo. Se certos usos são aceites e outros incompatíveis com as suas práticas, que o digam. Se querem uma declaração do autor, que a peçam. Se consideram que os manuscritos exigem agora outras formas de rastreabilidade, que inventem as regras com os escritores, e antes do escândalo.

Uma editora não deveria precisar de uma conta anónima no X para começar a perguntar-se o que entende hoje por «autor».

Caso contrário, o vazio será preenchido por detetores.

E desconfio dos detetores que se julgam tribunais.

Continuo sem saber se Thélyson Orélien usou inteligência artificial para escrever um livro que é um enorme sucesso.

Mas, desde esta história, não paro de pensar no próximo texto que escreverei.

Será preciso deixar para trás rastos suficientes para poder, um dia, provar que estávamos realmente lá no momento em que o texto era escrito?

Acho esta ideia quase mais perturbadora do que a de uma máquina capaz de escrever.

Porque, então, já não escreveríamos apenas para ser lidos. Escreveríamos também com a ideia de que talvez um dia tenhamos de provar que escrevemos.