As objeções que vai ouvir, e como respondê-las

Há uma objeção que merece levar-se a sério antes de seguir em frente, e é a de quem olha a incorporação da inteligência artificial na universidade com preocupação genuína. Não falo de tecnófobos nem de nostálgicos: falo de docentes que viram um estudante entregar um ensaio impecável que não sabe defender, de responsáveis de dados que temem pela informação sensível da sua comunidade, de investigadores que reconhecem nos modelos os enviesamentos do mundo que os treinou. Essas preocupações não são receios infundados; são a deteção correta de riscos reais que a incorporação irresponsável produz. Quem as coloca tem razão em colocá-las, e um modelo que as despachasse como resistência à mudança não mereceria confiança.

A pergunta deste capítulo é, por isso, exigente: como responde SinergIA às cinco preocupações legítimas que dominam o campo —integridade académica, proteção de dados, enviesamentos automatizados, equidade e sobredependência cognitiva— sem cair na proibição categórica nem no negacionismo do risco? Defendo que a diferença entre uma resposta institucional reativa e uma articulada não está em se reconhece as preocupações, porque ambas as reconhecem, mas em se as traduz em proibição ou em desenho institucional com governança. O modelo SinergIA não minimiza nenhum destes riscos; identifica-os com precisão e constrói, para cada um, um dispositivo institucional que o governe. As cinco respostas que se seguem não esgotam o campo —há outras preocupações que o livro atende noutros lugares—, mas cobrem as que a Ibero-América discute com mais frequência e urgência.

E fecho o capítulo retomando o paralelo com a Lei da Bandeira Vermelha que abriu o capítulo dois, porque aí se vê com clareza a diferença que percorre todo este livro: a que separa uma diretriz que proíbe de uma diretriz que governa. A diferença, insisto, não está nas preocupações, que são partilhadas, mas no dispositivo que se escolhe para lhes responder.

6.1A integridade académica reformulada

Comecemos pela preocupação mais visível nas salas de professores. Entre 2022 e 2026, o campo da integridade académica viu colapsar o seu principal dispositivo de verificação: a deteção automatizada de texto gerado por inteligência artificial. Os estudos independentes documentaram taxas de não-deteção superiores a noventa e quatro por cento nos principais sistemas comerciais, e a assimetria é estrutural, porque os modelos generativos treinam precisamente contra os detetores. Sustentar a integridade sobre a deteção produziu três efeitos contraproducentes: falsos positivos que prejudicaram estudantes inocentes, falsa segurança institucional sobre tudo o que não se detetava, e uma aprendizagem estudantil perversa, a de iludir a deteção em vez da de iterar com qualidade.

O modelo SinergIA reformula a integridade académica: desloca-a da deteção para a intervenção significativa verificável. A integridade já não se verifica perguntando se a inteligência artificial participou —sempre o pôde ter feito, e é indemonstrável—, mas comprovando que a intervenção do estudante satisfaça os três elementos simultâneos que apresentei antes: o manuscrito prévio, o ciclo iteractivo registado e a defesa argumentada. A minha tese é que esta reformulação é um ganho e não uma concessão, porque transfere a verificação do impossível —detetar o indetetável— para o possível —verificar o verificável—. O capítulo treze desenvolverá a avaliação sob este critério como uma das cinco linhas de cocriação do modelo.

6.2A proteção de dados institucionais

A segunda preocupação é operativa e muito concreta: como proteger os dados da instituição e das pessoas a ela vinculadas quando os modelos comerciais operam em infraestrutura externa e sob condições de utilização unilaterais. A resposta do modelo opera em dois planos. No plano operativo, exercível hoje mesmo com os AIA-i sobre as interfaces dos fornecedores comerciais, opera a soberania contextual dos dados: a instituição define que dados podem entrar no modelo, com que cifragem, com que nível de identificação e com que consentimento, e a AIUAT supervisiona o cumprimento com auditoria regular. A esse mesmo plano operativo pertence uma prática cada vez mais acessível: empregar modelos de execução local —mais pequenos e menos capazes do que os de fronteira, mas residentes na infraestrutura da própria instituição— como uma camada prévia que filtra, anonimiza e organiza a informação, de modo que aos fornecedores externos saia apenas aquilo que requer a sua potência e não compromete dados sensíveis. No plano arquitetónico-técnico, que é um horizonte de médio a longo prazo, opera a soberania de dados como propriedade institucional plena: um corpus residente em infraestrutura própria, modelos pequenos treinados sobre esse corpus, e articulação com fornecedores externos apenas para tarefas que não envolvam dados sensíveis.

Há que assinalar uma decisão arquitetónica do modelo que esclarece um campo muitas vezes confuso: a proteção de dados não é uma subdimensão da dimensão ética, mas da soberania algorítmica. A distinção não é pedante. Tratar a proteção de dados como assunto ético deixa-a no terreno dos princípios que a instituição subscreve sem operacionalizar; tratá-la como assunto de soberania algorítmica ancora-a em dispositivos técnicos verificáveis, com cláusulas contratuais, residência geográfica dos dados e auditorias. O capítulo doze desenvolverá esta diferenciação entre a ética, com as suas subdimensões próprias, e a proteção de dados, que opera com outra lógica.

6.3Os enviesamentos automatizados

A terceira preocupação toca um facto que não se pode negar: os modelos generativos produzem enviesamentos. Os seus corpus de treino refletem as desigualdades históricas na produção de conhecimento, enviesamentos linguísticos, a sobre-representação de certas tradições intelectuais e padrões culturalmente específicos apresentados como universais. Pretender que um modelo seja neutro é tecnicamente impossível: todo modelo tem uma perspetiva. A pergunta institucional importante, então, não é se os modelos têm enviesamento —têm—, mas o que faz a universidade com esse facto de forma operativa, sobretudo quando esses enviesamentos costumam operar contra a sua própria tradição intelectual.

O modelo atende o risco em três planos articulados. No plano da AIUAT, a sua composição interdisciplinar, com pessoas de distintas trajetórias formativas e socioculturais, constitui um filtro institucional sobre as propostas que entram no sistema. No plano do AIA-i, o dispositivo ajusta o seu corpus contextual à realidade regional própria, à língua, aos registos académicos locais e a quadros teóricos não anglocêntricos. E no plano da formação, o estudante que opera na banda de iteracção avançada aprende a distinguir a sua própria argumentação da mera reprodução do corpus do modelo de IA, e essa distinção é uma competência cultivável. Nenhum dos três planos elimina os enviesamentos; os três juntos governam-nos. O capítulo doze desenvolverá a subdimensão epistémica deste ponto.

6.4A sobredependência cognitiva como risco principal

Chego à preocupação que o modelo eleva, acima das demais, ao grau de risco principal: a sobredependência cognitiva. Já argumentei antes, com quatro movimentos, por que razão este risco —uma categoria psicofuncional cujo efeito observável é a atrofia de competências pela substituição sistemática do esforço próprio— pesa mais do que as alucinações do modelo de IA, que são um problema técnico com solução técnica em curso, e mais do que os outros riscos legítimos. Aqui fecho esse argumento desdobrando a resposta do modelo, que opera em quatro planos articulados que nenhum outro risco exige com esta intensidade.

O primeiro é o plano cognitivo individual: a antifragilidade cognitiva como horizonte positivo. O segundo é o plano arquitetónico do dispositivo: o AIA-i desenhado para produzir iteracção e não para mediar o uso, com a intervenção significativa verificável como critério operativo. O terceiro é o plano institucional sistémico: a AIUAT monitoriza a trajetória da instituição inteira na banda de iteracção avançada e deteta atempadamente os padrões de sobredependência. E o quarto é o plano dialógico: as cinco cargas argumentativas —justificar, aprofundar, negar, ampliar e solicitar esclarecimentos— como prática institucional sustentada que mantém viva a fricção crítica entre a pessoa e o dispositivo. A articulação dos quatro planos é justamente o que separa o modelo de uma resposta meramente exortativa, de um «não te tornes dependente» que nunca funcionou. O capítulo nove desenvolverá o vocabulário nuclear onde a sobredependência opera junto à antifragilidade e à iteracção.

6.5A equidade entre estudantes

A quinta preocupação é de justiça: como sustentar a equidade entre estudantes que têm acesso desigual aos modelos comerciais pagos e um capital cultural também desigual para iterar bem. A resposta opera em dois planos. No plano do acesso, o AEI institucional constrói-se com critério de gratuitidade para os estudantes matriculados, com equivalência operativa face aos modelos comerciais de fronteira para as tarefas académicas, e articulado com um corpus institucional que os modelos comerciais não fornecem. A universidade que dispõe do seu próprio AIA-i não transfere para o estudante o custo de aceder à inteligência artificial de fronteira: fornece-a como infraestrutura educativa, tal como fornece a biblioteca ou o laboratório. Quem não pode pagar uma subscrição não fica, por isso, em desvantagem.

No plano do capital cultural para iterar bem, opera a pedagogia explícita da iteracção que o modelo desenvolve nas cinco linhas de cocriação do capítulo treze. A iteracção não é uma habilidade espontânea que uns trazem de casa e outros não; é uma competência que se forma institucionalmente, com método. Defendo que a equidade de oportunidade na iteracção é função direta do investimento institucional em formar explicitamente essa competência, e que a universidade que delega essa formação no indivíduo não faz mais do que reproduzir a desigualdade de origem. O capítulo dezassete desenvolverá a particularização do modelo a cada unidade académica com atenção específica à equidade.

6.6O que ensina o caso da talidomida

Como no capítulo dois, um caso histórico ilumina a diferença entre proibir e governar, e este é especialmente instrutivo. A talidomida introduziu-se no mercado em 1957 como um sedativo de baixo perfil de toxicidade, prescrito a mulheres grávidas para tratar as náuseas. Entre 1957 e 1961 produziu cerca de dez mil casos de focomelia neonatal em quarenta e seis países. A crise marcou um ponto de inflexão na governança farmacêutica mundial: as agências reguladoras incorporaram protocolos sistemáticos de ensaio prévio à comercialização, de controlo posterior e de rastreabilidade na farmacovigilância.

O que importa do caso para o modelo não é o detalhe farmacológico, mas a lição estrutural. A resposta institucional madura perante um risco real não foi proibir os fármacos, mas conceber uma regulação com etapas, critérios verificáveis e rastreabilidade. A inteligência artificial generativa na universidade apresenta riscos reais —a sobredependência, os enviesamentos, a violação de dados, a perda de integridade— que reclamam uma resposta comparável: dispositivos com critérios verificáveis como a intervenção significativa, instâncias institucionais como a AIUAT, rastreabilidade do uso e revisão sistemática. O paralelo não é perfeito, e convém dizê-lo com franqueza: a inteligência artificial não produz um dano físico irreversível comparável à focomelia, de modo que o caso ilustra uma estrutura de governança, não uma equivalência de gravidade. Mas precisamente por isso é útil, porque mostra a diferença entre a proibição reativa e a governança articulada. O modelo SinergIA opta sistematicamente pela segunda.

6.7A diferença operativa entre governar e proibir

Fecho precisando, em operação concreta, o que distingue uma diretriz que proíbe de uma que governa, porque a diferença é estrutural e não de matiz. Opera em quatro planos. No plano do objeto, a diretriz que proíbe regula o uso como uma variável de tudo ou nada, permitido ou não permitido; a que governa regula a iteracção como uma variável gradual, com bandas e critérios verificáveis. No plano da verificação, a que proíbe requer deteção, que já vimos ser impossível; a que governa requer intervenção significativa verificável, que é possível e precisa. No plano da pedagogia, a que proíbe ensina por contraste —isto não, aquilo não—; a que governa ensina por construção —isto sim, articulado assim, defensável assim—. E no plano da trajetória institucional, a que proíbe produz um Shadow AI institucional crescente, ao passo que a que governa produz um uso visível e governado crescente.

Aqui fecha o paralelo que abriu o capítulo dois. As preocupações que motivaram a Lei da Bandeira Vermelha eram reais, como o são as que motivam hoje as diretrizes universitárias sobre inteligência artificial; o que esteve em jogo então, e está em jogo agora, é se o dispositivo escolhido governa a mudança ou apenas a abranda. O capítulo dezanove fechará o livro com essa pergunta dirigida a cada universidade: que dispositivo escolhe, para não repetir 1865 no seu próprio campo institucional.

Levar a sério as preocupações legítimas não significa render-se a elas nem negá-las: significa construir, para cada uma, um dispositivo que a governe. Essa é a aposta deste capítulo, e a diferença entre uma universidade que teme a inteligência artificial e uma que a incorpora de olhos abertos.

Com o diagnóstico feito, o horizonte projetado e as preocupações atendidas, o livro terminou de explicar por que razão faz falta um modelo. A terceira parte dá o passo seguinte: diz o que é SinergIA. Começa por precisar que tipo de objeto é —e, sobretudo, o que não é— antes de desdobrar a sua arquitetura interna.

PARTE III

O que é SinergIA (e o que não é)