Las objeciones que va a oír, y cómo responderlas

Hay una objeción que merece tomarse en serio antes de seguir adelante, y es la de quienes miran la incorporación de la inteligencia artificial en la universidad con preocupación genuina. No hablo de tecnófobos ni de nostálgicos: hablo de docentes que han visto a un estudiante entregar un ensayo impecable que no sabe defender, de responsables de datos que temen por la información sensible de su comunidad, de investigadores que reconocen en los modelos los sesgos del mundo que los entrenó. Esas preocupaciones no son temores infundados; son la detección correcta de riesgos reales que la incorporación irresponsable produce. Quien las plantea tiene razón en plantearlas, y un modelo que las despachara como resistencia al cambio no merecería confianza.

La pregunta de este capítulo es, por eso, exigente: ¿cómo responde SinergIA a las cinco preocupaciones legítimas que dominan el campo —integridad académica, protección de datos, sesgos automatizados, equidad y sobredependencia cognitiva— sin caer en la prohibición categórica ni en el negacionismo del riesgo? Sostengo que la diferencia entre una respuesta institucional reactiva y una articulada no está en si reconoce las preocupaciones, porque ambas las reconocen, sino en si las traduce en prohibición o en diseño institucional con gobernanza. El modelo SinergIA no minimiza ninguno de estos riesgos; los identifica con precisión y construye, para cada uno, un dispositivo institucional que lo gobierne. Las cinco respuestas que siguen no agotan el campo —hay otras preocupaciones que el libro atiende en otros lugares—, pero cubren las que Iberoamérica discute con más frecuencia y urgencia.

Y cierro el capítulo retomando el paralelo con la Ley de la Bandera Roja que abrió el capítulo dos, porque ahí se ve con claridad la diferencia que recorre todo este libro: la que separa una directriz que prohíbe de una directriz que gobierna. La diferencia, insisto, no está en las preocupaciones, que son compartidas, sino en el dispositivo que se elige para responderlas.

6.1La integridad académica reformulada

Empecemos por la preocupación más visible en las salas de profesores. Entre 2022 y 2026, el campo de la integridad académica vio colapsar su principal dispositivo de verificación: la detección automatizada de texto generado por inteligencia artificial. Los estudios independientes documentaron tasas de no-detección superiores al noventa y cuatro por ciento en los principales sistemas comerciales, y la asimetría es estructural, porque los modelos generativos entrenan precisamente contra los detectores. Sostener la integridad sobre la detección produjo tres efectos contraproducentes: falsos positivos que dañaron a estudiantes inocentes, falsa seguridad institucional sobre todo lo que no se detectaba, y un aprendizaje estudiantil perverso, el de eludir la detección en vez del de iterar con calidad.

El modelo SinergIA reformula la integridad académica: la desplaza de la detección hacia la intervención significativa verificable. La integridad ya no se verifica preguntando si la inteligencia artificial participó —siempre pudo haberlo hecho, y es indemostrable—, sino comprobando que la intervención del estudiante satisfaga los tres elementos simultáneos que presenté antes: el manuscrito previo, el ciclo iteractivo registrado y la defensa argumentada. Mi tesis es que esta reformulación es una ganancia y no una concesión, porque traslada la verificación desde lo imposible —detectar lo indetectable— hacia lo posible —verificar lo verificable—. El capítulo trece desarrollará la evaluación bajo este criterio como una de las cinco líneas de cocreación del modelo.

6.2La protección de datos institucionales

La segunda preocupación es operativa y muy concreta: cómo proteger los datos de la institución y de las personas vinculadas a ella cuando los modelos comerciales operan en infraestructura externa y bajo condiciones de uso unilaterales. La respuesta del modelo opera en dos planos. En el plano operativo, ejercible hoy mismo con los AIA-i sobre las interfaces de los proveedores comerciales, opera la soberanía contextual de los datos: la institución define qué datos pueden ingresar al modelo, con qué cifrado, con qué nivel de identificación y con qué consentimiento, y la AIUAT supervisa el cumplimiento con auditoría regular. A ese mismo plano operativo pertenece una práctica cada vez más accesible: emplear modelos de ejecución local —más pequeños y menos capaces que los de frontera, pero residentes en la infraestructura de la propia institución— como una capa previa que filtra, anonimiza y organiza la información, de modo que a los proveedores externos solo salga aquello que requiere su potencia y no compromete datos sensibles. En el plano arquitectónico-técnico, que es un horizonte de mediano a largo plazo, opera la soberanía de datos como propiedad institucional plena: un corpus residente en infraestructura propia, modelos pequeños entrenados sobre ese corpus, y articulación con proveedores externos solo para tareas que no involucren datos sensibles.

Hay que señalar una decisión arquitectónica del modelo que aclara un campo a menudo confuso: la protección de datos no es una subdimensión de la dimensión ética, sino de la soberanía algorítmica. La distinción no es pedante. Tratar la protección de datos como asunto ético la deja en el terreno de los principios que la institución suscribe sin operativizar; tratarla como asunto de soberanía algorítmica la ancla en dispositivos técnicos verificables, con cláusulas contractuales, residencia geográfica de los datos y auditorías. El capítulo doce desarrollará esta diferenciación entre la ética, con sus subdimensiones propias, y la protección de datos, que opera con otra lógica.

6.3Los sesgos automatizados

La tercera preocupación toca un hecho que no se puede negar: los modelos generativos producen sesgos. Sus corpus de entrenamiento reflejan las desigualdades históricas en la producción de conocimiento, sesgos lingüísticos, la sobre-representación de ciertas tradiciones intelectuales y patrones culturalmente específicos presentados como universales. Pretender que un modelo sea neutral es técnicamente imposible: todo modelo tiene una perspectiva. La pregunta institucional importante, entonces, no es si los modelos tienen sesgo —lo tienen—, sino qué hace la universidad con ese hecho de manera operativa, sobre todo cuando esos sesgos suelen operar en contra de su propia tradición intelectual.

El modelo atiende el riesgo en tres planos articulados. En el plano de la AIUAT, su composición interdisciplinaria, con personas de distintas trayectorias formativas y socioculturales, constituye un filtro institucional sobre las propuestas que ingresan al sistema. En el plano del AIA-i, el dispositivo ajusta su corpus contextual a la realidad regional propia, a la lengua, a los registros académicos locales y a marcos teóricos no anglocéntricos. Y en el plano de la formación, el estudiante que opera en la banda de iteracción avanzada aprende a distinguir su propia argumentación de la mera reproducción del corpus del modelo de IA, y esa distinción es una competencia cultivable. Ninguno de los tres planos elimina los sesgos; los tres juntos los gobiernan. El capítulo doce desarrollará la subdimensión epistémica de este punto.

6.4La sobredependencia cognitiva como riesgo principal

Llego a la preocupación que el modelo eleva, por encima de las demás, al rango de riesgo principal: la sobredependencia cognitiva. Ya argumenté antes, con cuatro movimientos, por qué este riesgo —una categoría psicofuncional cuyo efecto observable es la atrofia de competencias por la sustitución sistemática del esfuerzo propio— pesa más que las alucinaciones del modelo de IA, que son un problema técnico con solución técnica en marcha, y más que los otros riesgos legítimos. Aquí cierro ese argumento desplegando la respuesta del modelo, que opera en cuatro planos articulados que ningún otro riesgo exige con esta intensidad.

El primero es el plano cognitivo individual: la antifragilidad cognitiva como horizonte positivo. El segundo es el plano arquitectónico del dispositivo: el AIA-i diseñado para producir iteracción y no para mediar el uso, con la intervención significativa verificable como criterio operativo. El tercero es el plano institucional sistémico: la AIUAT monitorea la trayectoria de la institución entera en la banda de iteracción avanzada y detecta tempranamente los patrones de sobredependencia. Y el cuarto es el plano dialógico: las cinco cargas argumentativas —justificar, profundizar, negar, ampliar y solicitar aclaraciones— como práctica institucional sostenida que mantiene viva la fricción crítica entre la persona y el dispositivo. La articulación de los cuatro planos es justamente lo que separa al modelo de una respuesta meramente exhortativa, de un «no te vuelvas dependiente» que nunca funcionó. El capítulo nueve desarrollará el vocabulario nuclear donde la sobredependencia opera junto a la antifragilidad y la iteracción.

6.5La equidad entre estudiantes

La quinta preocupación es de justicia: cómo sostener la equidad entre estudiantes que tienen acceso desigual a los modelos comerciales de pago y un capital cultural también desigual para iterar bien. La respuesta opera en dos planos. En el plano del acceso, el AEI institucional se construye con criterio de gratuidad para los estudiantes matriculados, con equivalencia operativa frente a los modelos comerciales de frontera para las tareas académicas, y articulado con un corpus institucional que los modelos comerciales no proveen. La universidad que dispone de su propio AIA-i no traslada al estudiante el costo de acceder a la inteligencia artificial de frontera: la provee como infraestructura educativa, igual que provee la biblioteca o el laboratorio. Quien no puede pagar una suscripción no queda, por ello, en desventaja.

En el plano del capital cultural para iterar bien, opera la pedagogía explícita de la iteracción que el modelo desarrolla en las cinco líneas de cocreación del capítulo trece. La iteracción no es una habilidad espontánea que unos traen de casa y otros no; es una competencia que se forma institucionalmente, con método. Sostengo que la equidad de oportunidad en la iteracción es función directa de la inversión institucional en formar explícitamente esa competencia, y que la universidad que delega esa formación al individuo no hace más que reproducir la desigualdad de origen. El capítulo diecisiete desarrollará la particularización del modelo a cada unidad académica con atención específica a la equidad.

6.6Lo que enseña el caso de la talidomida

Como en el capítulo dos, un caso histórico ilumina la diferencia entre prohibir y gobernar, y este es especialmente instructivo. La talidomida se introdujo en el mercado en 1957 como un sedante de bajo perfil de toxicidad, prescrito a mujeres embarazadas para tratar las náuseas. Entre 1957 y 1961 produjo cerca de diez mil casos de focomelia neonatal en cuarenta y seis países. La crisis marcó un punto de inflexión en la gobernanza farmacéutica mundial: las agencias regulatorias incorporaron protocolos sistemáticos de ensayo previo a la comercialización, de control posterior y de trazabilidad en la farmacovigilancia.

Lo que importa del caso para el modelo no es el detalle farmacológico, sino la lección estructural. La respuesta institucional madura ante un riesgo real no fue prohibir los fármacos, sino diseñar una regulación con etapas, criterios verificables y trazabilidad. La inteligencia artificial generativa en la universidad presenta riesgos reales —la sobredependencia, los sesgos, la vulneración de datos, la pérdida de integridad— que reclaman una respuesta comparable: dispositivos con criterios verificables como la intervención significativa, instancias institucionales como la AIUAT, trazabilidad del uso y revisión sistemática. El paralelo no es perfecto, y conviene decirlo con franqueza: la inteligencia artificial no produce un daño físico irreversible comparable a la focomelia, de modo que el caso ilustra una estructura de gobernanza, no una equivalencia de gravedad. Pero precisamente por eso es útil, porque muestra la diferencia entre la prohibición reactiva y la gobernanza articulada. El modelo SinergIA opta sistemáticamente por la segunda.

6.7La diferencia operativa entre gobernar y prohibir

Cierro precisando, en operación concreta, qué distingue a una directriz que prohíbe de una que gobierna, porque la diferencia es estructural y no de matiz. Opera en cuatro planos. En el plano del objeto, la directriz que prohíbe regula el uso como una variable de todo o nada, permitido o no permitido; la que gobierna regula la iteracción como una variable gradual, con bandas y criterios verificables. En el plano de la verificación, la que prohíbe requiere detección, que ya vimos imposible; la que gobierna requiere intervención significativa verificable, que es posible y precisa. En el plano de la pedagogía, la que prohíbe enseña por contraste —esto no, aquello no—; la que gobierna enseña por construcción —esto sí, articulado así, defendible así—. Y en el plano de la trayectoria institucional, la que prohíbe produce un Shadow AI institucional creciente, mientras que la que gobierna produce un uso visible y gobernado creciente.

Aquí cierra el paralelo que abrió el capítulo dos. Las preocupaciones que motivaron la Ley de la Bandera Roja eran reales, como lo son las que motivan hoy las directrices universitarias sobre inteligencia artificial; lo que estuvo en juego entonces, y está en juego ahora, es si el dispositivo elegido gobierna el cambio o solo lo ralentiza. El capítulo diecinueve cerrará el libro con esa pregunta dirigida a cada universidad: qué dispositivo elige, para no repetir 1865 en su propio campo institucional.

Tomarse en serio las preocupaciones legítimas no significa rendirse ante ellas ni negarlas: significa construir, para cada una, un dispositivo que la gobierne. Esa es la apuesta de este capítulo, y la diferencia entre una universidad que teme a la inteligencia artificial y una que la incorpora con los ojos abiertos.