Qué es la inteligencia artificial: cómo aprende y por qué se equivoca

De una regla para el correo a una idea más amplia

Escribamos una regla: si el correo contiene «ganar», marcarlo como spam. Es sencilla y comprensible. Entonces llega un mensaje esperado de un amigo: «Te enseñaré las fotos de cuando logramos ganar el torneo». La regla se activa, aunque queremos recibirlo.

¿Añadimos una excepción para el amigo? Queda decidir qué hacer con otros remitentes. ¿Revisamos también los enlaces? Un enlace tampoco basta: puede llevar a un documento necesario. Cada ajuste exige decidir qué características considerar juntas.

La inteligencia artificial, o IA, es un campo amplio que desarrolla sistemas para tareas como reconocer, trabajar con el lenguaje, planificar y tomar decisiones. No es el nombre de un solo algoritmo. Incluye enfoques con conocimientos y reglas explícitos y búsqueda de soluciones, así como aprendizaje automático: obtener patrones útiles a partir de datos. Los sistemas pueden combinarlos. Este marco amplio aparece en el memorando de la OCDE sobre la definición de un sistema de IA, pp. 6–9.

La frontera no separa «programas normales con reglas» de «IA sin reglas». El entrenamiento también lo realiza un programa. La diferencia de nuestro ejemplo es más concreta: queremos obtener de los ejemplos parte del método para distinguir correos, en lugar de prever manualmente todas las combinaciones de características.

Qué es lo que aprende

Primero definimos la tarea: elegir entre dos categorías para cada correo, «spam» y «no es spam». Elegir una categoría se llama clasificación.

Reunimos correos cuya respuesta ya conocemos, como publicidad no deseada y mensajes esperados. La categoría asociada a cada correo es una etiqueta. Correo y etiqueta forman un ejemplo de entrenamiento. Este enfoque se llama aprendizaje supervisado: la supervisión consiste en disponer de respuestas con las que comparar.

Un modelo es una construcción computacional que transforma datos de entrada en un resultado. Imaginemos una versión sencilla que considera palabras, enlaces y otras características seleccionadas. Unos ajustes numéricos, los parámetros, determinan cuánto influye cada característica en la respuesta.

Durante el entrenamiento, un algoritmo compara las respuestas del modelo con las etiquetas conocidas y modifica los parámetros para intentar reducir los errores. Es una forma habitual de entrenar, no una descripción de todos los sistemas de IA. Los conceptos básicos aparecen en el curso de Google sobre aprendizaje supervisado.

Las personas siguen definiendo el marco. ¿Todo anuncio es spam o solo la publicidad no deseada? ¿La persona se suscribió a la lista? Si esa diferencia importa pero falta en los datos, ya hay una laguna. La palabra «aprendizaje» no elimina la necesidad de formular bien la pregunta.

Para qué sirven los correos que el modelo no estudió

Un modelo puede responder muy bien a ejemplos conocidos y mal a otros nuevos. La adaptación excesiva a los datos de entrenamiento se llama sobreajuste. La capacidad deseada de aplicar los patrones a casos nuevos es la generalización. Google sobre sobreajuste y generalización.

Supongamos que todos los mensajes de spam de nuestro pequeño conjunto están escritos en mayúsculas. El modelo podría aferrarse a esa característica. Pero un amigo a veces escribe «¡FELICIDADES!», y un anuncio puede ser discreto. El éxito en ese conjunto aún no demuestra que el filtro aprendiera la distinción adecuada.

Por eso reservamos ejemplos para la evaluación. El modelo recibe correos sin etiquetas y quienes lo evalúan comparan las respuestas con las categorías conocidas. Si elegimos repetidamente un modelo según un mismo conjunto, también podemos adaptarnos accidentalmente a él. Un conjunto de validación sirve para seleccionar y otro conjunto de prueba se mantiene aparte para la evaluación final. Google sobre la división de datos.

La evaluación debe reflejar las condiciones de uso futuras. Una colección de anuncios cortos dice poco sobre filtrar conversaciones laborales largas en otro idioma. Incluso una prueba honesta responde a una pregunta limitada: cómo se comportó este modelo con estos datos.

Un correo nuevo corresponde a otra etapa

Después del entrenamiento y la evaluación llega un mensaje nuevo. Se lo damos al modelo y obtenemos un resultado. Aplicar un modelo entrenado se llama inferencia.

El entrenamiento modifica los parámetros; la inferencia usa el modelo para obtener una respuesta. En nuestro filtro simplificado, los parámetros permanecen fijos durante el uso. Se puede construir un sistema que siga entrenándose, pero recibir un correo no implica por sí solo que eso ocurra. La diferencia entre etapas y la posibilidad de actualizaciones posteriores se explican en la OCDE, pp. 8–9.

En el esquema, sigue dónde las respuestas conocidas ayudan a cambiar el modelo y dónde solo sirven para evaluarlo. En el último paso ya no proporcionamos una respuesta correcta junto al correo.

El modelo tampoco es toda la aplicación de correo. El programa recibe mensajes, ejecuta comprobaciones y decide dónde colocarlos. La salida del modelo es una parte del proceso. Por eso «la IA rechazó el correo» oculta varias decisiones que conviene analizar por separado.

Dónde encajan las redes neuronales y la IA generativa

Ya tenemos dos conceptos: IA como campo amplio y aprendizaje automático como grupo de métodos. Una red neuronal es un tipo de modelo que se puede entrenar.

En una red típica, los nodos computacionales reciben números, los transforman usando parámetros y transmiten los resultados. Los grupos de nodos forman capas. Llamar «neurona» a un nodo no lo convierte en una célula biológica; tener una red no demuestra pensamiento humano ni conciencia. La estructura computacional aparece en el curso de Google sobre nodos y capas.

La IA generativa describe otra faceta: el sistema crea contenido, como texto, imágenes o sonido. Nuestro filtro elige la categoría del correo. A un sistema generativo podemos pedirle otra cosa: redactar una respuesta. Google sobre tareas de aprendizaje automático y generación.

Estos nombres responden a preguntas distintas:

Generar no es un «siguiente escalón» obligatorio para cada red neuronal. Una red puede clasificar correos. Y que un modelo escriba texto no indica por sí solo cómo resolverá una petición concreta.

La utilidad depende del resultado y de cómo comprobarlo

Volvamos al correo. Clasificarlo, estimar el tiempo de respuesta y redactar una contestación son tres tareas diferentes. Cada una necesita datos y un criterio de éxito propios. Lo mismo ayuda a entender otras aplicaciones.

Son ejemplos de clases de tareas descritas en la introducción de Google al aprendizaje automático, no evaluaciones de productos concretos.

Para «hazlo más cortés», un resultado útil puede conservar el contenido y mejorar el tono. Para «añade la fecha del evento», un estilo bonito no basta: la fecha debe ser correcta. La comprobación depende de la tarea, aunque ambas respuestas parezcan unas pocas frases.

Dos errores del filtro que conviene distinguir

Una felicitación esperada de la escuela termina en spam: es un falso positivo. Un anuncio no deseado llega a la bandeja de entrada: es un falso negativo. Ambos son errores, pero tienen consecuencias distintas para quien lee.

Podríamos enviar todos los correos a spam: ninguno no deseado llegaría a la entrada, pero desaparecerían también todos los útiles. Podríamos no bloquear nada: conservaríamos el correo deseado, pero el filtro no cumpliría su función. No basta preguntar «¿detecta spam?». Hay que ver cuánto correo útil elimina. La diferencia se formaliza con las métricas de clasificación.

Un error puede tener varias causas. Nuestro modelo quizá confía demasiado en «ganar». Tal vez faltan felicitaciones normales en los datos. O la etiqueta es dudosa: una persona pidió una suscripción publicitaria y otra no. Son explicaciones posibles del ejemplo didáctico, no diagnósticos de un filtro real.

Para averiguar la causa necesitamos datos sobre su funcionamiento. Un correo mal tratado muestra un error concreto; una serie de aciertos tampoco demuestra infalibilidad en todas las condiciones. La evaluación exige casos variados, no solo ejemplos convenientes.

Por qué una frase convincente puede ser falsa

En la generación el error tiene otra forma: en lugar de una categoría incorrecta, podemos recibir un hecho inventado expresado con total naturalidad.

Un modelo de lenguaje estima patrones en secuencias de unidades de texto llamadas tokens. Un token puede ser una palabra, parte de ella o un carácter. Al generar una continuación, el sistema usa el modelo para elegir sucesivamente tokens según el contexto disponible. Así se pueden construir frases, traducir o resumir. Google sobre modelos de lenguaje y tokens.

Pero una continuación verosímil y un hecho confirmado son criterios distintos. Imagina pedir la fecha del torneo escolar cuando no aparece en el correo facilitado. La respuesta puede tener una forma impecable: día, mes, año e incluso explicación. La forma no crea la prueba que falta.

Los sistemas generativos pueden presentar contenido falso con seguridad y añadir referencias o justificaciones inventadas. NIST lo describe como confabulación; también se usa «alucinación». Aquí es un término técnico para una salida errónea, no una afirmación sobre experiencias humanas del modelo. NIST, Generative AI Profile, §2.2.

Por eso pedir otra vez al mismo sistema «compruébalo» no aporta por sí solo confirmación independiente. Para la fecha del torneo, la aportaría un anuncio de los organizadores u otra fuente primaria pertinente.

Empieza por la tarea y termina comprobando

En lugar de «ayúdame con este correo», concreta: «Redacta una respuesta breve y cortés. Confirma la participación; toma la fecha y el lugar solo de este anuncio. Si faltan, deja preguntas para los organizadores». Ahora sabemos qué recibió el sistema, qué debe devolver y qué comprobará una persona.

Un orden útil es:

1. Nombra el resultado. Una categoría, predicción, selección o borrador suponen expectativas distintas.
2. Aporta el contexto necesario. Condiciones y datos sin los cuales la tarea resulta ambigua.
3. Define la comprobación de antemano. Comparación con el original, cálculo, prueba o fuente primaria pertinente.
4. Considera las consecuencias del error. Corregir una frase torpe y perder un correo importante tienen costes diferentes.

El filtro puede reconocer un correo desconocido porque el entrenamiento ajustó el modelo a patrones de los ejemplos. Esos patrones pueden ser útiles y aun así no corresponder al caso nuevo. La generación amplía los resultados posibles, pero no elimina la distancia entre la respuesta del sistema y su comprobación.

Inventa dos mensajes: uno deseado con «ganar» y otro no deseado sin esa palabra. Ese par ya muestra por qué una palabra aislada no basta. La siguiente pregunta es qué datos y evaluación permitirían distinguir precisamente esos casos.