Modelo grande de lenguaje LLM

Un modelo grande de lenguaje, o LLM, es el software que hay detrás de los asistentes que escriben y resumen textos. Aprendió leyendo una cantidad enorme de escritura y descubriendo qué palabras suelen ir después de cuáles. Por eso, cuando le haces una pregunta, no busca la respuesta en ningún sitio. La escribe pieza a pieza, eligiendo cada vez la que le parece más probable.

Esa sola costumbre explica casi todo lo que a la gente le resulta raro de estos modelos. Como predice en lugar de comprobar, una respuesta fluida y falsa le cuesta el mismo esfuerzo que una correcta. No distingue entre las dos, y su tono no suena menos seguro cuando se equivoca. Por eso es muy bueno redactando, reescribiendo y traduciendo, pero por sí solo no es una fuente de datos fiable.

La solución práctica es dejar de preguntarle lo que sabe y empezar a darle lo que sabes tú. En vez de preguntarle tu política de devoluciones, el sistema la busca en tus propios documentos y le entrega el texto junto con la pregunta. El modelo escribe entonces la respuesta a partir de la página que tiene delante. Así funciona casi todo uso serio de un sistema de inteligencia artificial.

Luego llega la sorpresa del coste, ya que pagas por el texto que entra igual que por el que sale. Una conversación reenvía todo el historial en cada respuesta, así que un hilo largo se vuelve más caro según avanza. Por eso Linkysoft recorta los mensajes antiguos de las conversaciones largas, y conviene preguntar a cualquier proveedor cómo lo resuelve.

La otra cuestión que hay que cerrar antes de construir nada es adónde van tus textos. Pregunta qué empresa ejecuta el modelo, si se guardan tus textos y si se usan para entrenar algo. Un hospital o un colegio necesita esa respuesta por escrito, y por eso lo tratamos como un asunto de ciberseguridad y no como un detalle técnico.

En la práctica el modelo es una pieza dentro de una aplicación web normal que ya guarda tus pedidos, tus pacientes o tus alumnos. Como el valor está en esos datos, Linkysoft construye primero el sistema y añade el modelo solo donde ahorra tiempo real a alguien. Puede ser redactar un borrador de respuesta, o resumir una conversación larga de chatbot para quien va a continuarla.