El modelo es bueno generando texto. No tiene acceso a tu base de datos, ni a tu API, ni al filesystem, ni a Internet. a menos que vos le des tools.
Un tool es:
Cuando el modelo decide invocar un tool, vos ejecutás la función y le devolvés el resultado. El modelo continúa la conversación con ese resultado en mano.
Sin tools, todo lo que el modelo "sabe" es lo que aprendió en entrenamiento o lo que vos le pasaste en el prompt. Con tools, puede consultar el mundo real en cada turno.
Mirá a la derecha. Una opción simula tener un registro, otra le da uno real. Una es alucinación, otra es uso de tool.