Qué es
Una aplicación web local en el móvil para preguntar a mis propios PDF. Gemma corre con llama-server en 127.0.0.1:8080, un servidor Python sirve la interfaz en 127.0.0.1:8787 y recupera los fragmentos relevantes con BM25 sobre un índice SQLite. Nada sale del teléfono.
Estado
Funciona con PDF de texto seleccionable. La recuperación es léxica, así que se le escapan los sinónimos, y no hay OCR: un escaneo no entra.
Enlaces
Siguiente paso
Probar embeddings pequeños que quepan en el teléfono y medir si compensan frente a BM25 en documentos largos. Y apuntar aquí el consumo de memoria y la temperatura durante las pruebas.