Fichiers
meteo-collecte/README.md
T
Théo GastineletClaude Haiku 5.5 778825198e Securite deploiement : copie sans liens vers MC_SERVI, script Caddy hors du home, listes en NUL
- publier.copier_vers_servi : copie les seuls fichiers ordinaires de public/data vers MC_SERVI ; lien refuse
  dans la source, lien remplace (jamais suivi) dans la destination ; ecriture temporaire O_EXCL|O_NOFOLLOW puis
  os.replace. Caddy ne sert que /data depuis ce dossier.
- Unite : MC_PUBLIC dans ~/meteo-collecte/public, MC_SERVI=/srv/weather.gastinel.me.
- deployer-vps.sh : ne copie plus le script Caddy dans ~ ; il le depose dans ~/meteo-collecte/deploy et affiche
  son sha256 pour une installation root:root 755 dans /usr/local/sbin. Sauvegardes : noms passes en NUL sur
  stdin, pas de commande construite a partir des noms.
- appliquer-caddy-meteo.sh : refuse si /srv/weather.gastinel.me est un lien.

Co-Authored-By: Claude Haiku 5.5 <noreply@anthropic.com>
2026-10-17 16:45:09 +02:00

82 lignes
4.5 KiB
Markdown

# meteo-collecte
Collecteur du site météo public (weather.gastinel.me). Python 3, bibliothèque standard seulement
(aucune dépendance à installer ; `pytest` est facultatif pour lancer les tests).
Conception : `Gastinel-Projets/site-meteo-architecture-2026-10-15.md`.
Ce dépôt ne touche ni `weather-collector` ni `weather-db`.
## Ce que fait un tick
Lancé toutes les 5 min (hh:x4 et hh:x9) par le minuteur systemd :
1. **ROMMA** (`romma.py`) : au plus une requête `type=live&global=1` toutes les 10 min, toutes stations d'un coup.
2. **Infoclimat** (`infoclimat.py`) : passage principal à hh:x4 seulement si une station est due (rythme
mesuré dans la base), rattrapage ciblé à hh:x9, requêtes groupées par lots de 25, fenêtre d'un jour.
Plafonds : 1000 requêtes/jour pour le site (jour de Paris **et** 24 h glissantes) et quota commun
`~/gws-collecte/quota.json` (4999). Alerte à 80 % (envoi ntfy désactivé par défaut).
3. **Stockage** (`stockage.py`) : SQLite `var/mesures.sqlite`, une ligne par (source, station, instant UTC),
14 jours glissants. Les sources ne sont jamais mélangées.
4. **Publication** (`publier.py`) : fichiers statiques écrits de façon atomique sous `<public>/data/` :
`stations.json`, `station/<source>-<id>.json` (48 h), `etat.json`.
Toute erreur réseau ou de statut pose une pause de 15 min sur la source concernée ; l'autre source et la
publication continuent. Un verrou empêche deux ticks simultanés.
## Configuration (variables d'environnement)
| Variable | Rôle | Défaut |
|---|---|---|
| `MC_BASE` | dossier d'état (var/, base, journal) | `~/meteo-collecte` |
| `MC_PUBLIC` | racine servie par le serveur web | `$MC_BASE/public` |
| `MC_QUOTA_COMMUN` | compteur commun Infoclimat | `~/gws-collecte/quota.json` |
| `MC_STATIONS` | liste des stations Infoclimat | `config/stations.json` |
| `MC_PLAFOND_SITE` / `MC_PLAFOND_COMMUN` | plafonds Infoclimat | 1000 / 4999 |
| `MC_LOT_MAX` | stations par requête | 25 |
| `MC_COMPTE_PAR_STATION` | compter une requête par station | 0 |
| `MC_ROMMA_ACTIF` / `MC_INFOCLIMAT_ACTIF` | activer une source | 1 / 1 |
| `MC_ALERTE_ACTIVE`, `MC_NTFY_URL` | alerte quota | 0, vide |
| `MC_DIRECT_COMPAT` | écrire aussi l'ancien `direct.json` | vide |
| `MC_SERVI` | après publication, copie des seuls fichiers ordinaires de `public/data/` vers ce dossier (lu par Caddy) ; liens refusés | vide |
### Secrets
Uniquement par variables d'environnement, lues au moment de l'appel, jamais écrites ni affichées :
* `MC_JETON_INFOCLIMAT` : jeton Infoclimat (lié à l'IP du VPS) ;
* `MC_CLE_ROMMA` : clé API ROMMA.
Sans la variable, la source ne fait aucun appel (`sans_jeton` / `sans_cle`). Tout message de journal passe
par `scrub` (masque `token=`, `apikey=` et la valeur, en clair ou encodée).
## Commandes
```sh
python3 -m meteo_collecte.ordonnanceur # un tick
python3 -m meteo_collecte.ordonnanceur --publier # republie depuis la base, sans aucun appel réseau
python3 -m meteo_collecte.ordonnanceur --config # configuration ; secrets : « définie » ou « absente »
```
## Tests (hors ligne)
```sh
python -m pytest -q # ou : python -m unittest discover -s . -p "test_*.py"
python -m pytest -q -s tests/test_hors_ligne.py # affiche les compteurs de requêtes simulés
```
`tests/__init__.py` coupe le réseau (DNS et connexions hors boucle locale lèvent une erreur) : aucun test ne
peut joindre une API. Les réponses viennent de `tests/fixtures/` ou de petits serveurs simulés ; les secrets
sont des valeurs fictives passées dans un environnement en mémoire. `tests/test_hors_ligne.py` simule
plusieurs jours de ticks (fonctionnement normal, plafond, panne longue, sans secrets, purge, heure d'hiver).
## Déploiement (VPS, non activé)
`bash deploy/deployer-vps.sh` (depuis le PC ou le VPS) copie le code dans `~/meteo-collecte`, installe les unités
utilisateur `deploiement/meteo-collecte.service` et `.timer` **sans les activer**, crée `~/.config/meteo-collecte/env`
vide (600) et lance un `--config` et un `--publier` de contrôle. `--activer` active le minuteur, seulement si
linger est actif, `/srv/weather.gastinel.me` est accessible en écriture et `meteo-direct.timer` est arrêté.
Les secrets ne sont jamais saisis par script : Théo les met dans le fichier env avec un éditeur.
Caddy (`weather.gastinel.me`, `/data/*` en lecture seule) : `deploy/appliquer-caddy-meteo.sh`, à lancer par Théo avec sudo.
Procédure complète : `NOTES
apport-deploiement-meteo-collecte-20261017.md`.