Questa cartella contiene gli script per l'automazione del processo di raccolta e conversione dei dati sui volumi idrici delle dighe siciliane.
-
check_convert_verbali.sh: Script per il download e la conversione dei verbali dell'Osservatorio Distrettuale Permanente sugli Utilizzi Idrici. Scarica i PDF dal sito della Regione Sicilia, li analizza tramite AI (Gemini) e genera automaticamente post per il blog con i contenuti principali.Loadingflowchart LR D["Doppia Estrazione AI"]; D --> E["Estrazione #1<br/>(con anagrafica)"]; D --> F["Estrazione #2<br/>(semplice)"]; E --> G{"Controllo #1<br/>'N. Righe' corrisponde?"}; F --> G; G -- "No" --> H["❌ Tentativo Fallito"]; G -- "Sì" --> I["Confronto CSV tramite AI"]; I --> I2["Produzione report di validazione (JSON)"]; I2 --> J{"Controllo #2<br/>Il report è valido?"}; J -- "No" --> H; J -- "Sì" --> K["✅ Successo!"]; H --> L{"Altri tentativi rimasti?"}; L -- "No" --> N["❌ Fallimento Definitivo"]; L -- "Sì" --> D -
check_convert_volumi_mensili.sh: Script per il download e la conversione dei dati mensili sui volumi invasati dalle dighe siciliane. Scarica i PDF dal sito della Regione, estrae i dati tramite AI e li converte in formato CSV, effettuando vari controlli di qualità. -
check_convert_volumi_giornalieri.sh: Script analogo al precedente ma per i dati giornalieri sui volumi invasati. Include controlli aggiuntivi sulla coerenza dei dati estratti. -
launcher.sh: Script wrapper che gestisce l'esecuzione degli altri script con un numero massimo di tentativi in caso di errori. Utile per gestire eventuali fallimenti nell'estrazione dei dati.
Gli script richiedono i seguenti tool:
- curl
- jq
- xq (yq)
- scrape-cli
- llm
- mlr (Miller)
Per eseguire uno script tramite il launcher:
./launcher.sh scripts/check_convert_volumi_giornalieri.sh 10Dove 10 è il numero massimo di tentativi in caso di errore.