Inleiding
Deze rapportage beschrijft de wijzigingen binnen NWM release 2.2.1.0 en de testbevindingen van de FAT (Functionele AcceptatieTest). Een nieuwe release van de NWM-applicatie doorloopt de stappen van het OTAP-proces (Ontwikkeling, Test, Acceptatie en Productie). Deze stappen bestaan op hoofdlijnen uit:
- Controle invoer: check op volledigheid en consistentie bij uitlevering van nieuwe datasets
- Functionele acceptatietesten (FAT) bij oplevering: check op functionaliteit en plausibiliteit aan de hand van standaard testprotocollen
- Testen bij installatie: controle op installatie (doorlopen workflows op alle rekenservers)
- Gebruikers acceptatietesten: controle voor start berekeningen check op de workflow technisch en zijn resultaten plausibiliteit
- Vinger-aan-de-pols tijdens berekeningen: monitoring en controles op steekproef tijdens het rekenproces (doel vroegtijdig signaleren van hickups en resultaten o.b.v. expert judgement i.s.m. project)
- Controle van de uitkomsten: technische toets op volledigheid (datavalidatie)
Op basis van de FAT wordt door Rijkswaterstaat-WVL besloten om wel/niet over te gaan tot installatie van de applicatie op de acceptatieomgeving waar Rijkswaterstaat de GAT (Gebruikers AcceptatieTest) uitvoert. De GAT focust zich binnen deze release niet op het herhalen van de FAT-testen, maar op het vaststellen of de berekeningen op de productieomgeving bij SSC Campus exact hetzelfde uitkomsten opleveren als op de Testomgeving waar de FAT wordt uitgevoerd; om die reden bevat de FAT ook een aantal acties gericht op het produceren van voor GAT-vergelijking bedoelde exportbestanden. Omwille van het beperken van de totale looptijd van de berekeningen wordt de omgeving voor zowel de GAT alsook voor de scenario-berekeningen gelijktijdig vrijgegeven; na goedkeuring van de GAT lopen de scenario-berekeningen door, bij afkeuring van de GAT zullen de scenario-berekeningen mogelijk worden gepauzeerd of herstart.
Release 2.2.1.0: aangebrachte wijzigingen t.o.v. release 2.2.0.0
Binnen NWM 2.2.1.0 zijn de volgende vier scenario's toegevoegd:
- Rust 2100
- Warm 2100
- Druk 2100
- Stoom 2100
Het doel van de berekeningen voor het zichtjaar 2100 is om inzicht te krijgen in hydrologische en economische effecten van klimaatverandering op zoetwatervoorziening in zichtjaar 2100. Hiervoor worden de Deltascenario’s 2017 doorgetrokken naar het jaar 2100. Omdat er geen socio-economische scenario’s voor het zichtjaar 2100 beschikbaar zijn is ervoor gekozen om de socio-economische ontwikkeling van de scenario's voor het zichtjaar 2050 over te nemen. Zodoende zijn alleen de randvoorwaarden als gevolg van de klimaatscenario’s voor 2100 aangepast .
FAT-testen
Hieronder staat de lijst van testen opgesomd die tijdens de FAT zijn uitgevoerd, en is een overzicht gegeven van de aanvullende JIRA-issues die in deze release zijn meegenomen en (waar van toepassing ook) onderdeel zijn van de FAT.
Invoer
FAT 2.2.0.0 Test 1.1: Modelrun uitvoeren voor het jaar 1972 en 1973. Voor Parijs-GL, en Parijs-WH. (De resultaten worden in een aantal van onderstaande tests vergeleken met de resultaten van eerdere gedraaide BP18 scenario's Referentie en Druk2050 zoals beschikop de Productieomgeving)
FAT 2.2.0.0 Test 1.2: Controleren of alle modellen gedraaid zijn.
FAT 2.2.0.0 Test 1.3a: Controleren warm-state files van de verschillende runs, dit aan de hand van een vergelijking van grondwaterstanden uit DrukParijs2050 op 1 januari 1972.
FAT 2.2.0.0 Test 1.3b: Controleren NDB randvoorwaarden voor Parijs-GL (NDB randvoorwaarden van scenario Druk2050 gebruikt), en Parijs-WH (NDB randvoorwaarden van scenario Stoom2050 gebruikt).
FAT 2.2.0.0 Test 1.4: Controleren afvoeren bij Lobith en Monsin. Parijs-GL moet overeen komen met Druk en Rust, Parijs-WH moeten overeen komen met Stoom en Warm.
FAT 2.2.0.0 Test 1.5: Controleren meteo. Parijs-GL moet overeen komen met KNMI’14GL data, Parijs-WH dient overeen te komen met KNMI’14 WH.
FAT 2.2.0.0 Test 1.6: Controleren zeespiegelstijging in de modellentrein (in alle modellen behalve LTM, want die neemt randvoorwaarden uit LSM over).
FAT 2.2.0.0 Test 1.7: Controle van ini file (extra systeem OWD moet aanwezig zijn).
Uitvoer
FAT 2.2.0.0 Test 2.1: Verhoogde grondwaterstanden t.o.v. referentie in gebieden waar OWD in het model is geïmplementeerd (voor kaart zie randvoorwaarden memo). Verschillen grondwaterstanden Druk en Parijs-GL in overige gebieden conform modelaanpassingen.
FAT 2.2.0.0 Test 2.2: Extra watervraag (watervraag peilbeheer) aan het hoofdwatersysteem voor gebieden met OWD (West Nederland, Rivierengebied, Noord Holland en Friesland)
FAT 2.2.0.0 Test 2.3: Peilverloop IJsselmeer (extra peiluitzakking in Parijs-GL scenario t.o.v. Referentie, Parijs-WH zakt nog verder uit dan Parijs-GL)
Meegenomen JIRA-issues
Tabel TR.01: Issues die in deze release zijn meegenomen
Issuenummer | Issue beschrijving | Controle |
---|---|---|
Update Batchmaker.exe with option to select coldstateId and added workflows | Check of nieuwe versie Batchmaker beschikbaar is. | |
Wabeslocaties niet goed gekoppeld aan LSM_light model-id's | In de netcdf-bestanden de aanwezigheid van de nieuwe | |
LHM Import: DMKnoopDistrict.nc tbv export WABES is incorrect | Geen onderdeel van de FAT | |
NDB export verwijderen uit huidige LHM export voor zonder zout runs | Nieuwe NDB export in FEWS-GUI beschikbaar, | |
NWM BP18 Prod: LTM-light - Debieten en lozingscapaciteit vertonen merkwaardige jaarovergangen. | Check of LTM-light afvoer op 1 januari (1973) niet meer 0 is. | |
NWM BP18 Prod: signalering missings in meteo OpenDap | Test LHM-workflow voor 2018 (buiten periode 1910-2015 waarvoor meteo wel klaar staat). |
Overzicht van de resultaten van het pakket aan FAT-testen
Tabel TR.02: Legenda
Icoon / Beschrijving | Betekenis |
---|---|
succesvol | |
niet succesvol | |
niet uitgevoerd | de reden hiervoor staat beschreven in veld opmerkingen |
n.v.t. | test niet uitgevoerd omdat dit niet nodig is, test voor enkel jaar (startjaar) afdoende. |
— | nog niet uitgevoerd |
In onderstaande tabellen worden de uitgevoerde testen weergegeven. Bovenstaande legenda geeft verdere uitleg over de gebruikte icoontjes/afkortingen in de tabellen.
Tabel TR.03: Testen voor de jaren 1972 en 1973 voor twee Deltascenario's DrukParijs-WH en DrukParijs-WH
Testen | Model | Beschrijving test | Druk | Druk | Druk | Druk | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) |
---|---|---|---|---|---|---|---|---|
FAT 2.2.0.0 Test 1.1 | LHM | Uitvoeren workflow | ||||||
LSMLT | Uitvoeren workflow | |||||||
LTMLT | Uitvoeren workflow | |||||||
FAT 2.2.0.0 | LHM | Technische controleren modeluitvoer |
|
|
| |||
LSMLT | Technische controleren modeluitvoer |
|
| |||||
LTMLT | Technische controleren modeluitvoer |
|
| |||||
FAT 2.2.0.0 Test 1.3a | LHM | Check randvoorwaarden modelstates (warm 1972-01-01) |
| |||||
LSMLT | Check randvoorwaarden modelstates (warm 1972-01-01) |
| ||||||
LTMLT | Check randvoorwaarden modelstates (warm 1972-01-01) | |||||||
FAT 2.2.0.0 | LHM | Check randvoorwaarden invoer afkomstig van NDB | ||||||
FAT 2.2.0.0 Test 1.4 | LHM | Controleren afvoeren Lobith en Monsin |
| |||||
FAT 2.2.0.0 Test 1.5 | LHM/LSTM | Meteo | ||||||
FAT 2.2.0.0 Test 1.6 | LHM | Zeespiegelstijging | ||||||
LSMLT | Zeespiegelstijging | |||||||
FAT 2.2.0.0 Test 1.7 | LHM | Controle van ini file |
| |||||
FAT 2.2.0.0 Test 2.1 | LHM | Grondwaterstand als gevolg van onderwaterdrainage |
| |||||
FAT 2.2.0.0 Test 2.2 | LHM | Watervraag regio |
| |||||
FAT 2.2.0.0 Test 2.3 | LHM | Peilverloop IJsselmeer |
* Er treedt alleen de volgende warning op die geen impact heeft op de workflow/uitgevoerde berekeningen (en mogelijk op de Productie-omgeving niet op zal treden, zie ook NWM-865):
Config.Warn: Module "compact cache files" should run daily on every FFS (including FSS05). Please schedule a workflow that includes this module on an every FSS
Tabel TR.04: Testen voor meegenomen JIRA-issues
Issuenummer | Model | Beschrijving test | Resultaat | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) |
---|---|---|---|---|---|
n.v.t. | Check of nieuwe versie Batchmaker beschikbaar is. | Resultaat nieuwe batchmaker is succesvol gebruikt bij starten workflow | |||
LSMLT export | In de netcdf-bestanden de aanwezigheid van de nieuwe zw_wabes_lsmlt*.nc id’s | Eén van de gewijzigde locaties is: locatie WABES_julianakanaal (R_MS_006_28 = nieuwe ID, R_MS_006_1 = oude ID) Deze is in de nieuwe NC export terug te vinden onder station_names (nr 88) | |||
| ZW_DM_KnoopDistrict_*.nc toont gecorrigeerde waarden voor een sluitende waterbalans | niet uitgevoerd | Geen onderdeel van de FAT; aangedragen wijziging is technisch correct doorgevoerd Resultaat wordt binnen WABES op later tijdstip a.d.h.v. waterbalans gecheckt | ||
| Nieuwe NDB export in FEWS-GUI beschikbaar, vaststellen dat in LHM export | Nieuwe NDB export beschikbaar in Topology panel, in batchmaker en exporteert NetCDF met NDB resultaten succesvol Aangepaste LHM export bevat geen ZW*Chloride*.nc bestanden meer | |||
LTMLT | Check of LTM-light afvoer op 1 januari (1973) niet meer 0 is. | Debiettijdreeks toont geen waarde nul bij jaarovergang, zie screenshot | |||
LHM / LSMLT | Test LHM-workflow voor 2018 (buiten periode 1910-2015 waarvoor meteo wel | Als er onvoldoende tijdstappen (minder dan de benodigde 365 dagen) terugkomen ERROR | |||
LTMLT (import meteo) | Test LTMLT-workflow voor 2018 (buiten periode 1910-2015 waarvoor meteo wel klaar staat). | Als er onvoldoende tijdstappen (minder dan de benodigde 365 dagen) ERROR |
Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen
Testen | Screenshot |
---|---|
FAT 2.2.0.0 Test 1.1 | geen screenshot aanwezig |
FAT 2.2.0.0 Test 1.2 | geen screenshot aanwezig |
FAT 2.2.0.0 Test 1.3a | |
FAT 2.2.0.0 Test 1.3b | geen screenshot aanwezig |
FAT 2.2.0.0 Test 1.4 | geen screenshot aanwezig |
FAT 2.2.0.0 Test 1.5 | |
FAT 2.2.0.0 Test 1.6 | |
FAT 2.2.0.0 Test 1.7 | geen screenshot aanwezig |
FAT 2.2.0.0 Test 2.1 | geen screenshot aanwezig |
FAT 2.2.0.0 Test 2.2 |
|
FAT 2.2.0.0 Test 2.3 | geen screenshot aanwezig |
NWM-1067 | |
NWM-1058 | |
NWM-1056 |
Herstelde issues tijdens testfase
Tijdens het beoordelen van de resultaten is voor "FAT 2.2.0.0 Test 2.1" gekeken naar de verandering GHG en GLG bepaald voor het jaar 1972 ten opzichte van de GHG en GLG voor het scenario DrukParijs uit de archieven.
zips:
ZW_LHM_197301010000_DTDMMC00_000058526_none_DPGL2050BP18.zip
ZW_LHM_197301010000_DTDMMC00_000058532_none_DPWH2050BP18.zipvergeleken met:
ZW_LHM_197301010000_DPAR2050BP18.zip
Dit effect was niet plausibel. Issue ontdekt in de peilen van de onderwaterdrains waardoor te weinig effect op grondwaterstanden en watervraag werd berekend. De oorzaak van dit issue is achterhaald en opgelost. Nieuwe testen uitgevoerd op nieuwe runs.
Overige testbevindingen
- Tijdens de analyse van de zeespiegelstijging is gebleken dat de zeespiegel in de Referentie 2017 in MODFLOW op 0.00 m NAP is ingesteld in plaats van 0.07m NAP. Dit betekent dat er met een extra relatieve zeespiegelstijging van 7 cm wordt gerekend bij de scenario's. De absolute zeespiegel in de scenario's is consistent met de gerapporteerde waarden.