Inleiding

Deze rapportage beschrijft de wijzigingen binnen NWM release 2.2.0.0 en de testbevindingen van de FAT (Functionele AcceptatieTest). Een nieuwe release van de NWM-applicatie doorloopt de stappen van het OTAP-proces (Ontwikkeling, Test, Acceptatie en Productie). Deze stappen bestaan op hoofdlijnen uit:

  1. Controle invoer: check op volledigheid en consistentie bij uitlevering van nieuwe datasets
  2. Functionele acceptatietesten (FAT) bij oplevering: check op functionaliteit en plausibiliteit aan de hand van standaard testprotocollen
  3. Testen bij installatie: controle op installatie (doorlopen workflows op alle rekenservers)
  4. Gebruikers acceptatietesten: controle voor start berekeningen check op de workflow technisch en zijn resultaten plausibiliteit
  5. Vinger-aan-de-pols tijdens berekeningen: monitoring en controles op steekproef tijdens het rekenproces (doel vroegtijdig signaleren van hickups en resultaten o.b.v. expert judgement i.s.m. project)
  6. Controle van de uitkomsten: technische toets op volledigheid (datavalidatie)

Op basis van de FAT wordt door Rijkswaterstaat-WVL besloten om wel/niet over te gaan tot installatie van de applicatie op de acceptatieomgeving waar Rijkswaterstaat de GAT (Gebruikers AcceptatieTest) uitvoert. De GAT focust zich binnen deze release niet op het herhalen van de FAT-testen, maar op het vaststellen of de berekeningen op de productieomgeving bij SSC Campus exact hetzelfde uitkomsten opleveren als op de Testomgeving waar de FAT wordt uitgevoerd; om die reden bevat de FAT ook een aantal acties gericht op het produceren van voor GAT-vergelijking bedoelde exportbestanden. Omwille van het beperken van de totale looptijd van de berekeningen wordt de omgeving voor zowel de GAT alsook voor de scenario-berekeningen gelijktijdig vrijgegeven; na goedkeuring van de GAT lopen de scenario-berekeningen door, bij afkeuring van de GAT zullen de scenario-berekeningen mogelijk worden gepauzeerd of herstart.

Release 2.2.0.0: aangebrachte wijzigingen t.o.v. release 2.1.4.0

Binnen NWM 2.2.0.0 is een aantal maatregelen toegevoegd aan het maatregelenpakket van het DrukParijs scenario. Een van die maatregelen is onderwaterdrainage, dat zal zorgen voor een stijging van de zomergrondwaterstanden. Onderwaterdrainage wordt toegepast in agrarische gebieden met veen en een maximale drooglegging van 60 cm. Daarnaast wordt in landelijke veengebieden het peil van het regionale oppervlaktewater gelijk gehouden met het referentiescenario, ondanks de bodemdaling in het DrukParijs scenario. Dit wordt ook wel passieve peilverhoging genoemd. Verder is een aantal peilwijzigingen in Friesland meegenomen binnen DrukParijs. Er is voor gekozen deze wijzigingen binnen DrukParijs toe te passen op zowel het mildere klimaatscenario GL als het meer omvangrijke klimaatscenario WH. Tot nu toe werd het socio-economische scenario DrukParijs enkel gecombineerd met het klimaatscenario GL. De twee nieuwe DrukParijs-scenario’s worden DPWH (DrukParijs-WH) en DPGL (DrukParijs-GL) genoemd.

Daarnaast is er een aantal JIRA-issues opgepakt, waarvan de oplossingen meekomen in deze release, zie de bijbehorende release notes.

Voorbereidingen voor release 2.2.1.0

Naast bovengenoemde 2 nieuwe scenario's zijn de vier deltascenario’s RUST, WARM, DRUK en STOOM voor het zichtjaar 2100 aangemaakt. Het doel van de berekeningen voor het zichtjaar 2100 is om inzicht te krijgen in hydrologische en economische effecten van klimaatverandering op zoetwatervoorziening voor het zichtjaar 2100. De template workflows voor 2100 zijn in deze release al wel zichtbaar, maar komen pas in de volgende release (NWM 2.2.1.0) officieel beschikbaar voor het uitvoeren van berekeningen.

FAT-testen

Hieronder staat de lijst van testen opgesomd die tijdens de FAT zijn uitgevoerd, en is een overzicht gegeven van de aanvullende JIRA-issues die in deze release zijn meegenomen en (waar van toepassing ook) onderdeel zijn van de FAT.

Invoer

FAT 2.2.0.0 Test 1.1: Modelrun uitvoeren voor het jaar 1972 en 1973. Voor Parijs-GL, en Parijs-WH. (De resultaten worden in een aantal van onderstaande tests vergeleken met de resultaten van eerdere gedraaide BP18 scenario's  Referentie en Druk2050 zoals beschikop de Productieomgeving)

FAT 2.2.0.0 Test 1.2: Controleren of alle modellen gedraaid zijn.

FAT 2.2.0.0 Test 1.3a: Controleren warm-state files van de verschillende runs, dit aan de hand van een vergelijking van grondwaterstanden uit DrukParijs2050 op 1 januari 1972.

FAT 2.2.0.0 Test 1.3b: Controleren NDB randvoorwaarden voor Parijs-GL (NDB randvoorwaarden van scenario Druk2050 gebruikt), en Parijs-WH (NDB randvoorwaarden van scenario Stoom2050 gebruikt).

FAT 2.2.0.0 Test 1.4: Controleren afvoeren bij Lobith en Monsin. Parijs-GL moet overeen komen met Druk en Rust, Parijs-WH moeten overeen komen met Stoom en Warm.

FAT 2.2.0.0 Test 1.5: Controleren meteo. Parijs-GL moet overeen komen met KNMI’14GL data, Parijs-WH dient overeen te komen met KNMI’14 WH.

FAT 2.2.0.0 Test 1.6: Controleren zeespiegelstijging in de modellentrein (in alle modellen behalve LTM, want die neemt randvoorwaarden uit LSM over).

FAT 2.2.0.0 Test 1.7: Controle van ini file (extra systeem OWD moet aanwezig zijn).

Uitvoer

FAT 2.2.0.0 Test 2.1: Verhoogde grondwaterstanden t.o.v. referentie in gebieden waar OWD in het model is geïmplementeerd (voor kaart zie randvoorwaarden memo). Verschillen grondwaterstanden Druk en Parijs-GL in overige gebieden conform modelaanpassingen.

FAT 2.2.0.0 Test 2.2: Extra watervraag (watervraag peilbeheer) aan het hoofdwatersysteem voor gebieden met OWD (West Nederland, Rivierengebied, Noord Holland en Friesland)

FAT 2.2.0.0 Test 2.3: Peilverloop IJsselmeer (extra peiluitzakking in Parijs-GL scenario t.o.v. Referentie, Parijs-WH zakt nog verder uit dan Parijs-GL)

 

Meegenomen JIRA-issues

Tabel TR.01: Issues die in deze release zijn meegenomen

Issuenummer

Issue beschrijving

Controle

NWM-1067

Update Batchmaker.exe with option to select coldstateId and added workflows

Check of nieuwe versie Batchmaker beschikbaar is.

NWM-1064

Wabeslocaties niet goed gekoppeld aan LSM_light model-id's

In de netcdf-bestanden de aanwezigheid van de nieuwe
zw_wabes_lsmlt*.nc id’s (sobek id’s in station_names) vaststellen.

NWM-1060

LHM Import: DMKnoopDistrict.nc tbv export WABES is incorrect

Geen onderdeel van de FAT

NWM-1058

NDB export verwijderen uit huidige LHM export voor zonder zout runs

Nieuwe NDB export in FEWS-GUI beschikbaar,
vaststellen dat in LHM export geen ZW_chloride*.nc meer voorkomen.

NWM-1056

NWM BP18 Prod: LTM-light - Debieten en lozingscapaciteit vertonen merkwaardige jaarovergangen.

Check of LTM-light afvoer op 1 januari (1973) niet meer 0 is.

NWM-1047

NWM BP18 Prod: signalering missings in meteo OpenDap

Test LHM-workflow voor 2018 (buiten periode 1910-2015 waarvoor meteo wel klaar staat).


Overzicht van de resultaten van het pakket aan FAT-testen


Tabel TR.02: Legenda

Icoon / BeschrijvingBetekenis
(tick)succesvol 
(error)niet succesvol
niet uitgevoerdde reden hiervoor staat beschreven in veld opmerkingen
n.v.t.test niet uitgevoerd omdat dit niet nodig is, test voor enkel jaar (startjaar) afdoende. 
nog niet uitgevoerd

 

In onderstaande tabellen worden de uitgevoerde testen weergegeven. Bovenstaande legenda geeft verdere uitleg over de gebruikte icoontjes/afkortingen in de tabellen. 

 

Tabel TR.03: Testen voor de jaren 1972 en 1973 voor twee Deltascenario's DrukParijs-WH en DrukParijs-WH

 Testen

Model
schematisatie

Beschrijving test

Druk
Parijs-GL

1972

Druk
Parijs-GL

1973

Druk
Parijs-WH

1972

Druk
Parijs-WH

1973
OpmerkingenScreenshot
beschikbaar
(zie Tabel TR.05)
FAT 2.2.0.0
Test 1.1
LHMUitvoeren workflow(tick)(tick)(tick)(tick)n.v.t. 
 LSMLTUitvoeren workflow (tick) (tick)(tick) (tick)n.v.t. 
 LTMLTUitvoeren workflow(tick) (tick)(tick) (tick)n.v.t. 

FAT 2.2.0.0
Test 1.2

LHM

Technische controleren modeluitvoer

(tick) 

(tick)  

(tick) 

(tick) 

geen ERROR/WARN* logmeldingen, 0% missings voor betreffend jaar,
jaarovergang resultaat tijdreeksen lopen goed door (geen abrupte sprong)
locaties: 4820, parameters: 80, Model instanties: 4
Workflow ZW_LHM_DPGL2050BP18 completed in 7h 42m 47s (1972) o.b.v. 4 cores
Workflow ZW_LHM_DPWH2050BP18 completed in 7h 55m 8s (1972) o.b.v. 4 cores
Workflow ZW_LHM_DPGL2050BP18 completed in 5h 20m 34s (1973) o.b.v. 8 cores
Workflow ZW_LHM_DPWH2050BP18 completed in 5h 44m 29s (1973) o.b.v. 8 cores

 
 

LSMLT

Technische controleren modeluitvoer

(tick) 

(tick) 

(tick) 

(tick) 

geen ERROR/WARN* logmeldingen, 0% missings voor betreffend jaar,
jaarovergang resultaat tijdreeksen lopen goed door (geen abrupte sprong)
locaties: 1794, parameters: 21, Model instanties: 6
Workflow ZW_LSMLT_DPGL2050BP18 completed in 3h 27m 11s (1972)
Workflow ZW_LSMLT_DPWH2050BP18 completed in 3h 27m 53s (1972)
Workflow ZW_LSMLT_DPGL2050BP18 completed in 3h 1m 3s (1973)
Workflow ZW_LSMLT_DPWH2050BP18 completed in 4h 23m 54s (1973)

 
 

LTMLT

Technische controleren modeluitvoer

(tick) 

(tick) 

(tick) 

(tick) 

geen ERROR/WARN* logmeldingen, 0% missings voor betreffend jaar,
jaarovergang resultaat tijdreeksen lopen goed door (geen abrupte sprong)
locaties: 405, parameters: 10, Model instanties: 8
Workflow ZW_LTMLT_DPGL2050BP18 completed in 46m 29s (1972)
Workflow ZW_LTMLT_DPWH2050BP18 completed in 46m 50s (1972)
Workflow ZW_LTMLT_DPGL2050BP18 completed in 46m 1s (1973)
Workflow ZW_LTMLT_DPWH2050BP18 completed in 47m 37s (1973)

 
FAT 2.2.0.0
Test 1.3a
LHMCheck randvoorwaarden modelstates
(warm 1972-01-01)
(tick) n.v.t.(tick) n.v.t.

Controle op verloop van grondwaterstanden DrukParijs 1971 naar DPGL en DPWH 1972.
Verloop bij jaarovergang (1971-1972) is plausibel.

Lokatie is een plek in oost Nederland (zie coordinaten in figuur). Geen controle uitgevoerd op algemene plausibiliteit van de uitkomsten. Wel kan verwacht worden dat door lagere neerslag in de zomer de grondwaterstanden in DPWH in vergelijking met DPGL verder uitzakken. Dit is ook terug te zien in het figuur.

(tick)
  LSMLTCheck randvoorwaarden modelstates
(warm 1972-01-01)
(tick)n.v.t.(tick)n.v.t.

Controle verloop afvoeren DrukParijs 1971-1972 en DPGL en DPWH 1972.
Verschillen liggen binnen de range van afvoerveranderingen per dag.
Daarnaast is een technische check op de FEWS Backend uitgevoerd
op gebruik van correcte warmestart.

 
  LTMLTCheck randvoorwaarden modelstates
(warm 1972-01-01)
(tick)n.v.t.(tick)n.v.t.Controle verloop temperaturen DrukParijs 1971-1972 en DPGL en DPWH 1972.
Verloop van de watertemperatuur is plausibel.
 

FAT 2.2.0.0
Test 1.3b

 LHMCheck randvoorwaarden invoer
afkomstig van NDB
(tick)n.v.t.(tick)n.v.t.Zoutconcentraties NDB 1973 DRUK en STOOM komen overeen met salt.his file
die in LHM 1973 DPGL en DPWH respectievelijk worden gebruikt.
 
FAT 2.2.0.0
Test 1.4
LHMControleren afvoeren Lobith en Monsin (tick) (tick)(tick)(tick)

Afvoerverloop Lobith (6001) DPGL'17 is gelijk aan Druk'17.

Afvoerverloop Lobith (6001) DPWH'17 is gelijk aan Warm'17.

Afvoerverloop Monsin (60720) DPGL'17 is gelijk aan Druk'17.

Afvoerverloop Lobith (60720) DPWH'17 is gelijk aan Warm'17.

 
FAT 2.2.0.0
Test 1.5
LHM/LSTMMeteo(tick)n.v.t.(tick)n.v.t.

Er zijn verschillen tussen meteorologie modelinvoer van de scenario's DPWH en DPGL.
Controle van de meteo map in:

ZW_LHM_197301010000_DTDMMC00_000058526_none_DPGL2050BP18.zip
ZW_LHM_197301010000_DTDMMC00_000058532_none_DPWH2050BP18.zip

 
FAT 2.2.0.0
Test 1.6
LHMZeespiegelstijging(tick)n.v.t(tick)n.v.t

Zeespiegelstijging komt overeen met de zeespiegelstijging opgenomen de
rapportage van de Deltascenario's. Testen zijn uitgevoerd op de berekende
grondwaterstanden voor een locatie op de noordzee (veroorzaakt GHB MODLFOW
randvoorwaarde) en op de westerschelde (veroorzaakt door RIV MODFLOW randvoorwaarde.

Testen zijn uitgevoerd op basis van:

ZW_LHM_197301010000_DTDMMC00_000058526_none_DPGL2050BP18.zip
ZW_LHM_197301010000_DTDMMC00_000058532_none_DPWH2050BP18.zip
ZW_LHM_197301010000_REF2017BP18.zip

(tick)
 LSMLTZeespiegelstijging(tick)(tick)(tick)(tick)Waterpeil vergeleken tussen de twee runs voor LSMLT punt LSMLT_nod_R_NDB_14_3.
Hier is consequent verschil van ruim 20 cm verschil zichtbaar.
Zeespiegel zou 25cm verschil moeten zijn.
Aangezien dit punt niet direct aan zee ligt maar een paar km landinwaarts is dit verschil plausibel.
 
FAT 2.2.0.0
Test 1.7
LHMControle van ini file(tick)n.v.t.(tick)n.v.t.

Gecontroleerd of de aanpassingen van het extra systeem in de ini terecht zijn gekomen.
Vervolgens ook gecontroleerd of de runfile waar modflow mee rekent (nhi.run)
ook het extra RIV systeem bevat.

 
FAT 2.2.0.0
Test 2.1
LHMGrondwaterstand als gevolg van onderwaterdrainage(tick)n.v.t.(tick)n.v.t.

Verandering GHG en GLG bepaald voor het jaar 1972 ten opzichte van de GHG en GLG
voor het scenario DrukParijs uit de archieven.

zips:

ZW_LHM_197301010000_DTDMMC00_000058927_none_DPGL2050BP18.zip
ZW_LHM_197301010000_DTDMMC00_000058929_none_DPWH2050BP18.zip

vergeleken met:

ZW_LHM_197301010000_DPAR2050BP18.zip

Het effect op de grondwaterstanden heeft de juiste richting maar is kleiner dan verwacht,
waarschijnlijk door het type jaar dat nu doorgerekend is (in droge jaren is het effect
sterker); de uitkomsten van deze test worden daarom plausibel geacht.

 
FAT 2.2.0.0
Test 2.2
LHMWatervraag regio(tick)n.v.t.(tick)n.v.t.

Gekeken naar takdebiet Lemmer (wordt gestuurd door watervraag Friesland)
en de watervraag voor peilbeheer voor Midden West Nederland niet extern verzilt.

Piek takdebiet Lemmer neemt in neemt in 1972 toe
van 25.71 (oude DrukParijs) naar 26.98 (DPGL).
Resultaat lager dan verwacht, maar kan komen door het type jaar.

Piek watervraag voor peilbeheer neemt in 1972 toe van 10882548.48 (oude DrukParijs)
naar 12326562.56 (DPGL).
Plausibel resultaat.

 
FAT 2.2.0.0
Test 2.3
LHMPeilverloop IJsselmeer(tick)n.v.t.(tick)n.v.t.Peilverloop IJsselmeer geeft voor deze jaren voor alle situaties een vergelijkbaar beeld.
Hierom heeft deze test voor deze testjaren geen waarde.
 

* Er treedt alleen de volgende warning op die geen impact heeft op de workflow/uitgevoerde berekeningen (en mogelijk op de Productie-omgeving niet op zal treden, zie ook NWM-865): 
Config.Warn: Module "compact cache files" should run daily on every FFS (including FSS05). Please schedule a workflow that includes this module on an every FSS


Tabel TR.04: Testen voor meegenomen JIRA-issues

Issuenummer

Model
schematisatie

Beschrijving test

ResultaatOpmerkingenScreenshot
beschikbaar
(zie Tabel TR.05)

NWM-1067

n.v.t.

Check of nieuwe versie Batchmaker beschikbaar is.

(tick)

Resultaat nieuwe batchmaker is succesvol gebruikt bij starten workflow
Check beschikbaarheid moet op Productieomgeving plaatsvinden,
daar moet de versie met optie ColdstateId (zie screenshot) zichtbaar zijn

(tick)

NWM-1064

LSMLT export

In de netcdf-bestanden de aanwezigheid van de nieuwe zw_wabes_lsmlt*.nc id’s
(sobek id’s in station_names) vaststellen.

(tick)Eén van de gewijzigde locaties is:
locatie WABES_julianakanaal (R_MS_006_28 = nieuwe ID, R_MS_006_1 = oude ID)
Deze is in de nieuwe NC export terug te vinden onder station_names (nr 88)
 

NWM-1060

 

ZW_DM_KnoopDistrict_*.nc toont gecorrigeerde waarden voor een sluitende waterbalans

niet uitgevoerdGeen onderdeel van de FAT; aangedragen wijziging is technisch correct doorgevoerd
Resultaat wordt binnen WABES op later tijdstip a.d.h.v. waterbalans gecheckt
 

NWM-1058

 

Nieuwe NDB export in FEWS-GUI beschikbaar, vaststellen dat in LHM export
geen ZW_chloride*.nc meer voorkomen.

(tick)Nieuwe NDB export beschikbaar in Topology panel, in batchmaker en exporteert
NetCDF met NDB resultaten succesvol
Aangepaste LHM export bevat geen ZW*Chloride*.nc bestanden meer
(tick)

NWM-1056

LTMLT

Check of LTM-light afvoer op 1 januari (1973) niet meer 0 is.

(tick)Debiettijdreeks toont geen waarde nul bij jaarovergang, zie screenshot(tick)

NWM-1047

LHM / LSMLT
(import meteo)

Test LHM-workflow voor 2018 (buiten periode 1910-2015 waarvoor meteo wel
klaar staat).

(tick)

Als er onvoldoende tijdstappen (minder dan de benodigde 365 dagen) terugkomen
van de OpenDAP import (neerslag, verdamping) verschijnt onderstaande ERROR
melding en zal het model niet starten met rekenen:

ERROR
13-02-2019 17:24:41
ZW_LHM_DPWH2050BP18Z0
Timeseries.Check
Not enough values available for timeseries KNMI P.m (mm) day
ZW_ImportMeteo_DPWH2050BP18Z0, KNMI

 
 LTMLT
(import meteo)
Test LTMLT-workflow voor 2018 (buiten periode 1910-2015 waarvoor meteo wel
klaar staat).
(tick)

Als er onvoldoende tijdstappen (minder dan de benodigde 365 dagen)
terugkomen van de OpenDAP import (temperatuur, straling) verschijnt
onderstaande ERROR melding en zal het model niet starten met rekenen:

 ERROR
13-02-2019 17:20:32
ZW_LTMLT_DPGL2050BP18
Timeseries.Check
Not enough values available for timeseries KNMI T.m (oC) day
ZW_LTM_ImportMeteo_OPENDAP_DPGL2050BP18, KNMI

 


Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen

TestenScreenshot
FAT 2.2.0.0 Test 1.1geen screenshot aanwezig
FAT 2.2.0.0 Test 1.2geen screenshot aanwezig
FAT 2.2.0.0 Test 1.3a
FAT 2.2.0.0 Test 1.3bgeen screenshot aanwezig
FAT 2.2.0.0 Test 1.4geen screenshot aanwezig
FAT 2.2.0.0 Test 1.5
FAT 2.2.0.0 Test 1.6
FAT 2.2.0.0 Test 1.7geen screenshot aanwezig
FAT 2.2.0.0 Test 2.1geen screenshot aanwezig
FAT 2.2.0.0 Test 2.2

FAT 2.2.0.0 Test 2.3geen screenshot aanwezig
NWM-1067
NWM-1058
NWM-1056

 

Herstelde issues tijdens testfase

  1. Tijdens het beoordelen van de resultaten is voor "FAT 2.2.0.0 Test 2.1" gekeken naar de verandering GHG en GLG bepaald voor het jaar 1972 ten opzichte van de GHG en GLG voor het scenario DrukParijs uit de archieven.

    zips:

    ZW_LHM_197301010000_DTDMMC00_000058526_none_DPGL2050BP18.zip
    ZW_LHM_197301010000_DTDMMC00_000058532_none_DPWH2050BP18.zip

    vergeleken met:

    ZW_LHM_197301010000_DPAR2050BP18.zip

    Dit effect was niet plausibel. Issue ontdekt in de peilen van de onderwaterdrains waardoor te weinig effect op grondwaterstanden en watervraag werd berekend. De oorzaak van dit issue is achterhaald en opgelost. Nieuwe testen uitgevoerd op nieuwe runs. 

Overige testbevindingen

  1. Tijdens de analyse van de zeespiegelstijging is gebleken dat de zeespiegel in de Referentie 2017 in MODFLOW op 0.00 m NAP is ingesteld in plaats van 0.07m NAP. Dit betekent dat er met een extra relatieve zeespiegelstijging van 7 cm wordt gerekend bij de scenario's. De absolute zeespiegel in de scenario's is consistent met de gerapporteerde waarden. 
  • No labels