Inleiding
Deze rapportage beschrijft de wijzigingen van NWM release 2.4.0.0 en de testbevindingen van de FAT (Functionele Acceptatie Test) voor de upgrade van de NWM Testomgeving met een geactualiseerde modellentrein bestaande uit het LHM4.3 model en het LSM3 model. De oude modellentrein blijft ook nog beschikbaar in deze release.
Een nieuwe release van de NWM-applicatie doorloopt de stappen van het OTAP-proces (Ontwikkeling, Test, Acceptatie en Productie). Deze stappen bestaan op hoofdlijnen uit:
- Controle invoer: check op volledigheid en consistentie bij uitlevering van nieuwe datasets
- Functionele acceptatietesten (FAT) bij oplevering: check op functionaliteit en plausibiliteit aan de hand van standaard testprotocollen
- Testen bij installatie: controle op installatie (doorlopen workflows op alle rekenservers)
- Gebruikers acceptatietesten: controle voor start berekeningen check op de workflow technisch en zijn resultaten plausibiliteit
- Vinger-aan-de-pols tijdens berekeningen: monitoring en controles op steekproef tijdens het rekenproces (doel vroegtijdig signaleren van hickups en resultaten o.b.v. expert judgement i.s.m. project)
- Controle van de uitkomsten: technische toets op volledigheid (datavalidatie)
Op basis van de FAT wordt door Rijkswaterstaat-WVL besloten om wel/niet over te gaan tot installatie van de applicatie op de acceptatieomgeving waar Rijkswaterstaat de GAT (Gebruikers Acceptatie Test) uitvoert. De GAT focust zich binnen deze release niet op het herhalen van de FAT-testen, maar op het vaststellen of de berekeningen op de productieomgeving bij SSC Campus dezelfde uitkomsten opleveren als op de Testomgeving waar de FAT wordt uitgevoerd; om die reden bevat de FAT ook een aantal acties gericht op het produceren van voor GAT-vergelijking bedoelde exportbestanden.
Release 2.4.0.0: aangebrachte wijzigingen t.o.v. release 2.3.0.0
NWM 2.4.0.0 gebruikt een geactualiseerde modellentrein t.o.v. de modellentrein in de vorige release 2.3.0.0. Omdat de nieuwe KNMI 2023 scenario's nog niet volledig beschikbaar zijn binnen de NWM FEWS omgeving is in deze release alleen het scenario REF2017BP18 ingebouwd voor een beperkt aantal jaren (1980-2011). In een volgende release waarin de nieuwe KNMI scenario's worden aangesloten komen ook de andere scenario's en jaren beschikbaar. De nieuwe modellentrein bestaat uit het LHM model versie 4.3 en het LSM3 model. De volledige modellentrein ziet er als volgt uit: LHMZ0 (zonder zoutbeperking) - LSM3 (chloride berekening) - LHM (met zoutbeperking) - LSM3 (waterverdeling en temperatuur (en chloride)).
Overzicht issues behorende bij deze release
Meegenomen JIRA-issues in deze release
Tabel TR.01a: Issues die in deze release zijn meegenomen
deIssuenummer | Issue beschrijving | Opmerking |
|---|---|---|
| Inbouw LSM3 (vervanging LSM-light, NDB en LTM-light door LSM3) | geplande issue (doel van deze release); de sub-issues NWM-1198, NWM-1160, NWM-1138, NWM-1149 zijn niet apart vermeld, zie hiervoor Releasenotes 2.4.0.0 | |
| Inbouw LHM4.3 (vervanging LHM3.3) | geplande issue (doel van deze release); de sub-issues NWM-1179, NWM-1188, NWM-1180, NWM-1189, NWM-1177, NWM-1174, NWM-1173, NWM-1199 zijn niet apart vermeld, zie hiervoor Releasenotes 2.4.0.0 | |
| What-if template voor keuze model versie LHM | geplande issue; nodig om naast de nieuwe modellentrein ook de oude modellentrein (met LHM3.3) te kunnen blijven gebruiken | |
What-if template voor keuze oppakken NDB of LSM3 chloridereeksen | geplande issue; nodig om naast de nieuwe modellentrein ook de oude modellentrein (met NDB) te kunnen blijven gebruiken | |
| WhatIf in batchtask op kunnen geven | In de batchmaker kan een (in de NWM applicatie aangemaakte) WhatIf meegegeven worden. Het betreft de whatIfId die via de exportknop van de betreffende whatIf achterhaald kan worden. | |
| juiste eenheid voor chloride definiëren bij de LHM data. | Aanbeveling nav GAT2.3.0.0 | |
| na aanpassing eenheidsconversie voor import chloridereeksen LSM3 (betreft aanpassing importUnitConversion met factor 0.554285626 (chloriniteit in g/l vs. saliniteit in ppt)) zijn de resultaten tussen NDB en LSM3 heel vergelijkbaar (soms perfecte match, soms wat verschillen maar wel zelfde bereik) | herstelde issues (geconstateerd tijdens FAT (testfase LSM3)) | |
| na aanpassing uitvoer LSM3 van average (gemiddelde waarde binnen rekentijdstap) naar current (laatste waarde binnen rekentijdstap) is er geen discontinuïteit meer | herstelde issues (geconstateerd tijdens FAT (testfase LSM3)) | |
na aanpassing van warmstate afhandeling MOZART in FEWS worden alle stateid's behalve Default nu gezien als warme start en worden de mozartin uitvoerbestanden (lswvalue, dwvalue en wavalue) alleen bij een koude start gebruikt | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) | |
na klaarzetten apart maaiveld bestand in meters voor postprocessing MODFLOW staan de resultaten nu wel in de juiste eenheden | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) | |
na oppakken neerslag en verdamping tijdreeksen van NHI server ipv OpenDAP liggen de MODFLOW resultaten van NHI server en FEWS beter op elkaar | herstelde issues (geconstateerd tijdens FAT (testfase LHM4.3)) |
Geconstateerde en/of geplande JIRA-issues die nog niet zijn meegenomen in deze release
Tabel TR.01b: Issues die in de eerstvolgende release moeten worden meegenomen
Issuenummer | Issue beschrijving | geplande release |
|---|---|---|
| Aansluiten KNMI 2023 meteodata (vervanging KNMI'17) | doel eerstvolgende release (2.4.1.0) | |
| Inbouw nieuwe deltascenario's | doel eerstvolgende release (2.4.1.0) | |
| Doorvoeren wijzigingen koppeling LHM4.3-LSM3 (update tov koppeling LHM3.3-LSM3) | meenemen eerstvolgende release (2.4.1.0) | |
| Aanbeveling nav GAT2.3.0.0: Klaarzetten van initial states automatiseren | meenemen eerstvolgende release (2.4.1.0) | |
| FAT bevinding LHM: Vergelijking LHM-data run4 versus run5: GHG grote verschillen na restart | meenemen eerstvolgende release (2.4.1.0) | |
FAT bevinding LSM3Z0: bakjesmodel (preprocessing stap van LSM3 temperatuur) start eerder dan 1 jan (bij warme start op 1 jan) en faalt indien voorgaande jaar niet gedraaid heeft; Oorzaak ligt bij het niet goed importeren van de statefile en vertaalt zich naar een rood kruisje in de NWM-FEWS display, zoals hiernaast getoond: | meenemen eerstvolgende release (2.4.1.0) | |
| FAT bevinding LSM3Z0: de data van de laatste dag van het jaar ontbreekt | meenemen eerstvolgende release (2.4.1.0) | |
| FAT bevinding LSM3: debiet, merkwaardige jaarovergangen (run5) | meenemen eerstvolgende release (2.4.1.0) | |
| Bijwerken wiki pagina n.a.v. laatste release | meenemen eerstvolgende release (2.4.1.0) |
FAT-testen
Hieronder staat de lijst van testen opgesomd die tijdens de FAT (tweeledig) zijn uitgevoerd.
1) Ten behoeve van de upgrade naar LSM3 (vervanging LSM-light, NDB en LTM-light) zijn testen met zowel de nieuwe modellentrein als de oude modellentrein uitgevoerd voor de jaren 1911 t/m 1912 met 'scenario':
- REF2017BP18.
Het jaar 1911 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 3.3.1)
- LSM3 chloride berekening
- LHM (versie 3.3.1)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LSM3
FAT 2.4.0.0 Test 1.1: Check of smoketesten voor LSM3 in de NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 1.2: Check of de exports voor LSM3 in de NWM modellentrein technisch goed draaien.
Inhoudelijk test LSM3
De inhoudelijke testen (of plausibiliteitstesten) met het LSM3 zijn door Huib Tanis uitgevoerd. Deze gerapporteerde bevindingen zijn opgenomen in JIRA, issues NWM-1137 t/m NWM-1152.
Hieronder is een schematische weergave gegeven van de vergelijkingen die als onderdeel van de LSM3 plausibiliteitstesten zijn uitgevoerd.
Toelichting van de 4 tests:
FAT 2.4.0.0 Test 2.1: vergelijken van chloride
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB (run 4)
- LHM (zonder zout) => LSM3 (chloride) (run 5)
Chloride concentraties worden vergeleken tussen LSM3Z0 (run 5) en NDB (run 4).
FAT 2.4.0.0 Test 2.2: vergelijken van balancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVG
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM (run 4)
- LHM (zonder zout) => LSM3 (chloride) => LHM (run 5)
Balancecheck, demand_wmtot, drainage_sh, infiltration_sh, Takdebiet, Tekort_doorspoeling, Watervraag_peilbeheer, GHG, GLG en GVG worden vergeleken tussen LHM (run 5) en LHM (run 4).
FAT 2.4.0.0 Test 2.3: vergelijken van debieten, waterstanden, waterhoogten en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSM3 (run 4b)
Debieten, waterstanden, waterhoogten en temperatuur worden vergeleken tussen LSM3 (run 4b) en LSMLT/LTMLT (run 4).
FAT 2.4.0.0 Test 2.4: vergelijken van debieten, waterstanden en temperatuur
De volgende twee modellentreinen zijn doorgerekend:
- LHM (zonder zout) => LSMLT (zonder zout) => NDB => LHM => LSMLT/LTMLT (run 4)
- LHM (zonder zout) => LSM3 (chloride) => LHM => LSM3 (run 5)
Debieten, waterstanden en temperatuur worden vergeleken tussen LSM3 (run 5) en LSMLT/LTMLT (run 4).
2) Ten behoeve van de upgrade naar LHM4.3 zijn testen met de nieuwe modellentrein uitgevoerd voor de jaren 2007 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2007 is gestart met een koude start.
De volgende modellen zijn gedraaid:
- LHM zonder zoutbeperking (versie 4.3)
- LSM3 chloride berekening
- LHM (versie 4.3)
- LSM3 waterverdeling en watertemperatuur berekening
Technische test LHM
FAT 2.4.0.0 Test 3.1: Check of smoketesten voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
FAT 2.4.0.0 Test 3.2: Check of de exports voor alle modellen in de nieuwe NWM modellentrein technisch goed draaien.
Inhoudelijk test LHM
Ten behoeve van de inhoudelijke testen is LHM4.3 gedraaid voor de jaren 2009 t/m 2011 met 'scenario':
- REF2017BP18.
Het jaar 2009 is gestart met een warme start '20090101'.
De resultaten van het jaar 2009 en 2011 zijn vergeleken met een LHM4.3 run buiten NWM (NHI server).
FAT 2.4.0.0 Test 4.1: Vergelijken modflow grondwaterstanden GLG en GHG
FAT 2.4.0.0 Test 4.2: Vergelijken van DM takdebieten
FAT 2.4.0.0 Test 4.3: Vergelijken van Mozart oppervlaktepeilen (lsw's)
Overzicht van de resultaten van het pakket aan FAT-testen
Tabel TR.02: Legenda
Icoon / Beschrijving | Betekenis |
|---|---|
 | succesvol |
| issue gevonden; in review na herstelactie of nadere analyse nodig |
| niet succesvol |
| n.v.t. | de reden hiervoor staat beschreven in veld opmerkingen |
| — | nog niet uitgevoerd |
In onderstaande tabellen worden de uitgevoerde testen weergegeven. Bovenstaande legenda geeft verdere uitleg over de gebruikte icoontjes/afkortingen in de tabellen.
Tabel TR.03a: Testen voor de jaren 1911-1912 voor Deltascenario's Referentie 2017
| Testen | Scenario | Beschrijving test | Model schematisatie (Z0 = zonder zoutbeperking) | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) | |||
LHMZ0 | LSM3 chloride of | LHM | LSM3 | |||||
|---|---|---|---|---|---|---|---|---|
| FAT 2.4.0.0 Test 1.1 | Referentie 2017 | Draaien van de smoketesten | | | | | smoketesten succesvol doorlopen | ja |
| FAT 2.4.0.0 Test 1.2 | Referentie 2017 | Draaien van de exports | | | | | smoketesten succesvol doorlopen | - |
| FAT 2.4.0.0 Test 2.1 | Referentie 2017 | vergelijken chloride | n.v.t. |
| n.v.t. | n.v.t. | twee issues (NWM-1137; NWM-1139) hersteld, vergelijkbare resultaten; nadere analyse nodig voor één issue (NWM-1140) | ja |
| FAT 2.4.0.0 Test 2.2 | Referentie 2017 | vergelijken doorwerken effect LSM3 vs. NDB op LHM | n.v.t. | n.v.t. |
| n.v.t. | nadere analyse nodig voor vijf issues (NWM-1141; NWM-1142; NWM-1143; NWM-1144; NWM-1145) na uitvoering herstelberekening n.a.v. NWM-1137 | - |
| FAT 2.4.0.0 Test 2.3 | Referentie 2017 | vergelijken van debieten, waterstanden, waterhoogten en temperatuur | n.v.t. | n.v.t. | n.v.t. |
| nadere analyse nodig voor één issue (NWM-1148) | - |
| FAT 2.4.0.0 Test 2.4 | Referentie 2017 | vergelijken oude en nieuwe modellentrein | n.v.t. | n.v.t. | n.v.t. |
| nadere analyse nodig voor drie issue (NWM-1150; NWM-1151; NWM-1152) | - |
Tabel TR.03b: Testen voor de jaren 2009-2011 voor Deltascenario's Referentie 2017
| Testen | Scenario | Beschrijving test | Model schematisatie (Z0 = zonder zoutbeperking) | Opmerkingen | Screenshot beschikbaar (zie Tabel TR.05) | |||
LHMZ0 | LSM3 chloride | LHM | LSM3 | |||||
|---|---|---|---|---|---|---|---|---|
| FAT 2.4.0.0 Test 3.1 | Referentie 2017 | Draaien van de smoketesten | |
|
|
| smoketesten succesvol doorlopen | ja |
| FAT 2.4.0.0 Test 3.2 | Referentie 2017 | Draaien van de exports | |
|
|
| Alle jaren 2009 t/m 2011 zijn succesvol geëxporteerd | - |
| FAT 2.4.0.0 Test 4.1 | Referentie 2017 | Reproductietest - Vergelijken GLG en GHG (kaartlagen GLG_20100101000000.asc en GHG_20100101000000.asc) | 2009: 2011: | nvt | nvt | nvt | na herstelacties voor twee issues (NWM-1185 (m vs. cm); NWM-1186 (verschil imod versie)) en een 1-op-1 vergelijking van executables en invoerbestanden (van modflow, metaswap mozart) tussen de NHI server en NWM omgeving zijn de resultaten nagenoeg identiek voor 2009, dwz. dat er voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien zijn, zie screenshots. Voor 2011 zijn er iets meer verschillen te zien, o.a. in het het westen van Nederland. De verschillen lijken te liggen op de randen van Mozart lsw's. Nadere analyse is nodig om deze verschillen te kunnen duiden (NWM-1201). | ja |
| FAT 2.4.0.0 Test 4.2 | Referentie 2017 | Reproductietest - Vergelijken van DM debieten (tijdreeksen uit "Debieten in het netwerk.mpx") | 2009: 2011: | nvt | nvt | nvt | Vrijwel alle debietreeksen liggen perfect over elkaar. Voor een aantal locaties zijn zeer kleine verschillen te zien. Voor het jaar 2011 zijn er zelfs geen verschillen meer te zien in de figuren. | ja |
| FAT 2.4.0.0 Test 4.3 | Referentie 2017 | Reproductietest - Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater (tijdreeksen uit "*.mms, *.mz" bestanden) | 2009: 2011: | nvt | nvt | nvt | Er zijn voor het eerste jaar 2009 voor hele kleine gebieden (o.a. in Limburg) beperkte verschillen te zien, zie screenshots. Voor 2011 zijn er iets meer verschillen te zien, met name in het voorjaar. Nadere analyse is nodig om deze verschillen te kunnen duiden (NWM-1201). | ja |
Tabel TR.04: Testen voor meegenomen JIRA-issues
Issuenummer | Model | Beschrijving test | Resultaat | Opmerkingen | Screenshot |
|---|---|---|---|---|---|
| LHM | Voor de LHM berekeningen is een WhatIf beschikbaar waarmee de modelversie (LHM3.3 of LHM4.3) aangepast kan worden |
| What-if template voor keuze model versie LHM is beschikbaar | ja | |
| LHM | Voor de LHM berekeningen is een WhatIf beschikbaar waarmee de chloridereeksen randvoorwaarde (NDB of LSM3) aangepast kan worden |
| What-if template voor keuze oppakken NDB of LSM3 chloridereeksen is beschikbaar | ja | |
| LHM | Check of juiste eenheid getoond wordt voor Zoutgehalte in NWM tijdreeksen grafiek voor DM districten |
| Zoutgehalte eenheid wordt nu getoond in mg/l (waardes waren correct, alleen naamgeving parameter foutief in voorgaande versies) | ja | |
| LSM3 | Check of NDB en LSM3 chloridereeksen beter overeenkomen |
| na aanpassing eenheidsconversie voor import chloridereeksen LSM3 (betreft aanpassing importUnitConversion met factor 0.554285626 (chloriniteit in g/l vs. saliniteit in ppt)) zijn de resultaten tussen NDB en LSM3 heel vergelijkbaar (soms perfecte match, soms wat verschillen tussen beide modellen maar wel zelfde bereik) | ja | |
| LSM3 | Check of de tijdreeks zonder discontinuïteit doorloopt bij de jaarovergang |
| na aanpassing uitvoer LSM3 van average (gemiddelde waarde binnen rekentijdstap) naar current (laatste waarde binnen rekentijdstap) is er geen discontinuïteit meer | ja | |
| LHM | Controleer of na aanpassing van de nhi.exe de opgeven 'warme start' bestanden (in FEWS opgegeven via 'yyyy0101') nu ook zonder tussenkomst van mozartin worden opgepakt door LHM |
| na aanpassing van warmstate afhandeling MOZART in FEWS worden alle stateid's behalve Default nu gezien als warme start en worden de mozartin uitvoerbestanden (lswvalue, dwvalue en wavalue) alleen bij een koude start gebruikt | - | |
| LHM | zie FAT 2.4.0.0 Test 4.1 |
| na klaarzetten apart maaiveld bestand in meters voor postprocessing MODFLOW staan de resultaten nu wel in de juiste eenheden | ja | |
| LHM | zie FAT 2.4.0.0 Test 4.1 |
| na oppakken neerslag en verdamping tijdreeksen van NHI server ipv OpenDAP liggen de MODFLOW resultaten van NHI server en FEWS beter op elkaar | ja |
Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen
(door een automatische export van WIKI naar PDF is de tabel mogelijk onhandig verdeeld over de pagina's en kunnen de figuren soms wat onscherp zijn, de oorspronkelijke figuren zijn te bekijken via deze link: https://publicwiki.deltares.nl/display/NW/Rapportage+FAT+Release+2.4.0.0 )
Testen | Screenshot |
|---|---|
| FAT 2.4.0.0 Test 1.1 |
|
| FAT 2.4.0.0 Test 1.2 | - |
| FAT 2.4.0.0 Test 2.1 |
|
| FAT 2.4.0.0 Test 3.1 |
|
| FAT 2.4.0.0 Test 4.1 | GLG (links) en GHG (rechts), verschilkaart NWM berekening met berekening NHI-server: 2009:
2011:
detailkaart van GLG verschil 2011; de zwarte lijnen tonen de Mozart LSW's:
|
| FAT 2.4.0.0 Test 4.2 | Vergelijking DM takdebieten tussen berekening NHI-server (Referentie, blauwe lijn) en NWM berekening (NWM, oranje lijn). Als alleen de oranje lijn zichtbaar is liggen de resultaten perfect over elkaar heen. 2009:
2011:
|
| FAT 2.4.0.0 Test 4.3 | Vergelijken van Mozart peilen van het 'lsw' oppervlaktewater voor twee decades (1 april en 1 september): 2009:
2011:   |
| NWM-1173 en NWM-1199 | Voor de LHM workflow zijn modelversie en randvoorwaarde aan te passen:
De WhatIf met aangepaste LHM versie heeft succesvol gedraaid:
|
| NWM-1162 | LHM DM Zoutgehalte wordt nu in de juiste eenheid (mg/l) getoond:
|
| NWM-1137 | voor de fix (BenedenMerwede en Gat van Kampen):
|
| NWM-1139 | voor de fix:
na de fix:
|
| NWM-1185 | GLG voor de fix:
GLG na de fix maaiveld in meters voor postprocessing MODFLOW
|
| NWM-1186 | verschillen GLG FEWS vs NHI server voor de fix:
Na fix veel minder verschillen: verschillen head's (20091228) FEWS vs. NHI server na fix meteo plus IMOD versie en warme start ipv koude start. Verkeerde inititiële condities MODFLOW verklaren de overige verschillen, zie het resultaat van de definitieve vergelijking bij FAT 2.4.0.0 Test 4.1.
|
Overige testbevindingen
- Tijdens het testen is gebleken dat een aantal (oudere) executables falen na verwijderen van Microsoft redistributable 2010 (vcredist.exe) (NWM-1196). Het betreft o.a. LHM postprocessing scripts en Delwaq. Voor het Delwaq bakjesmodel (onderdeel LSM3 workflow) is daarom overgestapt op een nieuwere Delwaq versie (rev652). Maar omdat ook meerdere LHM postprocessing scripts afhankelijk zijn van deze redistributables is besloten om op de NWM-Testomgeving de Microsoft redistributable 2010 opnieuw uit te rollen, waarmee het issue is verholpen.
- Voor de LSM3 berekening zijn er nog twee openstaande issues bekend in de preprocessing stappen van de LSM3 workflow, met als gevolg dat nieuwe LSM3 berekeningen bij een volgende release (NWM 2.4.1.0) mogelijk (naar verwachting kleine) verschillen in uitkomsten zullen tonen:
