Testbevindingen release 1.3

In deze sectie staan de testresultaten voor release 1.3 (VERSIE 29 JUNI 2016):

Pre-conditie voor het uitvoeren van een workflow is dat alle voorgaande workflows, als onderdeel van een serie workflows met afhankelijkheid van invoerdata, succesvol zijn afgerond. In de testbevindingen kan het voorkomen dat een tussenliggende workflow later opnieuw is uitgevoerd om een specifieke verbetering te testen. Indien zo'n verbetering impact heeft op de vervolg workflows, dan zijn ook deze workflows opnieuw getest.

Aanleiding voor deze release is het doorvoeren van een correctie op de afvoerreeksen Monsin en Lobith. Dit heeft impact op de randvoorwaarden voor LHM, LSM en LTM ,de afvoer van zijrivieren. Buiten het NWM om heeft dit impact op de berekende chlorideconcentratie, die als input dient voor LHM.

In de sprint van 15 t/m 28 juni 2016 is aan de volgende onderdelen gewerkt:

• Toevoegen zoutmodule Noordelijk DeltaBekken model;
  
• Vervangen van afvoerreeksen Rijn, Maas en zijrivieren; en
• Verbeteren van de performance van het NWM

De laatste twee onderdelen zijn afgerond, maar de zoutmodule NDB niet. Naar aanleiding van de testbevindingen is, in onderling overleg met de opdrachtgever, besloten  alleen de twee gerealiseerde onderdelen op te leveren. Voor het niet opgeleverde onderdeel - zoutmodule NDB - is wel een testprotocol opgesteld. Aan de zoutmodule NDB wordt doorgewerkt en zal z.s.m. op basis van dit testprocotol getoetst worden.

Toelichting voor het 'Noordelijk Deltabekken model':

Aan het NWM-testplan is een testprotocol voor het NDB-model toegevoegd. In eerste instantie is een bestaand NDB-scenario ingebouwd in NWM. Dit betreft het "LSM-light 2014" scenario, waarvoor de modelresultaten beschreven zijn in memo 1230058-001-ZWS00004 (van Frans Buschman en Edwin Snippen d.d. 31 mei 2016). Dit model heeft ongecorrigeerde afvoerreeksen. De simulatieperiode is 1-1-2001 t/m 1-1-2007. In het testprotocol wordt alleen het jaar 2003 beschouwd, omdat in september/oktober van 2003 een extreme situatie optrad met een enorme zoutindringing in het Noordelijk Deltabekkengebied. Op een drietal plaatsen (Krimpen aan den IJssel, Bernisse en Bergambacht) zijn de waterstanden en zoutconcentraties vergeleken. De resultaten moeten identiek zijn aan het bestaande NDB-scenario dat buiten NWM (stand-alone) heeft gedraaid, zie ook het protocol voor Configuratie update (groot).

Zodra dit scenario succesvol is uitgevoerd, zullen de gecorrigeerde afvoerreeksen in het model gezet. Dan zullen de modelresultaten globaal beoordeeld worden op plausibiliteit, omdat er geen directe vergelijing meer mogelijk is met een bestaand scenario buiten het NWM. Met andere woorden, zijn de veranderingen in modelresultaten plausibel ten gevolge van de gewijzigde afvoeren? Is de zoutindringing vanuit zee hoger/lager, omdat de riviereafvoeren lager/hoger zijn? Dit is geen onderdeel van deze release, waarbij alleen een zoutmodule NDB opgenomen zal worden in NWM.

Toelichting voor de 'Vervanging van afvoerreeksen':

De afvoerreeks voor Lobith, Monsin en van zijrivieren zijn gecorrigeerd. Deze met het HBV model berekende afvoeren zijn aangepast om voor de referentiesituatie een betere overeenkomst met metingen te hebben. De nieuwe afvoerreeksen zijn allereerst buiten NWM (lees FEWS) vergeleken met de oorspronkelijke afvoerreeksen. Nadat dit akkoord bevonden was, zijn de nieuwe afvoerreeksen vervolgens in het NWM gezet . Dit betekent dat de modelresultaten voor LHM, LSM, LSM Light en LTM Light zullen veranderen. Met het LSM model zijn geen testen uitgevoerd, vnawege de beperkte beschikbare tijd en de druk op de opleveringten behoove van de productieruns voor de basisprognoses.  Voor LSM Light en LTM Light zijn alleen de scenarios REF2015S0 en W2085S0 getest.

Toelichting op 'Verbetering van de NWM-performance':

De volgende twee opschoonacties zijn uitgevoerd om de performance van het NWM te verbeteren, waarbij gebruik gemaakt is van de review naar de performance-problemen door Marc van Dijk (Deltares):

• de Mozart LSW locaties zijn op de T-omgeving uit de database gehaald; en
• de filters voor de LSW's zijn op de T-omgeving uit de database verwijderd.

Voorafgaande aan deze twee opschoonacties was het geheugengebruik voor tijdreeksen ongeveer 620 MB. Na de hierboven genoemde twee opschoonacties is dit gereduceerd tot 335 MB. Hierdoor is de NWM-performance verbeterd. Dit blijkt uit de onderstaande twee figuren, waarbij het geheugengebruik voor tijdreeksen ongeveer in het midden van het scherm vermeld staat.

 Figuur met geheugengebruik VOOR de opschoonacties

 Figuur met geheugengebruik NA de opschoonacties

Stand van zaken van de testen:

Onderstaande tabellen bevatten de resultaten van de technische- en plausibiliteitstesten voor Zoetwater.

De kolommen hebben de volgende betekenis:

• REF: referentie
• R: Rust
• D: Druk
• W: Warm
• S: Stoom
• T: technische testen
• P: plausibiliteit testen
• uitvoering: datum/tijdstip van uitvoering workflow op T-omgeving

De resultaten van de testen hebben de volgende betekenis:

• : succesvol, met als voorbehoud de in de testprotocollen opgenomen known issues.
• : niet succesvol
• n.v.t.: niet gedefinieerd/niet voorzien
• —: nog niet uitgevoerd

Voor 'Vervanging van afvoerreeksen van Rijn en Maas':

Regio	Workflow	Test nr	REF 2015			W 2085
			Uitvoering	T	P	Uitvoering	T	P
Landelijk	LSM Light	ZW-LSMLT-T-11	25-06-2016 16:16:45 (T0: 2003)		n.v.t.	27-06-2016 07:04:05 (T0: 2003)	2)	n.v.t.
	LSM Light	ZW-LSMLT-P-11	25-06-2016 16:16:45 (T0: 2003)	n.v.t.		27-06-2016 07:04:05 (T0: 2003)	n.v.t.	— 1)
	LSM Light	ZW-LSMLT-P-12	25-06-2016 16:16:45 (T0: 2003)	n.v.t.		27-06-2016 07:04:05 (T0: 2003)	n.v.t.	— 1)
	LHM	ZW-LHM-T-11	24-06-2016 16:17:17 (T0: 2003)	3)	n.v.t.	26-06-2016 17:23:26 (T0: 2003)	3)	n.v.t.
	LHM	ZW-LHM-P-11	24-06-2016 16:17:17 (T0: 2003)	n.v.t.		26-06-2016 17:23:26 (T0: 2003)	n.v.t.
	LHM	ZW-LHM-P-12	24-06-2016 16:17:17 (T0: 2003)	n.v.t.		26-06-2016 17:23:26 (T0: 2003)	n.v.t.
	LHM	ZW-LHM-P-13	24-06-2016 16:17:17 (T0: 2003)	n.v.t.		26-06-2016 17:23:26 (T0: 2003)	n.v.t.
	LTM Light	ZW-LTMLT-T-11	28-06-2016 13:04:28 (T0: 2003)	4)	n.v.t.	28-06-2016 13:05:00 (T0: 2003)	4)	n.v.t.
	LTM Light	ZW-LTMLT-P-11	28-06-2016 13:04:28 (T0: 2003)	n.v.t.		28-06-2016 13:05:00 (T0: 2003)	n.v.t.	n.v.t.
	LTM Light	ZW-LTMLT-P-12	28-06-2016 13:04:28 (T0: 2003)	n.v.t.		28-06-2016 13:05:00 (T0: 2003)	n.v.t.	n.v.t.
	LTM Light	ZW-LTMLT-P-13	28-06-2016 13:04:28 (T0: 2003)	n.v.t.	n.v.t.	28-06-2016 13:05:00 (T0: 2003)	n.v.t.
	LTM Light	ZW-LTMLT-P-14	28-06-2016 13:04:28 (T0: 2003)	n.v.t.	n.v.t.	28-06-2016 13:05:00 (T0: 2003)	n.v.t.

1) Bij W2085 scenario's is geconstateerd dat WH scenario gebruikt is i.p.v. WHDRY scenario. Gecorrigeerde simulaties ( op basis van WHDRY) zijn nog niet voltooid. Daarom zijn tot nu toe alleen de T-testen uitgevoerd voor de W2085 scenario's.

2) Bij LSMLT W2085 zijn er acht extra Locatie id's (nu 1731) en twee extra parameters id's (nu 21) en twee extra module instanties (nu 5).
De twee extra module instanties zijn: ZW_LSMBoundariesImport_W2085S0 en ZW_ImportMeteo_W2085S0. Dit is conform het protocol.
De twee extra parameters id's zijn: P.m (neerslag) en Q.uh.  Dit is conform het protocol .
De acht extra locaties id's zijn: KNMI en zeven LSM_RND_XXX locaties, omdat de LSM_boundaries zijn aangepast. Dit is ook conform het protocol.

3) Bij ZW_LHM_REF2015 is het aantal locaties id's (4872) fors verschillend van de waarde in de tabel Testwaarden Zoetwater (13472), omdat de database opgeschoond is (zie 'Verbetering van de NWM-performance'). Omdat alle andere parameters wel kloppen en er een verklaring voor het verschil is, is deze test goedgekeurd. De tabel met testwaarden is op dit onderdeel aangepast. De aanbeveling is om het testprotocol aan te passen en voortaan het maximale aantal te hanteren. Bij afwijking beoordeelt de test coordinator, in overleg met de ontwikkelaars, of het verschil klopt op basis van de doorgevoerde wijzigingen. 

4) Bij ZW_LTMLT REF2015 zijn er meer locatie id's (277 om 262) en meer module instanties (7 om 4). Bij ZW_LTMLT W2085 zijn er meer locatie id's (277 om 262) en meer module instanties (9 om 4). Bij de ZW_LTLMT scenario's zijn er maximaal 13 module instanties. Het aantal kan varieren, wat van een aantal factoren waaronder de modelaanpassingen afhangt. Omdat het aantal module instanties in de te verwachten interval (tussen 4 en 13) ligt, zijn deze testen goedgekeurd.  Aanbeveling: Het voorstel is om het protocol aan te scherpen op dit onderdeel en voortaan het maximale aantal te noemen. Bij afwijking beoordeelt de test coordinator, in overleg met de ontwikkelaars, of het verschil klopt op basis van de doorgevoerde wijzigingen. 

NB. ZW-LSMLT-P13 en ZW-LSMLT-P14 zijn niet uitgevoerd, omdat dit een vergelijking is tussen LSM en LSM Light. Omdat de LSM scenario's niet gedraaid zijn met de gecorrigeerde afvoerreeksen, kunnen deze vergelijkingen nog niet uitgevoerd worden. 

Voor 'Noordelijk Deltabekken model':

Voor de zoutmodule NDB-scenario's zijn nog geen succesvolle testen op de T-omgeving uitgevoerd. De testprotocollen zijn al wel toegevoegd aan de Wiki.