Page History

In deze sectie staan de testresultaten van de werkzaamheden voor release 1.3 :

Er zijn geen aanpassingen voor het testprotocol Veiligheid.

Voor het testprotocol Zoetwater zijn in release 1.3 de volgende wijzigingen doorgevoerd:

(VERSIE 29 JUNI 2016):

Pre-conditie voor het uitvoeren van een workflow is dat alle voorgaande workflows, als onderdeel van een serie workflows met afhankelijkheid van invoerdata, succesvol zijn afgerond. In de testbevindingen kan het voorkomen dat een tussenliggende workflow later opnieuw is uitgevoerd om een specifieke verbetering te testen. Indien zo'n verbetering impact heeft op de vervolg workflows, dan zijn ook deze workflows opnieuw getest.

Aanleiding voor deze release is het doorvoeren van een correctie op de afvoerreeksen Monsin en Lobith. Dit heeft impact op de randvoorwaarden voor LHM, LSM en LTM ,de afvoer van zijrivieren. Buiten het NWM om heeft dit impact op de berekende chlorideconcentratie, die als input dient voor LHM.

In de sprint van 15 t/m 28 juni 2016 is aan de volgende onderdelen gewerkt:

• Toevoegen zoutmodule Noordelijk DeltaBekken model;
  
• Vervangen van afvoerreeksen Rijn, Maas en zijrivieren; en
• Verbeteren van de performance van het NWM

De laatste twee onderdelen zijn afgerond, maar de zoutmodule NDB niet. Naar aanleiding van de testbevindingen is, in onderling overleg met de opdrachtgever, besloten  alleen de twee gerealiseerde onderdelen op te leveren. Voor het niet opgeleverde onderdeel - zoutmodule NDB - is wel een testprotocol opgesteld. Aan de zoutmodule NDB wordt doorgewerkt en zal z.s.m. op basis van dit testprocotol getoetst worden.

...

Toelichting voor het 'Noordelijk Deltabekken model':

Aan het NWM-testplan is een testprotocol voor het NDB-model toegevoegd. In eerste instantie is een bestaand NDB-scenario ingebouwd in NWM. Dit betreft het "LSM-light 2014" scenario, waarvoor de modelresultaten beschreven zijn in memo 1230058-001-ZWS00004 (van Frans Buschman en Edwin Snippen d.d. 31 mei 2016). Dit model heeft ongecorrigeerde afvoerreeksen. De simulatieperiode is 1-1-2001 t/m 1-1-2007. In het testprotocol wordt alleen het jaar 2003 beschouwd, omdat in september/oktober van 2003 een extreme situatie optrad met een enorme zoutindringing in het Noordelijk Deltabekkengebied. Op een drietal plaatsen (Krimpen aan den IJssel, Bernisse en Bergambacht) zijn de waterstanden en zoutconcentraties vergeleken. De resultaten moeten identiek zijn aan het bestaande NDB-scenario dat buiten NWM (stand-alone) heeft gedraaid, zie ook het protocol voor Configuratie update (groot).

De functionaliteit die met dit onderdeel van de FAT release 1.3 getest wordt is of het inbouwen van een extra stap in de modeltrein correct werkt. Hierbij is alleen het 'LTM Light' model getoetst.is het niet noodzakelijk dat dit met de gecorrigeerde afvoerreeks gebeurt. Het testprotocol is er op gericht of de workflow technisch correct draait en of resultaten buiten het NWM om binnen de FEWS-applicatie gereproduceerd kunnen worden met dezelfde invoer. Op dit moment wordt er gewerkt aan implementatie zoutmodule op basis van NDB-SOBEK-RE in een stand-alone branch. Hierbij wordt gerekend en getest met de resultaten uit release 1.1 en de analyses voor externe verzilting (fase 2 o.b.v. LSMLT afvoeren Hagestein, Tiel, Lith) om vergelijking met eerdere resultaten mogelijk te maken.

 xxxx

Toelichting voor de 'Vervanging van afvoerreeksen':

De afvoerreeks voor Lobith, Monsin en van de zijrivieren, die met HBV bepaald zijn, worden gecorrigeerd opbasis van metingen die in mei 2016 zijn uitgevoerd.Testprocedure: de nieuwe afvoerreeksen worden eerst van zijrivieren zijn gecorrigeerd. Deze met het HBV model berekende afvoeren zijn aangepast om voor de referentiesituatie een betere overeenkomst met metingen te hebben. De nieuwe afvoerreeksen zijn allereerst buiten NWM (lees FEWS) vergeleken met de oorspronkelijke afvoerreeksen. Als Nadat dit akkoord wordt bevonden was, dan kunnen vervolgens zijn de nieuwe afvoerreeksen vervolgens in het NWM gezet worden . Dit betekent dat de modelresultaten voor LHM, LSM, LSM Light en LSM LTM Light zullen veranderen. Hiervoor bestaan negen scenario's. Echter de volgende scenarios (twee per protocol) twee zullen getest worden:

ZW_LSM_REF2015S0

ZW_LSM_W2085S0

ZW_LSMLT_REF2015S0

ZW_LSMLT_W2085S0

Wie gaat bepalen of de resultaten plausibel zijn?

<< VANAF HIER NIET VERDER LEZEN >>

 Met het LSM model zijn geen testen uitgevoerd, vnawege de beperkte beschikbare tijd en de druk op de opleveringten behoove van de productieruns voor de basisprognoses.  Voor LSM Light en LTM Light zijn alleen de scenarios REF2015S0 en W2085S0 getest.

Toelichting op 'Verbetering van de NWM-performance':

De volgende twee opschoonacties zijn uitgevoerd om de performance van het NWM te verbeteren, waarbij gebruik gemaakt is van de review naar de performance-problemen door Marc van Dijk (Deltares):

• de Mozart LSW locaties zijn op de T-omgeving uit de database gehaald; en
• de filters voor de LSW's zijn op de T-omgeving uit de database verwijderd.

Voorafgaande aan deze twee opschoonacties was het geheugengebruik voor tijdreeksen ongeveer 620 MB. Na de hierboven genoemde twee opschoonacties is dit gereduceerd tot 335 MB. Hierdoor is de NWM-performance verbeterd. Dit blijkt uit de onderstaande twee figuren, waarbij het geheugengebruik voor tijdreeksen ongeveer in het midden van het scherm vermeld staat.

 Image Added

 Figuur met geheugengebruik VOOR de opschoonacties

Image Added

 Figuur met geheugengebruik NA de opschoonacties

Stand van zaken van de testen:

Onderstaande tabellen bevatten de resultaten van de technische- en plausibiliteitstesten Onderstaande tabel bevat resultaten van de technische en plausibiliteit testen voor Zoetwater.

De kolommen hebben de volgende betekenis:

...

• : succesvol, met als voorbehoud de in de testprotocollen opgenomen known issues.
• : niet succesvol
• n.v.t.: niet gedefinieerd/niet voorzien
• —: nog niet uitgevoerd

Voor 'Vervanging van afvoerreeksen van Rijn en Maas':

Regio	Workflow	Test nr	REF 2015			W 2085
			Uitvoering	T	P	Uitvoering	T	P
Landelijk	LSM Light	ZW-LSMLT-T-11	25-06-2016 16:16:45 (T0: 2003)		n.v.t.	27-06-2016 07:04:05 (T0: 2003)	2)	n.v.t.
	LSM Light	ZW-LSMLT-P-11	25-06-2016 16:16:45 (T0: 2003)	n.v.t.		27-06-2016 07:04:05 (T0: 2003)	n.v.t.	— 1)
	LSM Light	ZW-LSMLT-P-12	25-06-2016 16:16:45 (T0: 2003)	n.v.t.		27-06-2016 07:04:05 (T0: 2003)	n.v.t.	— 1)
	LHM	ZW-LHM-T-11	24-06-2016 16:17:17 (T0: 2003)	3)	n.v.t.	26-06-2016 17:23:26 (T0: 2003)	3)	n.v.t.
	LHM	ZW-LHM-P-11	24-06-2016 16:17:17 (T0: 2003)	n.v.t.		26-06-2016 17:23:26 (T0: 2003)	n.v.t.
	LHM	ZW-LHM-P-12	24-06-2016 16:17:17 (T0: 2003)	n.v.t.		26-06-2016 17:23:26 (T0: 2003)	n.v.t.
	LHM	ZW-LHM-P-13	24-06-2016 16:17:17 (T0: 2003)	n.v.t.		26-06-2016 17:23:26 (T0: 2003)	n.v.t.
	LTM Light	ZW-LTMLT-T-11	28-06-2016 13:04:28 (T0: 2003)	4)	n.v.t.	28-06-2016 13:05:00 (T0: 2003)	4)	n.v.t.
	LTM Light	ZW-LTMLT-P-11	28-06-2016 13:04:28 (T0: 2003)	n.v.t.		28-06-2016 13:05:00 (T0: 2003)	n.v.t.	n.v.t.
	LTM Light	ZW-LTMLT-P-12	28-06-2016 13:04:28 (T0: 2003)	n.v.t.		28-06-2016 13:05:00 (T0: 2003)	n.v.t.	n.v.t.
	LTM Light	ZW-LTMLT-P-13	28-06-2016 13:04:28 (T0: 2003)	n.v.t.	n.v.t.	28-06-2016 13:05:00 (T0: 2003)	n.v.t.
	LTM Light	ZW-LTMLT-P-14	28-06-2016 13:04:28 (T0: 2003)	n.v.t.	n.v.t.	28-06-2016 13:05:00 (T0: 2003)	n.v.t.

1) Bij W2085 scenario's is geconstateerd dat WH scenario gebruikt is i.p.v. WHDRY scenario. Gecorrigeerde simulaties ( op basis van WHDRY) zijn nog niet voltooid. Daarom zijn tot nu toe alleen de T-testen uitgevoerd voor de W2085 scenario's.

2) Bij LSMLT W2085 zijn er acht extra Locatie id's (nu 1731) en twee extra parameters id's (nu 21) en twee extra module instanties (nu 5).
De twee extra module instanties zijn: ZW_LSMBoundariesImport_W2085S0 en ZW_ImportMeteo_W2085S0. Dit is conform het protocol.
De twee extra parameters id's zijn: P.m (neerslag) en Q.uh.  Dit is conform het protocol .
De acht extra locaties id's zijn: KNMI en zeven LSM_RND_XXX locaties, omdat de LSM_boundaries zijn aangepast. Dit is ook conform het protocol.

3) Bij ZW_LHM_REF2015 is het aantal locaties id's (4872) fors verschillend van de waarde in de tabel Testwaarden Zoetwater (13472), omdat de database opgeschoond is (zie 'Verbetering van de NWM-performance'). Omdat alle andere parameters wel kloppen en er een verklaring voor het verschil is, is deze test goedgekeurd. De tabel met testwaarden is op dit onderdeel aangepast. De aanbeveling is om het testprotocol aan te passen en voortaan het maximale aantal te hanteren. Bij afwijking beoordeelt de test coordinator, in overleg met de ontwikkelaars, of het verschil klopt op basis van de doorgevoerde wijzigingen. 

4) Bij ZW_LTMLT REF2015 zijn er meer locatie id's (277 om 262) en meer module instanties (7 om 4). Bij ZW_LTMLT W2085 zijn er meer locatie id's (277 om 262) en meer module instanties (9 om 4). Bij de ZW_LTLMT scenario's zijn er maximaal 13 module instanties. Het aantal kan varieren, wat van een aantal factoren waaronder de modelaanpassingen afhangt. Omdat het aantal module instanties in de te verwachten interval (tussen 4 en 13) ligt, zijn deze testen goedgekeurd.  Aanbeveling: Het voorstel is om het protocol aan te scherpen op dit onderdeel en voortaan het maximale aantal te noemen. Bij afwijking beoordeelt de test coordinator, in overleg met de ontwikkelaars, of het verschil klopt op basis van de doorgevoerde wijzigingen. 

NB. ZW-LSMLT-P13 en ZW-LSMLT-P14 zijn niet uitgevoerd, omdat dit een vergelijking is tussen LSM en LSM Light. Omdat de LSM scenario's niet gedraaid zijn met de gecorrigeerde afvoerreeksen, kunnen deze vergelijkingen nog niet uitgevoerd worden. 

Voor 'zoutmodule Noordelijk Deltabekken':

Voor de zoutmodule NDB zijn nog geen succesvolle testen op de T-omgeving uitgevoerd. De testprotocollen zijn al wel toegevoegd aan de Wiki.