Testrapportage release 2.3.0.0

Inleiding

Deze rapportage beschrijft de wijzigingen binnen NWM release 2.3.0.0 en de testbevindingen van de FAT (Functionele Acceptatie Test). Dit testrapport beschrijft de FAT voor de upgrade van de NWM Testomgeving naar de laatste Delft-FEWS versie 2022.01.

Een nieuwe release van de NWM-applicatie doorloopt de stappen van het OTAP-proces (Ontwikkeling, Test, Acceptatie en Productie). Deze stappen bestaan op hoofdlijnen uit:

1. Controle invoer: check op volledigheid en consistentie bij uitlevering van nieuwe datasets
2. Functionele acceptatietesten (FAT) bij oplevering: check op functionaliteit en plausibiliteit aan de hand van standaard testprotocollen
3. Testen bij installatie: controle op installatie (doorlopen workflows op alle rekenservers)
4. Gebruikers acceptatietesten: controle voor start berekeningen check op de workflow technisch en zijn resultaten plausibiliteit
5. Vinger-aan-de-pols tijdens berekeningen: monitoring en controles op steekproef tijdens het rekenproces (doel vroegtijdig signaleren van hickups en resultaten o.b.v. expert judgement i.s.m. project)
6. Controle van de uitkomsten: technische toets op volledigheid (datavalidatie)

Op basis van de FAT wordt door Rijkswaterstaat-WVL besloten om wel/niet over te gaan tot installatie van de applicatie op de acceptatieomgeving waar Rijkswaterstaat de GAT (Gebruikers Acceptatie Test) uitvoert. De GAT focust zich binnen deze release niet op het herhalen van de FAT-testen, maar op het vaststellen of de berekeningen op de productieomgeving bij SSC Campus dezelfde uitkomsten opleveren als op de Testomgeving waar de FAT wordt uitgevoerd; om die reden bevat de FAT ook een aantal acties gericht op het produceren van voor GAT-vergelijking bedoelde exportbestanden. 

Release 2.3.0.0: aangebrachte wijzigingen t.o.v. release 2.2.4.1 en 2.2.4.2

NWM 2.3.0.0 gebruikt dezelfde modellentrein en scenario's zoals opgeleverd in release 2.2.4.1 (oplevering scenario's met maatregelpakketten VP en EP) en 2.2.4.2 (uitbreiding workflows voor export naar het archief).
Alleen ten aanzien van het archief en Computational Framework functionaliteit zijn een beperkt aantal configuratiewijzigingen doorgevoerd. Dit betreft met name configuratie instellingen die een koppeling met het archief mogelijk maken.

FAT-testen

Hieronder staat de lijst van testen opgesomd die tijdens de FAT zijn uitgevoerd. Deze testen zijn uitgevoerd voor het jaar 1911 en 1912:

• REF2017BP18, vergeleken met REF2017BP18 zoals gearchiveerd in het NWM productiearchief bij SSC Campus.

Alle runs zijn gestart met een koude start.

De volgende modellen zijn gedraaid:

• LHM zonder zoutbeperking
• LSM-light zonder zoutbeperking
• NDB
• LHM
• LSM-light
• LTM-light
• NDBpost

Technische test

FAT 2.3.0.0 Test 1.1: Check of smoketesten voor LTM-light technisch goed draaien.

FAT 2.3.0.0 Test 1.2: Check of de exports voor LTM-light technisch goed draaien.

FAT 2.3.0.0 Test 1.3: Check of geëxporteerde data beschikbaar is in de catalogus van het archief en daarmee zichtbaar in de NWM omgeving.

FAT 2.3.0.0 Test 1.4: Check of data uit het archief kan worden gedownload naar lokale machine.

FAT 2.3.0.0 Test 1.5: Check of data uit het archief kan worden geïmporteerd in de Centrale database via de FSS.

FAT 2.3.0.0 Test 1.6: Check of met geïmporteerde data uit het archief een vervolgberekening kan worden gestart.

Inhoudelijk test

FAT 2.3.0.0 Test 2.1: Controleer of de LTM-light modelresultaten voor de testprotocol locaties vergelijkbaar zijn met de tijdreeksen uit het archief.

FAT 2.3.0.0 Test 2.2: Controleer of de restart files voor het LTM-light model goed worden doorgegeven door de overgang van 1911 op 1912 plausibel zijn.

Meegenomen JIRA-issues

Tabel TR.01: Issues die in deze release zijn meegenomen

Overzicht van de resultaten van het pakket aan FAT-testen

Tabel TR.02: Legenda

Icoon / Beschrijving	Betekenis
	succesvol
	niet succesvol
	gedeeltelijk succesvol, definitieve test in volgende release
niet uitgevoerd	de reden hiervoor staat beschreven in veld opmerkingen
n.v.t.	test niet uitgevoerd, functionaliteit a.d.h.v. technische test voor 1 van de model schematisatie voldoende.
—	nog niet uitgevoerd

In onderstaande tabellen worden de uitgevoerde testen weergegeven. Bovenstaande legenda geeft verdere uitleg over de gebruikte icoontjes/afkortingen in de tabellen. 

Tabel TR.03: Testen voor de jaren 1911 voor twee Deltascenario's Referentie 2017 en Stoom 2050 in combinatie met de pakketten Voorkeurspakket en Economisch pakket

Testen	Scenario	Beschrijving test	Model schematisatie (Z0 = zonder zoutbeperking)							Opmerkingen	Screenshot beschikbaar (zie Tabel TR.05)
			LHM Z0	LSM-light Z0	NDB	LHM	LSM-light	LTM-light	NDBpost
FAT 2.3.0.0 Test 1.1	Referentie 2017	Draaien van de smoketesten								de berekeningen 1911-1912 zijn voor het basisscenario REF2017 geslaagd	ja
FAT 2.3.0.0 Test 1.2	Referentie 2017	Controleer exports								er worden gevulde netcdf bestanden geëxporteerd, Export LSMLT WABES geeft error, zie FEWS-27762 - Getting issue details... STATUS	-
FAT 2.3.0.0 Test 1.3	Referentie 2017	Controleer catalogus								De metadatafile van LHM wordt niet geharvest, zie FEWS-27681 - Getting issue details... STATUS	ja
FAT 2.3.0.0 Test 1.4	n.v.t.	Download uit het archief		n.v.t.	n.v.t.	n.v.t.	n.v.t.	n.v.t.	n.v.t.	Bestanden worden gedownload naar een lokale folder	-
FAT 2.3.0.0 Test 1.5	n.v.t.	Importeer uit het archief in de Centrale database via FSS	n.v.t.	n.v.t.	n.v.t.	n.v.t.		n.v.t.	n.v.t.	Data uit het archief kan via de FSS worden geïmporteerd in de database; in de NWM testomgeving is de data (nog) niet te zien in het Management Modelruns scherm, wel in de Database Viewer, hier is een issue voor aangemaakt: FEWS-27766 - Getting issue details... STATUS	ja
FAT 2.3.0.0 Test 1.6	Referentie 2017	Voer vervolgberekening uit op basis van uit het archief geïmporteerde resultaten	n.v.t.	n.v.t.		n.v.t.	n.v.t.		n.v.t.	In de NWM testomgeving (Operator Client omgeving) kan een berekening worden uitgevoerd op basis van geïmporteerde data uit het archief, zie verder het issue onder FAT 2.3.0.0 Test 1.5	ja
FAT 2.2.4.1 Test 2.1	Referentie 2017	Controleer testprotocol locaties resultaten met gearchiveerde tijdreeksen								De gesimuleerde tijdreeksen voor de testprotocol locaties komen overeen met de gearchiveerde reeksen
FAT 2.2.4.1 Test 2.2	Referentie 2017	Controleer overgang 1911-1912 op plausibiliteit								de tijdseries lopen realistisch door bij de jaarovergang

Tabel TR.04: Testen voor meegenomen JIRA-issues

Issuenummer	Model schematisatie	Beschrijving test	Resultaat	Opmerkingen	Screenshot beschikbaar (zie Tabel TR.05)
NWM-1131	-	controleer het FEWS versienummer		alle FEWS componenten zijn correct geupgrade naar 2022.01	ja
NWM-1132	-	Check of een nieuwe WhatIf kan worden aangemaakt o.b.v. WhatIf Template	, zie ook Opmerkingen	betreft nu een dummy WhatIf, in een latere release kan een nog te bepalen WhatIf worden geconfigureerd en toegevoegd. Bij het toevoegen van extra searchAttributes is nog een issue geconstateerd mbt van de visualisatie hiervan, zie FEWS-27767 - Getting issue details... STATUS .	ja
FEWS-25810	-	zie FAT 2.3.0.0 Test 1.5		de FSS kan bij het archief voor de import van netcdf's	-
FEWS-25811	-	zie FAT 2.3.0.0 Test 1.4		de OC kan bij het archief voor de download van netcdf's	-

Tabel TR.05: Beschikbare screenshots behorende bij de uitgevoerde testen 
(door een automatische export van WIKI naar PDF is de tabel mogelijk onhandig verdeeld over de pagina's en kunnen de figuren soms wat onscherp zijn, de oorspronkelijke figuren zijn te bekijken via deze link: https://publicwiki.deltares.nl/display/NW/Rapportage+FAT+Release+2.2.4.1 )

Herstelde issues tijdens testfase / overige testbevindingen

Niet van toepassing