Prof. Dr. Holger Schlingloff

Präsentation zum Thema: "Prof. Dr. Holger Schlingloff"—  Präsentation transkript:

1 Software-Engineering II Eingebettete Systeme, Softwarequalität, Projektmanagement
Prof. Dr. Holger Schlingloff Institut für Informatik der Humboldt Universität und Fraunhofer Institut für Rechnerarchitektur und Softwaretechnik

2 Komponententest-Entwurf
sehr entwicklungsnahe Testarbeit, oftmals direkt am ausführbaren Code Problematik der Spezifikation (Wozu eine Spezifikation, wenn der Code selbst vorliegt?) fließender Übergang zum Debugging; oft von den Entwicklern selbst durchgeführt Problematik der Zielsetzung (Fehler finden oder Ablauffähigkeit demonstrieren?) Problematik des Hintergrundwissens aus der Entwicklung (für den Testentwurf oft notwendig, aber stillschweigende Annahmen behindern die Objektivität bzw. Abdeckung)

3 Beispiel geg. Funktion overlaps die als Eingabe zwei Zeitintervalle A und B (jeweils gegeben durch (start_X, ende_X)) bekommt und bestimmt, ob sie sich überlappen Schreiben Sie für diese Funktion Testfälle auf! (Jetzt!)

4 Auswertung nach Punkten (1)
Haben Sie einen Testfall für überlappende Intervalle? … und einen für nicht überlappende Intervalle? Haben Sie einen Testfall wo das erste Intervall vor dem zweiten und einen wo das zweite vor dem ersten liegt? Haben Sie einen Testfall wo ein Intervall vollständig innerhalb des anderen liegt? Haben Sie einen Testfall wo die beiden Intervalle aneinander stoßen? Haben Sie einen Testfall wo die beiden Intervalle mit dem selben Zeitpunkt beginnen? Haben Sie einen Testfall wo die beiden Intervalle mit dem selben Zeitpunkt enden?

5 Auswertung nach Punkten (2)
Haben Sie für jeden der Fälle 4-7 einen symmetrischen Testfall wo die Intervalle vertauscht sind? Haben Sie einen Testfall wo die beiden Intervalle gleich sind? Haben Sie einen Testfall mit einem punktförmigen Intervall? Haben Sie einen Testfall mit zwei gleichen punktförmigen Intervallen? Haben Sie Testfälle mit ganzzahligen und nichtganzzahligen Werten? Haben Sie Testfälle mit unzulässigen Intervallen? Haben Sie Testfälle mit Werten am Rande des Zahlenbereichs (maxint / maxreal)?

6 Auswertung nach Punkten (3)
Zusatzpunkte: Haben Sie zusätzlich in allen Testfällen die erwarteten Ausgabewerte angegeben? Haben Sie wenigstens einen Testfall, in dem Sie eine falsche Anzahl von Werten angeben (z.B. drei statt vier ganzzahlige Werte)? Haben Sie Testfälle mit negativen Eingabewerten? Haben Sie Testfälle die die Zahlbereichs-Überlaufbehandlung testen? Haben Sie Tests mit unzulässigen Eingabezeichenfolgen?

7 Reflexion Durchschnittswerte erfahrener Programmierer: 7-8
„Diese Übung sollte zeigen, dass das Testen auch eines solch trivialen Programms keine leichte Aufgabe ist. Und wenn das wahr ist, betrachten Sie die Schwierigkeit, ein Flugleitsystem mit Befehlen, einen Compiler oder auch nur ein gängiges Gehaltsabrechnungsprogramm zu testen.“ (1979) Heute: 1-10 MLoC

8 Testentwurf im Komponententest
Aus Komplexitätsgründen ist es nicht möglich, alle Eingabewerte(-folgen) zu testen Problem: Welche Untermenge aller denkbaren Testfälle bietet die größte Wahrscheinlichkeit, möglichst viele Fehler zu finden? Techniken zur Testdaten- und Testfallbestimmung Äquivalenzklassenbildung Auswahl „repräsentativer“ Daten Grenzwertanalyse Wertebereiche und Bereichsgrenzen Entscheidungstabellen und Klassifikationsbäume

9 Äquivalenzklassenbildung
1. Schritt: Partitionierung des Eingabedatenraumes in eine endliche Zahl von Äquivalenzklassen (bezüglich des vermuteten Ausfallverhaltens) im Beispiel: „zwei echte, disjunkte Zeitintervalle“ 2. Schritt: Auswahl der Testfälle anhand je eines Repräsentanten der Äquivalenzklasse im Beispiel: ((1,2),(3,4)) 3. Schritt: Bildung von Testfällen durch Kombination von Testfällen für die verschiedenen Eingaben Grenzwertanalyse: Auswahl von Testfällen an den Rändern der Äquivalenzklassen Testfälle für die Grenzwerte selbst sowie die Werte unmittelbar neben den Grenzwerten Bei strukturierten Daten kartesisches Produkt der Grenzwerte Achtung, kombinatorische Explosion!

10 Übungsbeispiel public final class IMath { public static int idiv (int x, y) { /* Returns the integer quotient of the two input values */ … } Bilden Sie Testfälle gemäß der Grenzwertmethode! (jetzt!) Welche Fälle wurden nicht erfasst? Warum?

11 Äquivalenzklassenmethode – Vor- und Nachteile
Vorteile systematische Vorgehensweise kalkulierbare Anzahl Testfälle und Überdeckung gut für kleine Funktionen mit Vor- und Nachbedingungen Nachteile Testfallauswahl durch Heuristik Wechselwirkungen zwischen Parameterwerten werden oft übersehen bei komplexen Kontrollstrukturen vergleichsweise viele Klassen

12 Pause!

13 Abdeckung Oft ergeben sich „sehr viele“ Klassen und mögliche Testfälle
Problematik „wie vollständig ist die Testsuite“?  Abdeckungskriterien im Code jedes Statement wird einmal ausgeführt jede Bedingung ist einmal wahr und einmal falsch jeder Pfad wird einmal durchlaufen jede Schleife wird mehrfach durchlaufen (wie oft?) … Kein Blackbox-Test!

14 Kontrollflussgraph start n1 n2 n4 n5 n6 ende n3 void ZaehleZchn (int& VokalAnzahl, int& Gesamtzahl){ char Zchn; cin>>Zchn; while ((Zchn>=`A´) && (Zchn<=`Z´) && (Gesamtzahl<INT_MAX)){ Gesamtzahl+=1; if ((Zchn==`A´)|| (Zchn==`E´) || (Zchn==`I´) || (Zchn==`O´) || (Zchn==`U´)){ VokalAnzahl +=1; } cin>>Zchn } } Beispiel: Liggesmeyer (f) / Balzert

15 Kontrollflussorientierte Tests
Überdeckungsmaße Anweisungsüberdeckung (statement coverage, C0) Zweigüberdeckung (branch coverage, C1) Pfadüberdeckung (path coverage, C2) Bedingungsüberdeckung (condition coverage, C3) einfache Bedingungsüberdeckung mehrfache Bedingungsüberdeckung minimale Bedingungsüberdeckung

16 Anweisungsüberdeckung
start n1 n2 n4 n5 n6 ende n3 auch C0-Test genannt (statement coverage) jede Anweisung muss durch mindestens einen Testfall erfasst werden Beispiel: (A,1) ergibt Pfad (start,n1,n2,n3,n4,n5,n6,n2,ende) Kante (n4,n6) wird nicht durchlaufen void ZaehleZchn (int& VokalAnzahl, int& Gesamtzahl){ char Zchn; cin>>Zchn; while ((Zchn>=`A´) && (Zchn<=`Z´) && (Gesamtzahl<INT_MAX)){ Gesamtzahl+=1; if ((Zchn==`A´)|| (Zchn==`E´) || (Zchn==`I´) || (Zchn==`O´) || (Zchn==`U´)){ VokalAnzahl +=1; } cin>>Zchn } }

17 Bewertung Anweisungsüberdeckung
Oft ist „vollständige Anweisungsüberdeckung“ das minimale Kriterium bei der Konstruktion einer Testsuite Überdeckungsgrad einer Testsuite: Prozentsatz der mindestens einmal ausgeführten Anweisungen (erstrebenswert: 100%) Minimum z.B. in DO-178B (ab Stufe C) oft als Überdeckungsmaß verwendet schwaches Kriterium (18% aufgedeckte Fehler) Beispiel: (x>5) statt (x>=5) wird nicht entdeckt

18 Zweigüberdeckung auch C1-Test genannt (branch coverage)
jede Kante muss durch mindestens einen Testfall erfasst werden Beispiel: (A,B,1) ergibt Pfad (start,n1,n2,n3,n4,n5,n6,n2, n3,n4,n6,n2,ende) Überdeckungsgrad: Prozentsatz der durchlaufenen Kanten start n1 n2 n3 n4 n5 n6 ende

19 Bewertung Zweigüberdeckung
subsumiert Anweisungsüberdeckung Schleifen werden ungenügend getestet (z.B. nur ein Mal durchlaufen) Problem der Gewichtung von Zweigen (Konvergenz der Überdeckungsrate mit Testfallanzahl, Fehleinschätzung) gut geeignet um logische Fehler zu finden, schlecht geeignet für Datenfehler Toolunterstützung durch Codeinstrumentierung

20 Pfadüberdeckung Jeder Pfad durch den Kontrollflussgraphen
Im Allgemeinen unendlich viele! (Überdeckungsmaß?) selbst falls endlich: „sehr viele“ strukturierter Pfadtest: Äquivalenzklassen von Pfaden (ähnlich Grenzwertanalyse) Schleife keinmal, einmal, mehr als zweimal ausgeführt (boundary oder interior condition) zusätzlich intuitiv ermittelte Testfälle Werkzeugunterstützung?

21 modifizierter boundary-interior Test
(nach Liggesmeyer) alle Pfade die Schleifen nicht betreten Schleifen einmal ausführen, Unterschiede im Rumpf (aber nicht in eingeschachtelten Schleifen) werden berücksichtigt Schleifen zweimal ausführen, wie oben jede Schleife separat beurteilen alle Zweige berücksichtigen

22 Bedingungsüberdeckung
condition coverage test; Überprüfung der Entscheidungen im Programm Varianten: einfache Bedingungsüberdeckung (C2): Jede atomare Bedingung einmal wahr als auch einmal falsch mehrfache Bedingungsüberdeckung (C3 oder C2(M)): alle Kombinationen atomarer Bedingungen minimale Mehrfachbedingungsüberdeckung (MC/DC): Jede Entscheidung im Flussdiagramm unabhängig wahr oder falsch void ZaehleZchn (int& VokalAnzahl, int& Gesamtzahl){ char Zchn; cin>>Zchn; while ((Zchn>=`A´) && (Zchn<=`Z´) && (Gesamtzahl<INT_MAX)){ Gesamtzahl+=1; if ((Zchn==`A´)|| (Zchn==`E´) || (Zchn==`I´) || (Zchn==`O´) || (Zchn==`U´)){ VokalAnzahl +=1; } cin>>Zchn } }

23 einfache Bedingungsüberdeckung
jede atomare Bedingung mindestens in einem Testfall wahr und in einem Testfall falsch Problem: Ausführung teilweise compilerabhängig! (unvollständige Bedingungsauswertung) Problem, Programmfluss zur Bedingung zu steuern (Abhängigkeit der Variablenwerte) Problem, Gesamtentscheidung zu beeinflussen manchmal kombiniert mit Zweigüberdeckung zur Bedingungs/Entscheidungsüberdeckung (condition/decision coverage)

24 Mehrfachbedingungsüberdeckung
alle Variationen der atomaren Bedingungen garantiert Variation der Gesamtentscheidung exponentiell viele Möglichkeiten Problem: Abhängigkeit von Variablen! (z.B. (Zchn==`A´)||(Zchn==`E´)) kann nicht beides wahr sein) Problem: kein vernünftiges Überdeckungsmaß

25 minimale Mehrfachbedingungsüberdeckung
Modified Condition/Decision Coverage MC/DC Evaluation gemäß Formelstruktur (jede Teilformel einmal wahr und einmal falsch) zusammengesetzte Entscheidungen werden zusammenhängend beurteilt Problem: ((A&&B)||C) wird durch (www) und (fff) vollständig überdeckt, aber nicht wirklich getestet (A||B) wird durch (wf) (fw) und (ff) überdeckt Modifikation: zusätzlicher Nachweis, dass jede atomare Teilentscheidung relevant ist (z.B. durch positiven und negativen Testfall) DO-178B Standard für Avionik-Software: “Every point of entry and exit has been invoked at least once, every condition in a decision has taken on all possible outcomes at least once, every decision has taken all possible outcomes at least once, and each condition in a decision has been shown to independently affect the decision’s outcome.”

26 Coverage Tools

27 Pause!

28 Datenflussorientierter Test
Variablen und Parameter Lebenszyklus: erzeugen – (schreiben – lesen*)* – vernichten computational use versus predicate use Zuordnung von Datenflussattributen zu den Knotens des Kontrollflussgraphen Berechnung der Variablenzugriffe für jeden Definitionsknoten n für Variable x die Mengen dcu(x,n) und dpu(x,n) aller Knoten, in der x (berechnend oder prädikativ) verwendet wird

29 attributierter Kontrollflussgraph
start n1 n2 n4 n5 n6 ende n3 def(VokalAnzahl) def(Gesamtzahl) void ZaehleZchn (int& VokalAnzahl, int& Gesamtzahl){ char Zchn; cin>>Zchn; while ((Zchn>=`A´) && (Zchn<=`Z´) && (Gesamtzahl<INT_MAX)){ Gesamtzahl+=1; if ((Zchn==`A´)|| (Zchn==`E´) || (Zchn==`I´) || (Zchn==`O´) || (Zchn==`U´)){ VokalAnzahl +=1; } cin>>Zchn } } def(Zchn) p-use(Zchn), p-use(Gesamtzahl) c-use(Gesamtzahl) def(Gesamtzahl) p-use(Zchn) c-use(VokalAzahl) def(VokalAnzahl) def(Zchn) c-use(VokalAzahl) c-use(Gesamtzahl)

30 Defs/Uses-Kriterien zur Testabdeckung
Testfallerzeugung berechne Pfade zwischen Definition und Verwendung ungenutzte Definitionen markieren Fehler Kriterien all defs: Jeder Pfad von einer Definition zu mindestens einer Verwendung enthalten all p-uses: Jeder Pfad von einer Definition zu irgendeiner prädikativen Verwendung subsumiert Zweigüberdeckung all c-uses: analog, zu computational use all c-uses/some p-uses: jede berechnende oder mindestens eine prädikative Verwendung all uses: jede Verwendung du-paths: Einschränkung auf wiederholungsfreie Pfade

31 Datenkontexte Ein Datenkontext für einen Knoten ist eine Menge von Knoten, die für jede der im Knoten verwendeten Variablen eine Definition enthalten Datenkontext-Überdeckung: Alle Datenkontexte müssen vorkommen, d.h. jede Möglichkeit, den Variablen Werte zuzuweisen ggf. zusätzlich Berücksichtigung der Definitionsreihenfolge x = y+z y = … z = …

32 Diskussion Datenflussüberdeckung
Mächtiger als Kontrollflussverfahren Besonders für objektorientierte Programme all c-uses besser als all p-uses besser als all-defs Werkzeugunterstützung essenziell wenig Werkzeuge verfügbar

33 Bewertung strukturelle Tests
Auslassungsfehler (auch: fehlende Ausnahmebehandlung usw.) prinzipiell nicht erfasst Konstruktion von Testfällen kann beliebig schwierig sein „dead code“ (der nie ausgeführt werden kann) wird normalerweise entdeckt Toolunterstützung Möglichkeit der Code-Optimierung durch Testergebnisse (häufig durchlaufene Programmteile verbessern); aber: Regressionstest erforderlich! Historisch seit 1963 etabliert, weit verbreitet Literaturempfehlung: How to Misuse Code Coverage; Brian Marick;