fredag den 17. oktober 2014

Testing & Quality Leadership Summit @STARwest 2014

Så er det fredag, og fokus i dagens heldags Summit er test, kvalitet og ledelse, og med Julie Gardiner, Jon Bach, Rob Sabourin og Jeff Payne.

STARwest 2014 - reflektioner over torsdagens indtryk og oplevelser

Den første keynote torsdag morgen var virkelig en 'øjen-åbner' for alle deltagere, hvor Ben Simo (eBay - men det var ikke som repræsentant for denne virksomhed han var der, men som privatperson) præsenterede sine oplevelser som bruger af sitet www.healthcare.gov, som er 'indgangen' til det nye amerikanske sundhedssystem. Ben Simo's keynote hed The Power of an Individual Tester: The Healthcare.gov Experience.

Ben's keynote var virkelig en oplevelse - han brugte sin viden om test af websites, og viste eksempel efter eksempel på sikkerhedsbrister, fejl, uhensigtsmæssigheder m.m. på denne hjemmeside, som jo potentielt skal anvendes af mange millioner af amerikanere.

Han viste også klip fra forskellige TV-programmer og kongreshøringer, hvor han af chefen for den offentlige styrelse der er ansvarlig for sitet blev kaldt 'hacker', og alle situationerne (læs: problemerne) han fandt i web-løsningen for teoretiske - men det er alligevel blevet rettet en for en efterfølgende.

Efter dette 'morgen-break' var det nok svært at se det geniale i resten af dagens indlæg - men det lykkedes ganske udemærket for Deborah Kennedy i sit indlæg på track-session Testers, Use Metrics Wisely or Don't Use Them at All. Her viste hun en masse gode eksempler på, hvordan der kunne opstilles grafer, diagrammer og andre oversigten - som alene med den måde de blev opstillet på 'slørede' det faktiske billede - dejligt input til 'testrapporteringens spindoktor'.

Resten af torsdagen gik med Metrics That Matter med Pablo Garcia, The Unfortunate Triumph of Process over Purpose med James Christie, User Acceptance Testing in the Testing Center of Excellence med Deepika Mamnani og sluttede af med keynoten Softwarts: Security Testing for Muggles med Paco Hope. En rigtig 'Security Wizard'.

Alt-i-alt også en god sidste-dag på konferencen, og nu afventer kun fredagens 'The Testing & Quality Leadership Summit - Test Leadership on the Edge'.

STARwest 2014 - det fysiske udbytte

torsdag den 16. oktober 2014

STARwest 2014 - jeg gik mig over sø og land

Jeg er nu på fjerde dagen af STARwest 2014 konferencen, og er nu kommet til tidspunktet, hvor der hos mig nogle gange opstår det der vist kaldes konference-kuller.

Det sker for selv den bedste, og altså også for mig. Når det sker plejer jeg at gå en tur. Nogle gange kort. Nogle gange langt. Nogle gange sker der noget magisk.

Så jeg gik mig over sø og land........og hvad så jeg.....Julie Gardiner?...... dog ikke, men følte mig lidt som Jeppe i baronens seng.......drømmer jeg eller er jeg vågen.

Jeg gik langt, men alligevel, nok ikke til Orlando i Florida. Og dog - pludselig så jeg i det fjerne, i smoggen i LA, noget der kunne minde om studenter-konceptet fra syden.

Og ja. Jeg så rigtigt. Konceptet med en restaurant drevet af kvindelige studerende med speciale i ugler med store øjne har spredt sig.

Jeg er jo et godt menneske. Så her sidder jeg. Blandt kvindelige studerende med speciale i ugler med store øjne. Meget store. Knap så store. I forskellige farver, mønstre og former.

Men støtter dem alle.........selvom de ikke taler tysk......og dog.....vielleicht......

STARwest 2014 - og det skete i de dage....og.....hører Bob Galen den danske gruppe 'På Slaget 12'?

Så blev det onsdag og dermed midtvejs i dette ugelange event med test, test og test på programmet. Som tidligere omtalt var der tutorials mandag og tirsdag, og onsdag og torsdag selve konferencedelen med tracksessions, hvor der afvikles typisk 6 sideløbende spor. Onsdag var der 3 key-notes, som man har mulighed for at deltage i alle sammen. 18 track-sessions som man har mulighed for at deltage i 3 af, da de kører sideløbende. Udover dette var der 9 såkaldte tekniske præsentationer, som typisk er værktøjsleverandører og andre udstillere på EXPO'et der tilbyder uddybende gennemgang. Disse kører også sideløbende med track-sessions. Så er der bonus-sessions og yderligere tekniske præsentationer under frokosten - så der er næsten dårlig samvittighed over alt det man ikke når at deltage i - næsten ligesom en rigtig test......

Åbnings key-noten var Quality Principles for Today's "Gluware" - Testing Web Services, Libraries and Frameworks med Julie Gardiner. Julie er en 'bombe' på mange områder, og ikke mindst på energi og engagement. En ren fornøjelse, og så viste hun sig også som tryllekunster. Hun talte bl.a. om information og kommunikation, og de komplicerende faktorer der er for at sikre det - teknologi, geografi/kultur og daglig multi-tasking. Et af hendes mange gode budskaber var, at vi som testere skal være bedre til at vise værdiskabelsen over for ledelsen - altså synliggørelse af f.eks. fejl fundet, og dermed forhåbenligt reduceret produktrisiko, og via metrikker som DDP. Hun talte også om, hvad vi skal være opmærksom på ved brug af eksterne systemleverandører - vi skal spørge ind til leverandørens test og kvalitets setup både før udvælgelsen, og under projektforløbet. Altså stille krav - det var smukt. Julie havde et par gode bemærkninger - eller der var faktisk mange - men et af dem var RISK RULED.

Dagens anden key-note var med Bob Galen over emnet Balancing the Crusty and Old with the Shiny and New. Et markant, og pragmatisk, indlæg om vor testverden, om dem og os. Traditionel udvikling eller agil udvikling. Men Bob havde for de mange situationer han beskrev, også en 'lige-midt-i-mellem' - og det får mig til at tænke over om Bob Galen kender den aarhusianske gruppe 'På Slaget 12' og deres skønne sang 'Lige Midt Imellem'? Og det var hans budskab - det er ikke et enten-eller, men mellem. Så derfor til de der arbejder med det agile - smid nu ikke de smarte ting fra den traditionelle testverden ud - risiko-baseret test er fortsat smart og nødvendigt, testteknikkerne er fortsat smarte og nødvendige osv., og omvendt den traditionelle 'verden' kan også sagtens bruge mang af ideerne fra den agile verden. Han havde dog en rigtig god udtalelse - den traditionelle verden 'deliver the ASK', men den agile verden 'deliver the NEED'. Han har nok ikke helt uret.

Jeg blev en del inspireret af Bob Galen, hvorfor jeg deltog i den første track-session hos ham - hvor han talte om A Tester's Guide to Collaborating with Product Owners. Det væsentligske budskab var vist - du skal have respekt for Product Owner - de har et hårdt job. Han præsenterede følgende ni områder, som guidelines for testernes samarbejde med Product Owner (PO):
  1. Bridge stories from team to the PO - omtalte her de 3 Amigos (Tester - Udvikler - PO)
  2. Help write solid Acceptance Tests
  3. Hold everyone 'accountable' to DoD
  4. Represent the customers
  5. Ask questions - be inquisitive, be curious, explore
  6. What about the Cost of Quality?
  7. What about the Cost of Testing?
  8. The backlog is a Plan - help focus it towards Release
  9. Get to know your PO.
Afslutningsvis sagde han 'hjælp PO med at bygge det rigtige, og hjælp teamet med at bygge det rigtigt'. Meget godt ramt.

Min næste track-session var Martin Pol med Test Improvement in Our Rapidly Changing World. Et af hans budskaber var - det gælder ikke om at scope point i en modenhedsmodel, det drejer sig om at forbedre - og det har han da ret i. Et indlæg som var præget af, at han vist synes han skulle skabe en forbindelse mellem den traditionelle verden og den agile verden - inden for testforbedring, hvilket han delvist opnåede. Han brugte en del tid på at fortælle om TPI. :-)

Min sidste track-session onsdag var med Shelley Rueger over temaet Implementing Outsourced Testing Services with a Third Party Vendor. Hendes fokus var på crowd-sourcing, og tog udgangspunkt i en konkret case. Det var et spændende indlæg - dels fordi der ikke var mange der deltog og dermed kom vi tættere på med spørgsmål og kommentarer og dels fordi det var et relativt nyt emne for mig. Hun gennemgik bl.a. også forskellene mellem outsourcing og crows-sourcing - hvilket var spændende - og fordele/ulemper mellem disse, men med udgangspunkt i den konkrete case.

Dagens sidste aktivitet - på konferencen - var Lightning Strikes the Keynotes. Sessionen varer en time under facilitering af Lee Copeland, hvor 9 forskellige indlægsholdere taler i maksimalt 5 min. over et emne, som vedkommende føler for.......endnu engang et anderledes og faktisk ganske underholdende afslutning på en lang dag.

onsdag den 15. oktober 2014

World Quality Report 2014-15 er nu på gaden

Den 6. udgave af World Quality Report (WQR) er nu offentliggjort, og den viser en række spændende forhold i forhold til test og kvalitet. Undersøgelsen er global med et lokalt tvist - og er baseret på 1.543 interviews med it-ledere, hvoraf 33 fra Danmark.

Der er en række spændende key-findings i WQR:
  1. Transformationsprogrammer der bruger SMAC (Social, Mobile, Analytics, Cloud) og IoT (Internet of Things) ændrer fokus på test og kvalitet, og øger vigtigheden af samme.
  2. Budgetterne for test og kvalitet fortsætter med at stige til højder der ikke er set tidligere, og dette er delvist drevet af nye digitaliseringsprojekter.
  3. Mange virksomheder foretrækker at organisere deres test- og kvalitetsfunktioner som en kombination af centrale og decentrale enheder.
  4. Mange virksomheder øger anvendelsen af eksterne serviceleverandører inden for test og kvalitet i fællesskab.
  5. Andelen af rene offshore engagementer er faldende.
  6. Ikke-funktionelle krav - specielt sikkerhed og performance - og kundeoplevelser bliver et mere og mere vigtigt fokusområde for test og kvalitet.
  7. De fleste virksomheder kræver hurtige og tilpassede løsninger i forholdet mellem test og kvalitet og agile udviklingsmetoder.
  8. Brugen af cloud-baserede løsninger for testområder er stigende.
  9. Mange virksomheder har stigende modenhed indenfor områderne testmiljø, testdata management og testautomatisering.
WQR 2014-15 kan hentes på www.worldqualityreport.com eller på www.capgeminisogeti.dk - god fornøjelse med læsningen.

STARwest 2014 - Tirsdagens tutorials - reflektioner - og så er bogladen åben

Så er den officielle del af tirsdagens program overstået - eller det er faktisk ikke helt rigtigt, idet der senere på eftermiddagen er åbningsreception for konferencedelen der er onsdag og torsdag, hvor der er kortere præsentationer (30-45 min) og key notes.

Dagens 2 tutorials jeg deltog var udvalgt ud af 18 mulige - det er altid svært at fravælge, men det er ganske enkelt nødvendigt.

Fundamental Test Design Techniques

Det var en tutorial af Lee Copeland - som altid er engageret og fornøjelig at møde - og der blev præsenteret en række af de kendte testteknikker: Ækvivalensklasser, grænseværdianalyse, beslutningstabeltest, tilstandsovergangstest, udforskende test og defekttaksonomi.

På testteknik-siden var der ikke meget nyt for mig, men de eksempler Lee præsenterede og i forskellige sammenhænge gav mig mange ideer til, hvordan jeg fremover kan gøre præsentationen af disse testteknikker endnu bedre. Lee lavede en opdeling af blackbox-teknikkerne i to grupper - en videnskabelig (science) og en kunst (art) - en spændende og anderledes opdeling, som jeg vil prøve at arbejde videre med. Dette for mig lige til at mindes, at de jo er her i 2014 det er 30 år siden den første testbog udkom på dansk, nemlig oversættelsen af Glenford Meyers bog 'The Art of Software Testing', som selvfølgelig fik den mundrette titel 'Kunsten at test edb-programmer'.

Interessant er det, at i forhold til beslutningstabeltest, så skaber 'regel-begrebet' fortsat debat, spørgsmål og drøftelse - jeg vil altså finde en måde at få det bedre forklaret på.

Pairwise Testing Explained

Det var igen en Lee Copeland tutorial, men denne gang med parvis test. En testteknik jeg ofte underviser i og bruger. Formålet var primært at få nye ideer til, hvordan denne kan formidles. Han præsenterede brugen af ortogonale tabeller (som jeg også anvender), og så præsenterede han også brugen af 2 værktøjer - AllPairs og PICT. AllPairs udviklet af James Bach og PICT af Microsoft.

Jeg har set værktøjerne før, men lagde mærke til at PICT har denne specielle egenskab, at det kan anvendes med afhængigheder mellem parametre - altså hvis P1 har værdien X så kan P2 ikke have værdien Y m.m. En anvendelig og ofte savnet feature.

Men også en god tutorial, og spændende at se at de samme spørgsmål dukker op på tværs af kontinenter.

Bookstore Open at STARwest 2014

HURRA - så er bogladen åben - har allerede udset mig et par bøger jeg skal have købt og læst.

tirsdag den 14. oktober 2014

Back to the Future.........

Lige købt en ny bog i bogladen på STARwest, og ser at den er udgivet (eller nok nærmere udgives) i 2015...........så er vel sådan lidt "back to the future" agtigt.......

STARwest 2014 - Tirsdag morgen - hvad er mine planer?

Så blev det tirsdag morgen her i Anaheim i Californien - husk der er 9 timers forskel - så det er ikke mig der sover længe.....heller ikke herovre.

Her tirsdag fortsætter tutorials - og jeg har tilmeldt mig to halvdags tutorials med selveste Lee Copeland (hvis du synes det siger dig et eller andet - så er det måske fordi du kender en af hans testbøger - A Practitioner's Guide to Software Test Design - en god bog som jeg klart kan anbefale, hvis ikke du kender den allerede) - her til formiddag er det en ny tutorial som han har udviklet der hedder 'Fundamental Test Design Techniques (han har haft en tilsvarende tidligere, men den er annonceret som NEW) og så i eftermiddag 'Pairwise Testing Explained' - jeg håber ved begge tutorials at kunne få inspiration til min egen undervisning i testteknikkerne - og så selvfølgelig at lære noget nyt..............

STARwest 2014 - Reflektioner over mandagens tutorials

Mandagens tutorials for mig var som tidligere nævnt 'Application Performance Testing - A Simplified Universal Approach' med Scott Barber og ' Exploratory Testing Explained' med Paul Holland. I det følgende er mine betragtninger i relation til disse to tutorials.

Application Performance Testing - A Simplified Universal Approach

Scott's tutorial var en god  gennemgang af de ledelsesmæssige, organisatoriske og strategiske betragtnnger der skal gøres i forbindelse med performance test - uden at det bliver et teknisk indlæg.

Der var nogle gode key points som jeg gerne vil dele:
  • Performancetest skal være en integreret del af hele projektets life-cycle
  • Hele projektteamet skal have fokus på det - ikke kun de tekniske testere
  • Forventningerne til performancetesten skal være afstemt, herunder klar rolle- & ansvarsfordeling
  • Fokus skal være konstant og samarbejdende.
Exploratory Testing Explained

Paul's tutorial startede lidt akavet i min optik, men blev bedre. Først brugte han en del tid på den nye ISO/IEEE/IEC 29119 standard for softwaretest - som han ikke er den store fan af, lød det til - og derefter brugte han en del tid på sine - åbenbart store - idoler; Brdr. Bach. Nu skal jeg selvfølgelig passe på med ikke at lade mig påvirke af mine personlige holdninger til førnævnte ting, men var jeg primært kommet for at få en ind-i-kroppen-oplevelse af exploratory test.

Han havde en god efterfølgende god (og relevant) start omkring exploratory test - step 1: learn how to test og derefter et nyt step 1: do exploratory testing! - og derefter følgende 'To do ET well, begin by doing it poorly' - dette var en ganske forfriskende start.

Der blev også præsenteret nogle synspunkter på forskellen mellem 'checking' og 'testing', som selvfølgelig er interessante, men nok vil være et fokusområde jeg vil præsentere senere på bloggen.

Exploratory test (ET) er en tilgang til test, og kan anvendes i forbindelse med alle testteknikker og alle udviklingsmodeller - det er altså ikke begrænset til den agile verden. ET er en testtilgang, hvor læring, testdesign, testafviklng og evaluering af testresultater kører som samtidige parallelle aktiviteter.

Der blev talt en del om heuristikker (Ifølge Wikipedia er en heuristik: En heuristik eller heuristisk metode er en metode, som hjælper en til eller tillader en at udforske og lære ting på egen hånd, eller at løse et problem ved at evaluere de erfaringer, man har gjort sig, og derved prøve sig frem, til man har en løsning).

Paul præsenterede en heuristisk teststrategi model omfattende begreber som projektmiljø, kvalitetskarakteristik, produktelement og opnået kvalitet der samtidig dækkede over risiko, orakler, dækningselement og rapportering. Nogle spændende betragtninger.

ET er en struktureret proces - og altså ikke tilfældig, men systematisk - og denne struktur stammer fra flere kilder: føromtalte testdesign-heuristikker, testcharter, timeboks, produktrisiko, produktstrukturen, udviklingsaktiviteterne, projektbegrænsninger, ressourcer allokeret af projektet og så den overordnede tilgang og mål med testen.

Hele ideen med ET er denne samtidighed af læring, design, afvikling og logning af test, og det er under denne proces det kreative og sjove element indgår, herunder forgreningen af testideer - altså det forhold at man starter med en testide, og under arbejdet med at teste denne, får man en ny ide til test, der igen skaber en ny osv.

En vigtig del af ET - ifølge Paul - er testhistorien, som består af 3 dele (eller måske nærmere 4) - (1) historien om status på produktet, (2) historien om hvordan du har testet det, (3) historien om værdien af test, og så (måske) (4) historien om værdien af disse historier.

ET bør køre sessionsbaseret - altså med et givet formål m.m., og deraf skal der selvfølgelig også ske en rapportering af dette - jvf. ovenstående historier.

Alt-i-alt var det en god og interessant eftermiddag, men jeg er dog overbevist om, at dette ikke er den eneste 'historie' om exploratory test.

Først kom TMap NEXT, så kom TPI NEXT, og så kom nu pepsi next.........

mandag den 13. oktober 2014

STARwest - Exploratory Testing Explained

Mandagens anden tutorial er om Exploratory Testing Explained. Mine forventninger er store - bør blive en ind-i-kroppen oplevelse (og måske endda en ud-af-kroppen oplevelse). :-)

STARwest - første tutorial er begyndt

Så er starten gået for min første tutorial på konferencen. Emnet er Application Performance Testing med mere fokus på ledelse, strategi og organisation. Helt som forventet. :-)

Så begynder STARwest 2014 i Anaheim

Så er det mandag morgen på den amerikanske vestkyst, hvilket starten på STARwest-konferencen. Mandag og tirsdag er dagene med tutorials, hvor man kommer i dybden med et emne. En tutorial varer en halv- eller heldag. I dag mandag er der 16 tutorials at vælge mellem, og jeg bruger formiddagen på temaet "Application Performance Testing - A Simplified Universal Approach", og eftermiddagen på "Exploratory Testing Explained". Samlet set en dag, som jeg har store forventninger til.

Konferencen varer hele ugen, og jeg løbende skrive om mine tildragelser her på bloggen.