onsdag den 15. oktober 2014
STARwest 2014 - Tirsdagens tutorials - reflektioner - og så er bogladen åben
Dagens 2 tutorials jeg deltog var udvalgt ud af 18 mulige - det er altid svært at fravælge, men det er ganske enkelt nødvendigt.
Fundamental Test Design Techniques
Det var en tutorial af Lee Copeland - som altid er engageret og fornøjelig at møde - og der blev præsenteret en række af de kendte testteknikker: Ækvivalensklasser, grænseværdianalyse, beslutningstabeltest, tilstandsovergangstest, udforskende test og defekttaksonomi.
På testteknik-siden var der ikke meget nyt for mig, men de eksempler Lee præsenterede og i forskellige sammenhænge gav mig mange ideer til, hvordan jeg fremover kan gøre præsentationen af disse testteknikker endnu bedre. Lee lavede en opdeling af blackbox-teknikkerne i to grupper - en videnskabelig (science) og en kunst (art) - en spændende og anderledes opdeling, som jeg vil prøve at arbejde videre med. Dette for mig lige til at mindes, at de jo er her i 2014 det er 30 år siden den første testbog udkom på dansk, nemlig oversættelsen af Glenford Meyers bog 'The Art of Software Testing', som selvfølgelig fik den mundrette titel 'Kunsten at test edb-programmer'.
Interessant er det, at i forhold til beslutningstabeltest, så skaber 'regel-begrebet' fortsat debat, spørgsmål og drøftelse - jeg vil altså finde en måde at få det bedre forklaret på.
Pairwise Testing Explained
Det var igen en Lee Copeland tutorial, men denne gang med parvis test. En testteknik jeg ofte underviser i og bruger. Formålet var primært at få nye ideer til, hvordan denne kan formidles. Han præsenterede brugen af ortogonale tabeller (som jeg også anvender), og så præsenterede han også brugen af 2 værktøjer - AllPairs og PICT. AllPairs udviklet af James Bach og PICT af Microsoft.
Jeg har set værktøjerne før, men lagde mærke til at PICT har denne specielle egenskab, at det kan anvendes med afhængigheder mellem parametre - altså hvis P1 har værdien X så kan P2 ikke have værdien Y m.m. En anvendelig og ofte savnet feature.
Men også en god tutorial, og spændende at se at de samme spørgsmål dukker op på tværs af kontinenter.
Bookstore Open at STARwest 2014
HURRA - så er bogladen åben - har allerede udset mig et par bøger jeg skal have købt og læst.
tirsdag den 14. oktober 2014
Back to the Future.........
Lige købt en ny bog i bogladen på STARwest, og ser at den er udgivet (eller nok nærmere udgives) i 2015...........så er vel sådan lidt "back to the future" agtigt.......
STARwest 2014 - Tirsdag morgen - hvad er mine planer?
Her tirsdag fortsætter tutorials - og jeg har tilmeldt mig to halvdags tutorials med selveste Lee Copeland (hvis du synes det siger dig et eller andet - så er det måske fordi du kender en af hans testbøger - A Practitioner's Guide to Software Test Design - en god bog som jeg klart kan anbefale, hvis ikke du kender den allerede) - her til formiddag er det en ny tutorial som han har udviklet der hedder 'Fundamental Test Design Techniques (han har haft en tilsvarende tidligere, men den er annonceret som NEW) og så i eftermiddag 'Pairwise Testing Explained' - jeg håber ved begge tutorials at kunne få inspiration til min egen undervisning i testteknikkerne - og så selvfølgelig at lære noget nyt..............
STARwest 2014 - Reflektioner over mandagens tutorials
Application Performance Testing - A Simplified Universal Approach
Scott's tutorial var en god gennemgang af de ledelsesmæssige, organisatoriske og strategiske betragtnnger der skal gøres i forbindelse med performance test - uden at det bliver et teknisk indlæg.
Der var nogle gode key points som jeg gerne vil dele:
- Performancetest skal være en integreret del af hele projektets life-cycle
- Hele projektteamet skal have fokus på det - ikke kun de tekniske testere
- Forventningerne til performancetesten skal være afstemt, herunder klar rolle- & ansvarsfordeling
- Fokus skal være konstant og samarbejdende.
Paul's tutorial startede lidt akavet i min optik, men blev bedre. Først brugte han en del tid på den nye ISO/IEEE/IEC 29119 standard for softwaretest - som han ikke er den store fan af, lød det til - og derefter brugte han en del tid på sine - åbenbart store - idoler; Brdr. Bach. Nu skal jeg selvfølgelig passe på med ikke at lade mig påvirke af mine personlige holdninger til førnævnte ting, men var jeg primært kommet for at få en ind-i-kroppen-oplevelse af exploratory test.
Han havde en god efterfølgende god (og relevant) start omkring exploratory test - step 1: learn how to test og derefter et nyt step 1: do exploratory testing! - og derefter følgende 'To do ET well, begin by doing it poorly' - dette var en ganske forfriskende start.
Der blev også præsenteret nogle synspunkter på forskellen mellem 'checking' og 'testing', som selvfølgelig er interessante, men nok vil være et fokusområde jeg vil præsentere senere på bloggen.
Exploratory test (ET) er en tilgang til test, og kan anvendes i forbindelse med alle testteknikker og alle udviklingsmodeller - det er altså ikke begrænset til den agile verden. ET er en testtilgang, hvor læring, testdesign, testafviklng og evaluering af testresultater kører som samtidige parallelle aktiviteter.
Der blev talt en del om heuristikker (Ifølge Wikipedia er en heuristik: En heuristik eller heuristisk metode er en metode, som hjælper en til eller tillader en at udforske og lære ting på egen hånd, eller at løse et problem ved at evaluere de erfaringer, man har gjort sig, og derved prøve sig frem, til man har en løsning).
Paul præsenterede en heuristisk teststrategi model omfattende begreber som projektmiljø, kvalitetskarakteristik, produktelement og opnået kvalitet der samtidig dækkede over risiko, orakler, dækningselement og rapportering. Nogle spændende betragtninger.
ET er en struktureret proces - og altså ikke tilfældig, men systematisk - og denne struktur stammer fra flere kilder: føromtalte testdesign-heuristikker, testcharter, timeboks, produktrisiko, produktstrukturen, udviklingsaktiviteterne, projektbegrænsninger, ressourcer allokeret af projektet og så den overordnede tilgang og mål med testen.
Hele ideen med ET er denne samtidighed af læring, design, afvikling og logning af test, og det er under denne proces det kreative og sjove element indgår, herunder forgreningen af testideer - altså det forhold at man starter med en testide, og under arbejdet med at teste denne, får man en ny ide til test, der igen skaber en ny osv.
En vigtig del af ET - ifølge Paul - er testhistorien, som består af 3 dele (eller måske nærmere 4) - (1) historien om status på produktet, (2) historien om hvordan du har testet det, (3) historien om værdien af test, og så (måske) (4) historien om værdien af disse historier.
ET bør køre sessionsbaseret - altså med et givet formål m.m., og deraf skal der selvfølgelig også ske en rapportering af dette - jvf. ovenstående historier.
Alt-i-alt var det en god og interessant eftermiddag, men jeg er dog overbevist om, at dette ikke er den eneste 'historie' om exploratory test.
mandag den 13. oktober 2014
STARwest - Exploratory Testing Explained
Mandagens anden tutorial er om Exploratory Testing Explained. Mine forventninger er store - bør blive en ind-i-kroppen oplevelse (og måske endda en ud-af-kroppen oplevelse). :-)
STARwest - første tutorial er begyndt
Så er starten gået for min første tutorial på konferencen. Emnet er Application Performance Testing med mere fokus på ledelse, strategi og organisation. Helt som forventet. :-)
Så begynder STARwest 2014 i Anaheim
Så er det mandag morgen på den amerikanske vestkyst, hvilket starten på STARwest-konferencen. Mandag og tirsdag er dagene med tutorials, hvor man kommer i dybden med et emne. En tutorial varer en halv- eller heldag. I dag mandag er der 16 tutorials at vælge mellem, og jeg bruger formiddagen på temaet "Application Performance Testing - A Simplified Universal Approach", og eftermiddagen på "Exploratory Testing Explained". Samlet set en dag, som jeg har store forventninger til.
Konferencen varer hele ugen, og jeg løbende skrive om mine tildragelser her på bloggen.
søndag den 1. juni 2014
STAReast 2014 - Afsluttende bemærkninger og refleksioner - og det blev til AMA......
Som sidste år gik jeg mig en tur for at få lidt frisk luft og forsøge at generere nogle kloge tanker. Årets STAReast-konference blev afholdt et andet sted end i fjor, men jeg satte mig for - meget målrettet - at gå efter den 'studenter-restaurant', hvor jeg sidste år forfattede mine afsluttende kommentarer. I husker måske den restaurant, som jeg opsøgte i fjor, og som var drevet af kvindelige-ornitologi studerende med speciale i ugler med store øjne.
Jeg gik hen til lokationen - og opdagede til min rædsel og meget store chok, at stedet var lukket - ved nærmere 'undersøgelse' - (hvem tænker her på IEEE 1044 standardens fire livscyklusfaser - Erkendelse, Undersøgelse, Handling, Arkivering? - altså udover mig) - fandt jeg dog ud af, at stedet ikke var lukket, men flyttet til en anden lokation grundet behovet for mere plads. Mit besøg i fjor gav dem åbenbart så meget tro på fremtiden, at de har været nød til at udvide. Mit personlige bidrag til at få gang i væksten i verdensøkonomien, og jeg blev nærmest modtaget som en 'hovedinteressent' - måske de har studeret TPI NEXT modellen og dens begreb 'hovedinteressent'?
OG jeg fandt det nye sted - og det var en flot udvidelse - godt at der er nogle der specialiserer sig i studiet af ugler med store øjne - og i år så jeg også nogle specialarter - både med fuld 'fjerdragt' og nogle hvor midterstykket var bart - måske gået til i 'kampens hede'.
NÅ - nok om ugler, selvom det er svært at løsrive sig. Det drejer sig trods alt om STAReast.
Hvis jeg skal opsummere STAReast 2014 i tre ord, så bliver det følgende - AMA - og NEJ dette er ikke et sponsoreret indlæg - men AMA står i denne forbindelse for:
- Agilt
- Mobilt
- Automatisk.
Mobile løsningers udbredelse øges og øges for hver dag. Men min påstand er trods alt, at vi sagtens kan bruge vor nuværende viden - den skal bare lige 'twistes' på en anden måde - det kan være vi skal fokusere på nogle andre testtyper end før, andre testteknikker m.m.
Automatisk testafvikling er under fortsat udvikling, men der er fortsat store udfordringer både teknisk og ledelsesmæssigt - men husk Dot Graham berømte ord: 'A fool with a tool, is still a fool'.
MEN det generelle budskab fra STAReast 2014 er: Der kommer mere og mere software, det bliver mere og mere kompleks, der er større og større afhængigheder i softwaren - SÅ softwaretest er kommet for at blive, og alle ser en god fremtid for os. Men det må vi jo ikke bruge som en sovepude - vi skal hele tiden tilpasse de nye udfordringer der er for os - nye tider - nye teknologier.
Men flere og flere af indlægsholderne gjorde meget klart, at vi skal være mere professionelle - det gælder de 3 P'er - Practice, Practice, Practice. Derfor er opfordringen - hvis du er test manager, testanalytiker e.lign. - så brug 10 min. hver dag på at øve dit værktøjsbælte. Det giver værdi - for dig og dit projekt.
Hermed slutter 'testkorrespondenten' af fra STAReast - det var hvad jeg havde valgt i år.............er det ikke det der siges på en landsdækkende dansk TV-kanal.
fredag den 16. maj 2014
STAReast 2014 - Lidt Mere
Torsdag - konferencens sidste dag inden Leadership Summit om fredagen - deltog jeg i en seance med Michael Bolton - om emnet 'Leaping over the Boundaries of Boundary Value Analysis' under temaet 'testteknikker'. Præsentationen var meget typisk for ham - sjove lyde og betoninger undervejs, men han gennemgående tese var, at teknologien er meget mere kompleks end livet, og det viste han med en række gode eksempler hands-on og tilhørende værktøjer. Udover selve emnet var ganske interessant - så var det faktisk også underholdende.
Så ville jeg gerne have været inde og høre en præsentation om 'Mobilteststrategi' - men det blev desværre aflyst (med en underlig intetsigende forklaring), så i stedet endte jeg hos Florin Ursu der talte om 'Lightweight documentation for testing by using Mind Maps'. Det viste sig at være et godt valg - han viste nogle eksempler på brugen af Mind Maps til dokumentation dels af testdesignet og dels status/fremdriften på denne. Han viste også, hvordan han angav prioritet på hver enkelt testscenarie, visuelt viste testresultatet og det fremgik også, hvis der var issues relateret til den enkelte test. Et ganske interessant indlæg.
Udover dette bød torsdagen på en række key notes, hvor jeg specielt vil fremhæve Jennifer Bonine's key note torsdag eftermiddag 'The Art of Testing Transformation: Blending Technology with Cutting-Edge Processes'. Hendes hovedbudskab var, hvordan mikset af People, Processes and Technology kan ændre verden og virksomhederne. Hun talte også om 'Shift Left' som en ny bølge. Hun understregede, at alle ændringer i en organisation drejer sig om kultur og kulturforståelse, og argumenterede for, at en organisation er som et is-bjerg - vi ser kun en lille del af det samlede billede. En god afslutning på konference-delen af STAReast.
lørdag den 10. maj 2014
STAReast 2014 - Det fysiske udbytte
Her er et overblik over det mere fysiske udbytte fra 'ugens gang i Orlando' - bøger, trøje, tutorials, produktark, gatgets m.m.
fredag den 9. maj 2014
torsdag den 8. maj 2014
Fourth Edition of Jorgensen's "Craftman's Approach for Software Testing"
This book is just amazing, and especially the new material on complex condition testing and MCDC. MCDC has three variants: Masking MCDC, Unique-Cause MCDC, and Unique-Cause + Masking MCDC. I was not able to sleep last night.
onsdag den 7. maj 2014
Risk-based testing for agile projects
Jeg har ofte diskussioner med andre indenfor det danske testsamfund om brugen af vore mange traditionelle tilgange og teknikker i den agile verden. Jeg bliver ofte mødt med holdninger om, at disse ting ikke kan bruges. De første tre dage her på STAReast har bekræftet mig i, at mange af vore traditionelle tilgange og metoder fortsat kan finde anvendelse - nogle gange med et lille twist.
Erik van Veenendaal har i dag været med til, at jeg har fået denne bekræftelse. Som det fremgår af nedenstående billede af risikomatricen har den de traditionelle dimensioner konsekvens og sandsynlighed, og den har de fire kvadranter. I øverste højre hjørne, som er den højeste risikoklasse, bruges de formelle testdesignteknikker m.m.
Dejligt at se konkrete eksempler på brugen af vore metoder, også i den agile verden.
Test process improvement in agile
Store var mine forventninger til et indlæg med ovenstående titel. Jeg har jo efterhånden lavet 30 assessments baseret på TPI-modellen, så den kender jeg.
Jeroen Mengerink har lavet en variant af TPI NEXT modellen gældende kun for agile miljøer. Modelen har 3 modenhedsniveauer og 12 key areas. Se nedenstående billede af test maturity matricen. Modenhedsniveauerne var lavet ud fra en model for modenhedsforøgelsen i agile teams, og de 12 keys areas ud fra talerens erfaring med hvad der er kritisk for et agilt miljø.
Denne præsentation var virkelig spændende, og den levede fuldt ud op til mine forventninger.
tirsdag den 6. maj 2014
Seven Keys to Navigating Your Agile Testing Transition - Tutorial - Tirsdag formiddag
Så kom tidspunktet, hvor jeg skulle udfordres - agil test. Rob Galen og Mary Thorn havde med deres oplægsbeskrivelse virkelig fået pirket lidt til min nysgerrighed. Det var som taget ud af en tv-serie "MYTHBUSTERS". De har opstillet en række myter om agil test dækkende følgende 15 temaer:
1) Transforming your team
2) Automation
3) Developers and automation
4) Developers testing
5) Test planning and scripts
6) Testing within the sprint
7) Exploratory testing
8) Role of testers
9) Developer to tester workflow
10) Managing agile testers
11) Test metrics
12) Retrospectives - the secret sauce
13) Continuous improvement
14) The customer
15) Agile requirements - the product backlog.
Jeg kan ikke nå at reflektere dem alle i dag, men for hver af de femten områder var der en gennemgang af myter og virkeligheden. Spændende.
Omkring emnet developers testing var myten, at udviklere ikke kan teste deres egen kode. Virkeligheden er, at vi i agile teams skal med at fokusere på enkeltmedlemmers styrke og svaghed, men skal sikre, at der er tillid i teamet. Tillid til, at udviklerne kan lære det, og vi skal facilitere det.
Til emnet test planning and scripts var myten, at vi ikke behøver en testplan, men virkeligheden er noget helt andet. Der er fortsat behov for en testplan der sikrer det rette fokus i testen, herunder mellem flere agile teams og releases. Det samme gælder den risiko-baserede testtilgang - vi har fortsat behov for et instrument til prioritering.
En god tutorial, hvor jeg fik mit syn på det agile flyttet lidt, og blevet bekræftet i, at testhåndværket fortsat har en plads - også i den agile verden.
Risk-based testing - heldags tutorial - mandag
Her mandag havde jeg valgt en heldags tutorial i risk-based testing med Dale Perry. Det er jo altid et spændende emne, og et emne som mange inden for testområdet taler om, men ikke rigtigt får praktiseret.
Dagens gennemgang af emnet tyder ikke på, at der er kommet noget nyt frem om risiko-baseret test. En god og relevant udtalelse var dog, at nogle risici styrer du, og nogle andre styrer dig. En sjov personlig oplevelse var, at han brugte eksemplet med 13 parametre med hver 3 variable, til at illustrere at udtømmende test ikke er muligt. Det er de samme tal jeg ofte selv bruger.
Jeg synes dog, at indlæggets del omkring rapportering af risiko-baseret test fortsat mangler et mere modent niveau, og fortsat debat om hvad vi gør her. Hvordan får vi på en enkel og sigende måde vist en oversigt over de udestående risici. I eksemplerne blev der vist fine eksempler på rapportering af 3 af de 5 rapporteringsdimensioner inden for test.
Mange af emnerne i dagens tutorial er godt dækket i TMap NEXT Business Driven Test Management - se www.tmap.net
Det positive i indlægget var:
1) Sammenhængen mellem risiko-baseret test og testteknikkerne blev tydeliggjort.
2) Klar og tydelig opdeling i risikotyper: Projekt, proces og produkt.
Afslutningen var godt ramt, idet Dale stillede spørgsmålet, hvornår er risiko-baseret test unødvendig?
Svaret var:
1) Når softwaren aldrig vil blive brugt
2) Når du har ubegrænsede ressourcer.
Det vil sige ALDRIG
mandag den 5. maj 2014
STAReast 2014 er begyndt
Så er konferencen i Orlando påbegyndt. Her mandag er jeg igang med en heldags tutorial om risk-based testing med Dale Perry.
torsdag den 27. februar 2014
TMap NEXT Test Engineer kursus afsluttet
En skøn uge med et godt hold kursister til TMap NEXT for Test Engineer. De har alle været dybt engageret i at blive beriget om dækningstyper og testdesignteknikker. Der har været særlig interesse for MC/DC og PCT med forskellige testdybder. Lørdag starter et nyt hold. Skøn uge.