Toen ChatGPT in november 2022 de wereld veroverde, worstelde McKinsey al decennialang met een hardnekkig probleem: hoe de enorme hoeveelheid bedrijfskennis, opgebouwd in bijna 100 jaar, snel en efficiënt toegankelijk te maken voor medewerkers.

“Kennis is de levensader van McKinsey,” legt Kitti Lakner uit. Lakner is associate partner bij McKinsey en productleider Lilli. “Ondanks talloze pogingen om deze kennis te centraliseren, besteedden we nog steeds te veel tijd aan het zoeken naar de juiste informatie en experts binnen het bedrijf.”

Al snel werd duidelijk dat generatieve AI of GenAI niet alleen kon helpen dit probleem op te lossen, maar ook de manier waarop we met klanten samenwerken fundamenteel kon veranderen.

Lilli, het GenAI-platform van McKinsey
McKinsey, inmiddels een internationaal adviesbureau met circa 38.000 medewerkers verspreid over meer dan 130 kantoren in 65+ landen, heeft in juli 2023 een eigen generatieve AI-tool genaamd ‘Lilli’ gelanceerd. Vernoemd naar Lillian Dombrowski, de eerste vrouwelijke consultant die in 1945 door McKinsey werd aangenomen.

Het idee was simpel maar ambitieus: een AI-platform ontwikkelen dat de toegang tot informatie voor onze teams versnelt en de impact op klanten vergroot. Al snel werd ook gekeken naar aanvullende toepassingen, zoals data-analyse, planning en creatieve probleemoplossing. Dit suggereerde dat Lilli kon uitgroeien tot een platform waarop we AI-gedreven toepassingen bouwen die de manier waarop we werken volledig zouden veranderen.

Rodney Zemmel, senior partner en leider van McKinsey’s technologiepraktijken, vat het zo samen: “We besloten onze eigen strategie te volgen en deze transformatie als een kernonderdeel van de McKinsey Rewired-aanpak te benaderen, met duidelijke doelstellingen.”

Deze transformatie zou niet alleen interne samenwerking efficiënter maken in een AI-gestuurde wereld, maar ook zorgen dat we klanten beter van dienst kunnen zijn. “We zagen het potentieel van GenAI om niet alleen onze interne processen te verbeteren, maar ook diepere relaties met klanten op te bouwen en hen nog meer waarde te bieden,” aldus Erik Roth, senior partner en verantwoordelijk voor de ontwikkeling van Lilli. “Maar om dit te realiseren, moesten we een nieuw operationeel model opzetten dat afdelingen samenbracht die voorheen nauwelijks samenwerkten.”

De impact
Sinds de wereldwijde lancering van Lilli in juli 2023 heeft het platform brede adoptie gevonden: 72% van de medewerkers maakt er actief gebruik van, met tijdsbesparingen tot 30% bij het zoeken naar en samenvatten van informatie. Maandelijks worden er meer dan 500.000 prompts ingevoerd, waarmee collega’s over de hele wereld op uiteenlopende manieren worden ondersteund.

En dat alles met de zekerheid dat hun interacties en data veilig zijn, dankzij McKinsey’s strikte focus op risicobeheersing en beveiliging vanaf dag één.

Hoewel het nog vroeg is, zien ze al een verschuiving in hoe ze werken. Medewerkers denken kritischer na over hoe kennis wordt gecreëerd en vastgelegd, zodat deze Lilli’s capaciteiten kan versterken. Bovendien passen teams hun workflows aan om optimaal gebruik te maken van de kracht van Lilli.

Maar misschien nog belangrijker dan de interne voordelen zijn de lessen die ze met hun klanten delen. De ervaring met de ontwikkeling van Lilli helpt honderden organisaties bij hun eigen AI-transformatie. Ze bieden hen zelfs een aanpasbare versie van de onderliggende architectuur, afgestemd op hun specifieke behoeften en sector.

“Our clients get value from AI-agents similar to Lilli, tailored to their workflow and industry,” zegt Delphine Zurkiya, senior partner en verantwoordelijk voor de implementatie van deze oplossingen bij klanten. “Ze waarderen het dat wij ervaring hebben met het grootschalig en verantwoord ontwikkelen van AI-tools.”

Lessen uit de ontwikkeling van Lilli
Tijdens de ontwikkeling van Lilli heeft McKinsey veel geleerd. Vijf cruciale inzichten:

1. Prompt engineering is essentieel: Goede prompts maken een enorm verschil. Het is een vaardigheid die niet alleen software-engineers, maar ook domeinexperts onder de knie moeten krijgen. Slechts een uur prompt-training leidde tot een aanzienlijke toename in het gebruik van Lilli binnen McKinsey.
2. Data van hoge kwaliteit is cruciaal: Zonder schone, relevante en goed gestructureerde data kan een AI-platform als Lilli geen waarde op schaal leveren. Daarom hebben we een team samengesteld dat zich richt op databeheer, privacy en beveiliging.
3. Een intelligente orkestratielaag is onmisbaar: Geen enkel taalmodel voldeed volledig aan onze behoeften. Daarom hebben we een gepatenteerde orkestratielaag ontwikkeld die verzoeken slim routeert naar verschillende modellen en AI-systemen. Dit optimaliseert zowel de kosten als de kwaliteit van de antwoorden.
4. Testen, testen en nog eens testen: De snelle evolutie van AI vereist voortdurende kwaliteitscontroles. Een kleine verandering in hoe we data opsplitsen leidde bijvoorbeeld tot ‘hallucinaties’ in de output. Dankzij een flexibel testproces konden we dit snel corrigeren.
5. Adoptie is even belangrijk als technologie: Technologie is slechts één kant van de medaille. We hebben Lilli vanaf dag één ontworpen met een focus op gebruiksgemak, training en continue feedback. Een groeiende promptbibliotheek en ondersteuningsteams helpen medewerkers om Lilli optimaal te benutten.

Wat komt er hierna?
Een jaar na de lancering blijft het Lilli-team verbeteringen doorvoeren, zowel in de kernfunctionaliteit als in nieuwe features. De meest verwachte toevoegingen? AI-agents die repetitieve taken automatiseren en verbeterde mogelijkheden voor het genereren van presentaties.

Hoewel de adoptie gestaag groeit, ligt er nog steeds werk om het platform verder in te bedden in de dagelijkse praktijk. Dit vraagt niet alleen om technologische innovaties, maar ook om voortdurende educatie en de opbouw van AI-gemeenschappen binnen McKinsey.

Ondertussen werken de McKinsey-collega’s bij QuantumBlack, AI by McKinsey, met klanten aan de implementatie van Lilli in hun eigen organisaties. Van het automatiseren van offerteprocessen tot het versnellen van geneesmiddelenontwikkeling—de toepassingen zijn eindeloos.

Generatieve AI is nog volop in ontwikkeling, maar de impact is nu al voelbaar. Zoals Erik Roth reflecteert: “We hebben iets gecreëerd dat de manier waarop we onze klanten bedienen fundamenteel zal veranderen. Dit biedt ons de kans om McKinsey klaar te stomen voor de toekomst en misschien zelfs onze industrie opnieuw te definiëren.”

Update
McKinsey geeft in de november 2024-update een aantal interessante nieuwe inzichten en ontwikkelingen:

• Het ontwikkelingsteam is gegroeid van vier naar meer dan 150 medewerkers.
• De initiële lancering beperkte zich tot 2.500 collega’s om feedback te verzamelen en early adopters te creëren (dit komt niet overeen met wat McKinsey eerder naar buiten bracht).
• Het platform is nu geïntegreerd in de dagelijkse werkprocessen, met uitgebreide trainingsprogramma’s.
• Het platform is uitgegroeid van een eenvoudige kennisextractietool naar een geavanceerde orchestratielaag die verschillende technologieën combineert. In plaats van een standaard RAG-systeem gebruikt Lilli een combinatie van grote en kleine modellen in een geïntegreerde softwarestack.
• Recent is een agents framework geïntroduceerd, waarbij de McKinsey Tone of Voice agent het meest gebruikt wordt voor het verbeteren van geschreven communicatie.
• McKinsey heeft een experimenteel onderzoeksprogramma LilliX gelanceerd dat fungeert als een testomgeving waar geavanceerde AI-mogelijkheden worden onderzocht en ontwikkelt. Binnen dit programma werkt een select gezelschap samen met vooraanstaande denkers op het gebied van AI om nieuwe modellen te ontwikkelen. Een van de belangrijkste focusgebieden van LilliX is het ontwikkelen van AI-modellen die kunnen redeneren.
• De rol van de McKinsey-consultant zal significant veranderen is de verwachting. Analytisch werk zal steeds meer worden overgenomen door AI-tools, waardoor consultants zich meer kunnen richten op het activeren van inzichten. Dit heeft gevolgen voor het type medewerkers dat McKinsey aanneemt en de vaardigheden die zij nodig hebben.

To be continued…