McKinsey’s lessen uit de ontwikkeling van Gen AI-tool Lilli

door Marco Derksen op 13 juni 2024

McKinsey, een internationaal adviesbureau met circa 38.000 medewerkers verspreid over meer dan 130 kantoren in 65+ landen, heeft afgelopen jaar een eigen generatieve AI-tool genaamd ‘Lilli’ gelanceerd. Vernoemd naar Lillian Dombrowski, de eerste vrouwelijke consultant die in 1945 door McKinsey werd aangenomen, is het doel van deze tool om meer dan 40 kennisbronnen en tools zoals documenten, artikelen en webinars beter toegankelijk te maken voor consultants wereldwijd via generatieve AI.

De lancering van Lilli markeert een belangrijke stap voor McKinsey om generatieve AI te omarmen en hun werkwijzen te transformeren. In een recente publicatie in Fast Company deelt McKinsey enkele belangrijke lessen die ze hebben geleerd bij de ontwikkeling van Lilly.

De Gen AI-tool Lilli heeft twee modi: één voor het doorzoeken van McKinsey’s kennisbasis en een andere voor externe bronnen via een chatfunctie. De tool scant duizenden documenten, genereert samenvattingen, biedt relevante links en identificeert experts op een bepaald gebied. Dit bespaart consultants aanzienlijk tijd bij het voorbereiden van projecten.

De ontwikkeling van Lilli was een multidisciplinair project van bijna een jaar, waarbij meer dan 70 experts betrokken waren uit verschillende disciplines zoals natuurlijke taalverwerking, machine learning, ethiek en juridische zaken. De ontwikkeling kende veel technische uitdagingen; aanvankelijk kon Lilli slechts 15% van een PowerPoint-document lezen. McKinsey moest een eigen tool bouwen om meer dan 85% van documenten te kunnen verwerken.

In de Fast Company-publicatie deelt Kitti Lakner, partner bij McKinsey & Company en verantwoordelijk voor Lilli, vijf belangrijke lessen die zijn team heeft geleerd:

  1. Definieer een gedeelde ambitie: Voordat ze begonnen met bouwen, definieerde McKinsey een duidelijke visie om inzichten te verbreden en productiviteit te verhogen door hun uitgebreide bronnen beter toegankelijk te maken.
  2. Stel een multidisciplinair team samen: Generatieve AI raakt veel aspecten van een organisatie, dus diverse expertise is cruciaal. Het team breidde uit met juridische, adoptie-, communicatie- en vakspecialisten.
  3. Zet de gebruiker centraal: Het team verzamelde voortdurend feedback van potentiële gebruikers en paste Lilli aan op basis van hun behoeften om echte problemen op te lossen.
  4. Leer, onderricht en herhaal: Lilli’s lancering was een mijlpaal, maar slechts het begin. Voortdurende leercycli, training en feedback waren cruciaal om Lilli aan te passen aan de evoluerende behoeften.
  5. Meet en beheer: Het team bouwde een nieuwe kennisbasis voor generatieve AI en implementeerde metrische tools om de prestaties van Lilli voortdurend te monitoren en verbeteren.

In minder dan een jaar is Lilli onmisbaar geworden voor McKinsey. Driekwart van de medewerkers zijn actieve gebruikers en de tool heeft meer dan drie miljoen prompts verwerkt, wat consultants gemiddeld tot 30% tijd bespaart en de kwaliteit van hun inzichten aanzienlijk verbetert.

Bronnen:

3 reacties

Zie ook reacties op LinkedIn:
https://www.linkedin.com/posts/mderksen_mckinseys-lessen-uit-de-ontwikkeling-van-activity-7206930014427058177-7ioQ

Zo introduceerde Deloitte bijvoorbeeld begin dit jaar PairD, een vergelijkbaar intern ontwikkelde AI-chatbot voor haar werknemers in Europa en het Midden-Oosten. PairD is ontworpen om medewerkers te helpen bij hun dagelijkse taken. Het bedrijf waarschuwt haar medewerkers wel dat de informatie die de chatbot genereert mogelijk onnauwkeurig kan zijn over personen, plaatsen en feiten. Gebruikers moeten daarom hun eigen kwaliteitsborging uitvoeren vooraleer de output te gebruiken. Naast efficiëntiewinsten hoopt Deloitte met AI ook het aantal toekomstige ontslagen te beperken. Het bedrijf gebruikt AI om de vaardigheden van medewerkers te evalueren en hen over te plaatsen naar afdelingen waar meer vraag is.

Beantwoord

Case study:

Rewiring the way McKinsey works with Lilli, our generative AI platform
https://www.mckinsey.com/capabilities/mckinsey-digital/how-we-help-clients/rewiring-the-way-mcKinsey-works-with-Lilli

Ontwikkelingstijdlijn
Het project kende een verrassend snelle start. In maart 2023 werd in slechts één week een proof of concept gebouwd. In april 2023 volgde een twee weken durende fase voor het opstellen van de roadmap en het operationeel model. De volledige uitrol vond plaats in juli 2023.

Impact
De gebruiksstatistieken zijn indrukwekkend met meer dan 500.000 prompts per maand. Het platform verwerkt momenteel ruim 72 procent van de medewerkers actief.

Innovaties
McKinsey heeft een gepatenteerde orchestratielaag ontwikkeld die verzoeken routeert naar verschillende AI-modellen. Dit was noodzakelijk omdat geen enkel standaard taalmodel voldoende gespecialiseerd was voor McKinsey’s specifieke terminologie en behoeften.

Praktijklessen
Enkele belangrijke leerpunten uit het project:

  • Prompt engineering bleek cruciaal en vereist zowel technische als domeinexpertise
  • Eén uur prompt-training leidde al tot significant meer gebruik
  • Datakwaliteit en -relevantie zijn essentieel voor effectiviteit en kostenbeheersing
  • Continue testing is belangrijker dan ontwikkeling

Toekomstige ontwikkelingen
McKinsey werkt aan nieuwe functionaliteiten, waaronder:

  • Gespecialiseerde agents voor het automatiseren van tijdrovende taken
  • Uitbreiding van mogelijkheden voor het bouwen van presentaties

Concrete praktijkvoorbeeld

  • Adi Pradhan, associate partner, gebruikt Lilli als sparringpartner voor vergaderingen. Hij laat Lilli zwakke punten in argumentatie identificeren en mogelijke vragen voorspellen. Dit bespaart hem 20% voorbereidingstijd en verbetert de kwaliteit van zijn expertise.
  • Josh Sternberg, partner in Life Sciences, zocht naar voorbeelden van precisieproductie. In plaats van voor de hand liggende voorbeelden uit de farmaceutische industrie of vliegtuigmotoren, kwam Lilli met een verrassend maar relevant voorbeeld van een apparaat voor het meten van verfdikte.
  • Kevin Horn, associate partner in Phoenix, beschrijft hoe zijn team Lilli gebruikt voor het verwerken van maandelijkse data-intensieve klantdocumenten. Na slechts één uur training kan Lilli nu ongestructureerde data uit tientallen e-mails verwerken en omzetten naar bruikbare PowerPoint en Excel bestanden. Dit levert een tijdsbesparing op van 10-15 uur per maand.
  • Een innovatief gebruik van Lilli is het vastleggen van kennis van vertrekkende senior medewerkers. Door het afnemen en verwerken van interviews wordt waardevolle institutionele kennis bewaard en toegankelijk gemaakt via het platform.

Deze voorbeelden tonen aan hoe Lilli niet alleen tijd bespaart, maar ook nieuwe manieren van werken mogelijk maakt en onverwachte inzichten kan genereren.

Beantwoord

McKinsey heeft in november 2024 een update gepubliceerd met daarin een aantal interessante nieuwe inzichten en ontwikkelingen:

  • Het ontwikkelingsteam is gegroeid van vier naar meer dan 150 medewerkers.
  • De initiële lancering beperkte zich tot 2.500 collega’s om feedback te verzamelen en early adopters te creëren (dit komt niet overeen met wat McKinsey eerder naar buiten bracht).
  • Het platform is nu geïntegreerd in de dagelijkse werkprocessen, met uitgebreide trainingsprogramma’s.
  • Het platform is uitgegroeid van een eenvoudige kennisextractietool naar een geavanceerde orchestratielaag die verschillende technologieën combineert. In plaats van een standaard RAG-systeem gebruikt Lilli een combinatie van grote en kleine modellen in een geïntegreerde softwarestack.
  • Recent is een agents framework geïntroduceerd, waarbij de McKinsey Tone of Voice agent het meest gebruikt wordt voor het verbeteren van geschreven communicatie.
  • McKinsey heeft een experimenteel onderzoeksprogramma LilliX gelanceerd dat fungeert als een testomgeving waar geavanceerde AI-mogelijkheden worden onderzocht en ontwikkelt. Binnen dit programma werkt een select gezelschap samen met vooraanstaande denkers op het gebied van AI om nieuwe modellen te ontwikkelen. Een van de belangrijkste focusgebieden van LilliX is het ontwikkelen van AI-modellen die kunnen redeneren.
  • De rol van de McKinsey-consultant zal significant veranderen is de verwachting. Analytisch werk zal steeds meer worden overgenomen door AI-tools, waardoor consultants zich meer kunnen richten op het activeren van inzichten. Dit heeft gevolgen voor het type medewerkers dat McKinsey aanneemt en de vaardigheden die zij nodig hebben.

https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/what-mckinsey-learned-while-creating-its-generative-ai-platform

Beantwoord

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie gegevens worden verwerkt.

Laatste blogs

Bekijk alle blogs (1083)
Contact