Gen AI-applicaties bouwen voor bedrijfsgroei – acties achter de schermen

De lancering van de generatieve AI (GenAI)-applicatie ChatGPT door OpenAI in november 2022 heeft de adoptie van AI alleen maar versneld. Op dit moment hebben veel van de technologiegiganten, waaronder de toonaangevende leveranciers van cloudplatforms zoals Google, Microsoft en Amazon, een sterk GenAI-aanbod, naast dat van veel kleinere leveranciers en open-sourceplatforms.

Kortom, GenAI is een AI-discipline waarbij de AI-basismodellen (FM’s) worden getraind op enorme hoeveelheden multimodale gegevens (d.w.z. tekst, beeld, audio, video, terabytes aan gegevens, biljoenen parameters). Met de juiste gebruikersverzoeken op de input kunnen FM’s een grote verscheidenheid aan multimodale gesynthetiseerde outputs genereren. Grote taalmodellen (LLM’s) zijn een subklasse van FM’s die gespecialiseerd zijn in tekst. Een bijkomend voordeel van GenAI zijn de zeer superieure mogelijkheden voor natuurlijke taalverwerking (NLP), waarbij in veel gevallen gebruik wordt gemaakt van multimodale invoer/uitvoer, waardoor het een geweldige en nog niet eerder gerealiseerde technologie is voor mens-computerinterfaces. Dit is een van de belangrijkste redenen voor de toegenomen belangstelling voor GenAI.

GenAI, die toepasbaar is in vrijwel alle sectoren, kan veel van de dagelijkse activiteiten van een bedrijf aanzienlijk verbeteren en nieuwe zakelijke mogelijkheden helpen lanceren. Terwijl sommige op GenAI gebaseerde autonome producten, zoals bepaalde soorten tekst-, beeld- en audio-/videoverwerking, in opkomst zijn, omvatten veel van de bedrijfsgebruiksscenario’s waar momenteel de nadruk op ligt, op GenAI gebaseerde digitale assistenten voor mensen.

Deze assistenten kunnen chatbots (en copiloten) helpen:

• Reageer op open vragen op een meer menselijke manier
• Verbeter de algehele klantervaring
• Detecteer kenmerken en afwijkingen in afbeeldingen en transacties
• Hulp bij het schrijven en testen van code
• Breid werkautomatisering uit
• Verbeter een breed scala aan documentverwerking
• Maak zoekopdrachten naar cognitieve en semantische inhoud efficiënter en effectiever
• Bied geavanceerde analyses om wat-als-scenario’s te beoordelen
• Assisteren bij het genereren van creatieve inhoud.

Typische maatstaven voor bedrijfsgroei zijn omzetstijging en een gezonde winstgevendheid. Productiviteit, innovatie en time-to-market zijn de belangrijkste factoren voor bedrijfsgroei. Afhankelijk van de situatie kan de discipline van GenAI een positieve invloed hebben op sommige of al deze factoren. Een recent onderzoek van McKinsey [1] schat dat door GenAI verbeterde productiviteit en innovatie jaarlijks tussen de 2,6 en 4,4 biljoen dollar aan de wereldeconomie zouden kunnen toevoegen en stelde vast dat ongeveer 75% van de geleverde waarde onder vier gebruikscategorieën zou vallen:

• Klantactiviteiten
• Marketing en verkoop
• Software-engineering
• R&D

Een rapport van het Capgemini Research Institute [2] uit begin 2023, waarin een grote verscheidenheid aan gebruiksscenario’s in de sector werd onderzocht en bijna duizend leidinggevenden werden ondervraagd, toont de brede toepasbaarheid van GenAI en de hoge ROI-verwachtingen van de adoptie van GenAI aan. Om aanzienlijke voordelen voor de bedrijfsgroei te realiseren, moeten op GenAI gebaseerde applicaties uiteraard functioneel worden aangevuld met behulp van aanvullende applicatiecomponenten naast het GenAI-onderdeel, en moeten ze schaalbaar en betrouwbaar zijn en, indien nodig, worden geïntegreerd met andere bedrijfssystemen.

Example: A GenAI-enhanced multimodal and omnichannel B2C commerce application

Figure 1. Modular and component-based architecture for “Casey” – A GenAI-powered virtual retail assistant

Bij Capgemini hebben wij onlangs een virtuele retailassistent ontwikkeld, genaamd ‘Casey’, om bestellingen te accepteren en het order-to-cash-proces voor partnerwinkels aan te sturen (zie figuur 1). Casey is spraakgestuurd en geschikt voor GenAI. Componenten van de Capgemini-oplossingsversneller,[3] Google/GCP en Soul Machines. Voor de end-to-end-applicatie hebben we een ‘digitale mens’ gelaagd met conversationele AI en cloud-native headless commerce API’s,[3] allemaal vooraf geïntegreerd voor conversationele commerciële kiosken. Het dient als een winkel-in-winkel bestelkiosk waarmee de partnerwinkels hun kanaalbereik kunnen maximaliseren met minimale investeringen. Casey is een facilitator voor bedrijfsgroei – het opent een nieuw inkomstenkanaal waar het gemakkelijk is om innovatieve aanbiedingen op de markt te brengen en waarvan de kosten niet snel meegroeien met de bedrijfsgroei, dwz zeer productief, en de constructie van de oplossing zorgt voor een snelle time-to-market-implementatie . De oplossingsarchitectuur van Casey is modulair, waardoor we deze als basis hebben kunnen gebruiken voor veel andere gebruiksscenario’s voor digitale kanalen in een verscheidenheid aan sectoren, bijvoorbeeld de supermarkt, de algemene detailhandel, callcenters, telecom en de automobielsector.

Zoals dit voorbeeld illustreert, moeten we, om door GenAI aangedreven applicaties te bouwen die het volledige klanttraject bestrijken en zo tastbare bedrijfswaarde opleveren, ofwel verschillende andere applicatiecomponenten en technologieën combineren, ofwel de GenAI-onderdelen integreren in anderszins functioneel complete bestaande applicaties voor het geval er geschikte beschikbaar zijn.

Op GenAI gebaseerde apps op bedrijfsniveau maken: belangrijke overwegingen

Om een ​​op GenAI gebaseerde applicatie op bedrijfsniveau te bouwen die substantiële bedrijfsgroei oplevert, moeten we het volgende overwegen:

• Formulering van kansen. Identificatie van de juiste bedrijfsrelevante kansen met realistische ROI-projecties is een kritische succesfactor (CSF) voor uiteindelijk succes met op GenAI gebaseerde applicaties. Vooral nu bedrijven overgaan tot de adoptie van GenAI, kan dit het risico op mislukking verkleinen als GenAI wordt gebruikt om bestaande activiteiten en processen uit te breiden. De toevoeging van GenAI aan een bestaand algoritme voor het voorspellen van klantverloop zou bijvoorbeeld ongestructureerde gegevens kunnen verwerken, zoals gespreksopnamen van klantinteracties en klantrecensies, en aanvullende inzichten kunnen vastleggen, zoals ‘sentiment’, specifieke winkel- of productproblemen, sterke en zwakke punten van de concurrentie, mogelijke nieuwe producten. bundels, en passende ‘witte handschoen’-behandelingen voorstellen om het klantverloop te verminderen. Nog een voorbeeld: GenAI zou kunnen helpen bij de productverkenning van een klant door bestaande gebruikersinterfaces te verbeteren met beeldmateriaal en nuttige tips en door de daadwerkelijke aankoopactie te vereenvoudigen door de ondersteunende processen transparanter te maken.

• Oplossing ontwerp. Een van de eerste overwegingen bij het opstellen van een op GenAI gebaseerde oplossingsstrategie is het onderkennen dat GenAI-aangedreven interacties met klanten of eindgebruikers acties kunnen voortbrengen die mogelijk niet strikte workflows volgen, dat wil zeggen dat de volledige applicatie de flexibiliteit moet hebben om op passende wijze te reageren op problemen. meer vrij stromende mens-GenAI-gesprekken. Als de oplossing helemaal opnieuw wordt opgebouwd, kunnen dergelijke flexibiliteiten van de grond af worden ontwikkeld, wat uiteraard een grotere ontwikkelingslast betekent. Cloud-first ontwikkeling en gebruik van kant-en-klare componenten (zoals het Digital Cloud Platform van Capgemini [3]) kunnen deze last aanzienlijk verminderen. Als de GenAI-componenten in een bestaande oplossing worden opgenomen, zal de bestaande oplossing hoogstwaarschijnlijk moeten worden aangepast voor een goede integratie van het nieuwe en het oude, inclusief het wijzigen/upgraden van enkele functionaliteiten van de oudere componenten, bijvoorbeeld van batchverwerking naar real-time respons, enz. De keuze van de juiste GenAI-tool/platform en de beschikbaarheid van gegevens die nodig zijn voor het goed functioneren van de oplossing zijn ook belangrijke overwegingen.

• Klant-/werknemerservaring en data-orkestratie. De waarde van GenAI in chatbots (en copiloten) is het niveau van personalisatie en context dat een niet-gescript gesprek kan bieden aan een klant en medewerker. Om deze waarde te behouden, moet een onderneming nadenken over hoe ze verschillende interactiepunten (of digitale teamgenoten) kan orkestreren voor consistentie, en hoe ze interactie- en klantgegevens kan delen, zodat het volgende gesprek op een ander interactiepunt het gesprek daar kan voortzetten. klant was de vorige keer gestopt. Deze chatbots zijn ook een hulpmiddel om medewerkers in staat te stellen klanten breder te helpen, waar voorheen een medewerker vertrouwde op wat ze op dat moment wist, nu on-demand toegang heeft tot uitgebreide en gedetailleerde gegevens. Bedrijven moeten ook een orkestratielaag overwegen om de verschillende GenAI-initiatieven en gegevens met elkaar te verbinden.

• Uitvergroten. GenAI is nog steeds een opkomende technologie; Daarom is het raadzaam om klein te beginnen, de concrete bedrijfswaarde te bewijzen en vervolgens uit te schalen om de beoogde zakelijke voordelen te realiseren. In GenAI-gebruiksscenario’s waarbij de technische haalbaarheid al elders is bewezen en een realistische business case voor de oplossing als positief wordt beschouwd, kan het echter de tijd en moeite waard zijn om oplossingsarchitecturen te creëren met mogelijke schaalvergroting in gedachten. Dergelijke architecturen zouden rekening houden met de prestaties van oplossingen onder productiewerklast, beschikbaarheid en noodherstel, beveiliging en gegevensprivacy, identiteits- en toegangsbeheer, foutafhandeling, ontwikkeling en optimalisatie van de exploitatiekosten, en duurzame ontwikkelingspraktijken. In de opschalingsfase is een cloudgebaseerde oplossingsaanpak vaak superieur en moet terdege worden overwogen. Enkele van de GenAI-specifieke overwegingen zijn bedrijfsdatafundamenten en vertrouwen (solide bron van waarheid voor klanten, leveranciers, producten, promoties, kennisbank, enz.), LLM-selectie, LLM-levenscyclusbeheer, snel versiebeheer over omgevingslagen heen, UX-ontwerp voor vrij vloeiende gesprekken, het balanceren van intentiegebaseerde en generatieve interacties, integratie van human-in-the-loop, respons-feedbacklus, kostenmonitoring en -optimalisatie, technisch schuldenbeheer en verantwoord AI-beheer.
• Meten en verbeteren. Het adequaat meten van de prestaties van de oplossing is essentieel voor het begrijpen van de huidige volwassenheid van de oplossing en mogelijke toekomstige verbeteringen; daarom moeten meetmechanismen als eersteklas burgers in de oplossing worden ingebouwd. Als zodanig kunnen hoogwaardige KPI’s van traditionele oplossingen worden hergebruikt in door GenAI aangedreven oplossingen, bijvoorbeeld een vermindering van het klantverloop, een verhoging van de omzet per klant, efficiëntie bij het detecteren van afwijkingen en dergelijke. Het zou echter verhelderend zijn om ook enkele meetgegevens toe te voegen die verband houden met de model- en systeemkwaliteit en de prestaties van de GenAI-componenten (zie bijvoorbeeld een samenvatting van relevante meetgegevens in [4]), waaronder het responsfoutenpercentage, het bereik van input waarbij de responsnauwkeurigheid acceptabel blijft, systeemlatentie, doorvoer en runkosten.
• Leer en groei. Het vastleggen en delen van ervaringen terwijl de oplossingen worden ontwikkeld en uitgerold – en ervan leren – is uiterst waardevol voor zich snel ontwikkelende technologieën zoals GenAI. Sommige ontwerpdocumentatie, beslissingen die samen met de grondgedachten worden genomen en feedback van belanghebbenden en eindgebruikers zijn goede manieren om ervaringen vast te leggen waaruit lessen kunnen worden getrokken. Dit proces zou helpen bij het verbeteren van de oplossing in de loop van de tijd en het vergroten van de volwassenheid van de organisatie om later GenAI-gebaseerde projecten met hogere waarde (en potentieel hogere complexiteit) aan te kunnen. In de loop van de tijd zou het definiëren van een robuuste set bouwpatronen voor alle gebruiksscenario’s nuttig zijn voor het hergebruik van bedrijfsmiddelen, het beheer van oplossingen en het versnellen van de implementatie van nieuwe gebruiksscenario’s.

Slotopmerkingen:

Als het goed wordt gedaan, heeft GenAI een enorme kracht om de meeste ondernemingen vooruit te helpen met een gezondere bedrijfsgroei en een groter concurrentievermogen op de markt. Het is echter belangrijk om potentiële uitdagingen te erkennen, zoals vertekeningen in trainingsgegevens, het ‘black box’-karakter van sommige AI-algoritmen (beperkte verklaarbaarheid) en ethische overwegingen.

Als productiviteitsbevorderaar zal GenAI naar verwachting de automatisering met tien jaar versnellen, waarbij tegen het einde van dit decennium bijna de helft van de huidige taken geautomatiseerd zal zijn.[1] Om niet achter te blijven moeten ondernemingen zich richten op het identificeren van welke door GenAI aangedreven applicaties het meest waardevol voor hen zijn, en op het verwerven, hetzij intern of via partners, van adequate vaardigheden om het ‘wat’ en het ‘hoe’ van software te begrijpen. GenAI. In de vroege stadia van de volwassenheid van GenAI kunnen spotoplossingen snelle winsten opleveren, terwijl naarmate de volwassenheid groeit, de integratie van GenAI in bredere en bedrijfswaardeketens moet worden overwogen om hogere winstdoelen te bereiken – en dit zal een aantal fundamentele investeringen in data, UX vergen. strategie, integratiestrategie en het bouwen van een GenAI-platform.

References:

[1] https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier

[2] https://www.capgemini.com/insights/research-library/generative-ai-in-organizations/

[3] https://www.capgemini.com/us-en/solutions/digital-cloud-platform-for-retail/

[4] https://cloud.google.com/transform/kpis-for-gen-ai-why-measuring-your-new-ai-is-essential-to-its-success