De belangrijkste criteria en uitdagingen voor AI-succes

De criteria voor AI-succes

Er is geen allesomvattende formule voor AI-succes. Wél hebben we een aantal criteria die ons helpen in te schatten of een AI-oplossing daadwerkelijk een succes kan worden:

1. Start alleen als er een probleem of businessvraagstuk is dat door de organisatie wordt erkend. Je hebt namelijk draagvlak nodig.
2. Is er een sponsor op management- of directieniveau? Ook op dit niveau heb je immers steun nodig.
3. Gaat het je een potentiële besparing van minimaal 300.000 tot 500.000 euro opleveren? Hoewel een AI-oplossing geen grote investering vraagt in de verkenningsfase, moet de potentie wel interessant zijn.
4. Heb je voldoende data beschikbaar die kwalitatief in orde is (te maken)?
5. Wil je organisatie er ook écht op acteren als er een bruikbaar AI-model uitkomt?
6. Is er voldoende draagvlak voor de oplossing onder medewerkers?

Voornaamste uitdagingen 

Hoe enthousiast we ook zijn over alle nieuwe LLM-mogelijkheden, we willen geen eenzijdig hosannaverhaal afsteken. Afgaande op alle gesprekken die we voeren met – en workshops die we geven aan – klanten zijn dit de voornaamste uitdagingen:

Wanneer spring je aan boord? 

Springen we nú aan boord van de LLM-kogeltrein? Of wachten we nog even omdat we nog niet exact kunnen voorzien wat we allemaal met LLM-oplossingen kunnen tackelen? Ons advies: begin klein en zo vroeg mogelijk, bijvoorbeeld met iets relatief simpels zoals een chatbot die interne documenten kan terugvinden. Zo bereid je naast je medewerkers ook je (data)infrastructuur voor op dit soort nieuwe technologieën.

Sta boven de materie en snap waar je mee bezig bent

LLM’s kunnen fouten maken, zoals ‘hallucineren’ of incorrecte code schrijven. Oftewel: je kunt niet blind op het model vertrouwen en moet altijd (al dan niet via een partner) de juiste kennis in huis hebben om de output te kunnen verifiëren.

Security en governance

Iedereen kan met een LLM werken, maar zorg dat dit in een gecontroleerde omgeving gebeurt door de security en governance goed te regelen. Bij de browserversie van ChatGPT kan je data bijvoorbeeld door OpenAI worden gebruikt om het model te trainen, waardoor het bij andere gebruikers kan terugkomen als output.

Kosten

Een kant-en-klare oplossing heeft vooral terugkerende kosten, terwijl het kostenzwaartepunt bij een custom oplossing vooral bij het ontwikkelen ligt. Cegeka kan organisaties helpen om hierin keuzes te maken. Eén van de overwegingen daarbij: een kant-en-klaar LLM-model kan in korte tijd worden gemaakt, maar is minder aanpasbaar dan een custom oplossing.

LLM-oplossingen met top-notch security, governance en privacy 

Cegeka bouwt momenteel volop oplossingen waarin LLM’s, in meerdere of mindere mate, een rol spelen. Wij benutten zoveel mogelijk de kracht van deze modellen, maar zorgen dat je er niet volledig aan overgeleverd bent – want ze zijn nog lang niet zover dat ze álles goed kunnen.

Meestal bouwen we voor klanten een eigen dataplatform binnen Azure. Dit bevat verschillende datalagen waarin ruwe en opgeschoonde data beschikbaar wordt gemaakt. Ga je met de technologie van OpenAI aan de slag? Dan richten we het platform dusdanig in dat zowel de security, governance als privacy top-notch zijn geregeld.

Dankzij API-calls of tokens binnen Azure kun je gebruikmaken van de volledige kracht van ChatGPT, terwijl je data netjes binnen je eigen infrastructuur blijft. Zo behoud je de volledige controle over je data en kunnen we alle best practices voor datamanagement toepassen. Omdat het rechtenbeheer gekoppeld is aan Active Directory, creëren we een robuuste, gecentraliseerde en vooral heel veilige aanpak voor toegangsbeheer.

Een groot voordeel van zo’n omgeving in Azure: we kunnen gemakkelijk alle out-of-the-box oplossingen van Azure integreren. Denk op AI-vlak bijvoorbeeld aan de Azure Cognitive Services op het gebied van machine vision, spraak, natural language processing en besluitvorming.

‘Ieder bedrijf kan waarde halen uit LLM’s’

Rijsdijk stelt dat er geen enkele branche is waar LLM’s níét van enorme waarde kunnen zijn. Maar wat zijn nou de meestbelovende use cases op LLM-vlak voor een bepaalde organisatie? Binnen de tweedaagse workshop OpenAI Ideation gaan Rijsdijk en zijn collega-experts daarnaar op zoek voor organisaties.

Rijsdijk: “Daar komen vaak fantastische ideeën uit naar voren. En nog meer als wij al een verkenning maken van de beschikbare data. Zo onderzochten wij voor een katholieke organisatie de hypothese of de wervingsrespons hoger zou zijn onder mensen met drie of vier initialen, waarbij één of meer van de voornamen begint met een M, van Maria of Marinus. En verhip: zo konden we de mensen met een katholieke achtergrond eruit halen en de conversie flink vergroten.”

Dit soorten inzichten verkrijg je volgens hem door slimme mensen te laten werken met de beschikbare AI-technieken. “AI gaat ons niet vervangen, maar medewerkers of organisaties die AI gebruiken gaan wel de mensen en organisaties vervangen die niet met AI werken.” 

Afsluitend benadrukt Rijsdijk het graag nog een keer: technische oplossingen zijn doorgaans het probleem niet. “Cruciaal is dat je eerst een idee, richting of hypothese hebt. Dát is vaak het probleem van bedrijven. Onze workshop helpt om dit concreet te maken.”

Webinar: Integratie van ChatGPT in bedrijfsprocessen

Dit artikel is tot stand gekomen naar aanleiding van ons webinar Integratie van ChatGPT in bedrijfsprocessen. Meer weten? Het webinar kun je hier terugkijken. En lees ook de artikelen De 3 fases van AI, Op deze 3 manieren integreer je AI-tools zoals ChatGPT binnen je business en De ongekende kansen van AI-tools zoals ChatGPT voor je business.