“Bedrijven focussen vandaag op technische kant van AI, maar regelgevend kader wordt steeds belangrijker”

Nieuwe startup helpt bedrijven met AI-risico’s en -beleid

15 mei 2024

De opmars van AI is niet meer te stuiten. Veel bedrijven zetten ondertussen de stap en gingen aan de slag om kunstmatige intelligentie in te schakelen. Naast een groeiend aanbod aan tools en toepassingen, blijft het kader waarin bedrijven AI kunnen en mogen gebruiken vaak nog onduidelijk. “Met de Europese AI Act is nu een eerste stap gezet om af te bakenen welk soort AI-toepassingen wel en niet kunnen. Maar zelfs dan blijft het voor bedrijven onbekend terrein: er is nog geen beleid rond AI, de risico’s zijn niet of nauwelijks in kaart gebracht en men is zich niet voldoende bewust dat er een heleboel regels zijn die afbakenen wat kan en net kan.”

Onder de vleugels van de Cronos Groep richtte het trio consultants, Koen Mathijs, Geoffrey Ceunen en Jens Meijen, een startup op die bedrijven moet gaan ondersteunen in de ontdekkingstocht die AI nog vaak is. Ze doopten hun bedrijf Reliance.

Van risico-analyse tot beleid

Reliance focust zich op die niet-technische, menselijke kant van AI, in een snelgroeiende markt van bedrijven die met AI aan de slag gaan. De aanstaande formele goedkeuring van de Europese AI Act is daarin een belangrijke stap.

Die komt immers met duidelijke regels omtrent onder meer risicocategorieën, verboden praktijken, hoogrisico-AI, transparantievereisten of data en datamanagement. Dat zorgt alvast voor een regelgevend kader dat bedrijven vertelt wat ze wel en niet mogen doen. Zaken die allemaal nauw verweven zijn met de domeinen waarin Reliance die bedrijven bijstaat.

“Alles begint met de data die je als bedrijf wil gebruiken in de AI-toepassingen die je voor ogen hebt. Is de kwaliteit van de data in orde? Wordt de data op een correcte manier gebruikt en verwerkt? Van daaruit kijken we naar wat de risico’s zijn en hoe we die kunnen aanpakken, en welke regels onze klant moet naleven. Om vervolgens het meest geschikte beleid rond die AI-toepassing te maken en te implementeren”, zegt Koen Mathijs, co-founder en Privacy & Governance expert bij Reliance.

Menselijke toets

Jens Meijen, een van de drie partners in Reliance en Fulbright Fellow aan Stanford University benadrukt het belang van een juiste toepassing van AI: “Een van de fundamentele principes van de Act is dat hoogrisicosystemen onder menselijk toezicht moeten staan. Denk maar aan AI-systemen in de gezondheidszorg, of die mensen al dan niet toegang geven tot opleidingen. Kortom: hoe groter de impact op iemands leven, hoe groter het risico, en dus hoe strenger de regels. AI heeft nu al een enorme impact op ons dagelijkse leven, zowel professioneel als persoonlijk. Die impact gaat alleen maar groeien. Daarom is het belangrijk om de mens centraal te stellen en aandacht te hebben voor de ethische aspecten van AI. Als AI-toepassingen onrechtvaardige of inaccurate uitkomsten hebben, kan dat verstrekkende gevolgen hebben voor ons allemaal. Dat willen wij mee bewaken door in te zetten op facetten als compliance, risicomitigatie en governance.”

Reliance wil zich dan ook vooral toespitsen op sectoren waar de menselijke toets cruciaal is, zoals de overheid, de zorgsector, HR, medische of financiële technologie, etc. Zo konden experts die nu meewerken aan de startup al verschillende AI-projecten van start tot finish begeleiden, zoals dat bij de VDAB – een project dat in Vlaanderen zonder meer als referentie gezien wordt voor een juiste manier van hoe een bedrijf met AI moet omspringen.

Geoffrey Ceunen, data-expert en jurist van opleiding, besluit: “Mensen moeten weten dat ze AI kunnen vertrouwen. De geringste fout zal voor een moeilijk te herstellen breuk in dat vertrouwen zorgen. We hebben daar al voorbeelden van gezien, denk maar aan het kinderbijslag-verhaal in Nederland. Mensen willen de technologie omarmen, maar blijven erg sceptisch en accepteren geen fouten. Eens de bedrijven het vertrouwen van hun klanten kwijtspelen, is dit uiteraard heel moeilijk terug te winnen. Dus dat vertrouwen van de klanten zal het verschil maken tussen succesvolle en niet-succesvolle organisaties.”