Kunstmatige intelligentie (ofwel artificial intelligence, kortweg AI) is aan een razendsnelle opmars bezig in de wereld. Om een voorbeeld te geven: de wereldwijde AI-markt heeft in 2027 naar verwachting een waarde van 407 miljard dollar. In 2022 was dat nog ‘maar’ 87 miljard dollar. Uit een enquête van adviesbureau McKinsey blijkt dat 55 procent van de bedrijven in de wereld inmiddels een vorm van AI gebruikt.

Dat is niet voor niets. Het gebruikt van AI kan veel voordelen met zich meebrengen. Van hogere productiviteit en kostenbesparing tot betere klantenservice en innovatie. En hoewel dit artikel oproept tot voorzichtigheid, is Triodos Bank ook enthousiast over de mogelijkheden die de technologie met zich meebrengt. “Kijk bijvoorbeeld naar de medische wereld”, zegt Olofsen. “Daar wordt machine learning (waarbij computersystemen zelfstandig leren en verbeteren, op basis van data) al jaren gebruikt om de prestaties te verbeteren van machines die borstkanker kunnen detecteren. AI leidt nu al tot betere diagnoses.”

Energiegebruik, werkeloosheid en discriminatie

Genoeg redenen dus om enthousiast te zijn. Maar de opkomst van AI gaat ook gepaard met zorgen en risico’s. Zo is het energiegebruik van AI-systemen niet mals. In 2027 is dat naar verwachting al vergelijkbaar met het energieverbruik van Nederland. En in de jaren erna neemt dat alleen maar toe. Ook het toenemende watergebruik (om servers te koelen) is een prangend probleem.

Daarnaast zijn er allerlei ethische vraagstukken gerelateerd aan AI die zorgen baren. Denk bijvoorbeeld aan discriminatie door 'algorithmic bias'. Of aan de schending van privacy door identiteitsverificatie op publieke plekken, met behulp van gezichtsherkenning en/of biometrie. Of het gebruik van AI voor onethische en ronduit gevaarlijke doeleinden, zoals autonome wapensystemen die in staat zijn om zelf doelen op te sporen en aan te vallen, volgens een set voorgeprogrammeerde regels.

Wet- en regelgeving loopt achter

Door deze en andere zorgen zijn meerdere overheden inmiddels druk bezig met het opstellen van regulering op het gebied van AI. Maar zoals wel vaker het geval is bij wet- en regelgeving; het blijkt lastig om de dagelijkse praktijk bij te benen. Zeker bij een technologie als AI, die zich razendsnel ontwikkelt. In augustus van dit jaar werd de EU Artificial Intelligence Act (of kortweg AI Act) van kracht, al worden de regels pas gehandhaafd in de loop van 2025 en 2026. Dit pakket van regels verbiedt onder andere het gebruik van AI voor bepaalde doeleinden, zoals sociale kredietsystemen. Andere AI-toepassingen, zoals het scannen van CV’s bij sollicitatieprocedures, moeten aan strikte eisen voldoen.

De Europese Unie publiceerde in 2019 daarnaast de Ethics guidelines for trustworthy AI: een richtlijn voor AI-ontwikkelaars en -gebruikers om de technologie op een verantwoorde en betrouwbare manier te gebruiken. Is het genoeg? “De EU is zeker één van de voorlopers als het gaat om regulering omtrent AI. Maar het is te vroeg om te zeggen of de huidige regulering en richtlijn voldoende zijn”, aldus Masut. “We zien al mogelijke loopholes en tekortkomingen. Een voorbeeld: de Ethics Guideline stelt onder andere dat AI ethisch gebruikt moet worden. Dat is goed, maar bedrijven kunnen vervolgens zelf invullen wat ‘ethisch’ precies inhoudt. De regels in de AI Act gelden op hun beurt niet voor defensieactiviteiten en nationale veiligheid. Daar kan de technologie dus nog steeds ingezet worden op een onverantwoorde manier, die wellicht mensenrechten schendt.”

Competitief vakgebied

Met andere woorden: we kunnen er (nog) niet op vertrouwen dat wet- en regelgeving verantwoord gebruik van AI garandeert. Kunnen we er op vertrouwen dat bedrijven die handschoen zelf oppakken? Olofsen: “We hebben meerdere gesprekken over AI gehad met technologiebedrijven in ons investeringsportfolio. We zien daar dat er beleid geformuleerd is op het onderwerp en dat er ook toezicht op is. Dat is goed nieuws. Maar een bredere analyse (bij meerdere bedrijven, ook buiten ons investeringsportfolio) laat zien dat er echt nog wel werk aan de winkel is. Bijvoorbeeld op het gebied van disclosure (de mate waarin bedrijven informatie vrijgeven die een investeringsbeslissing kunnen beinvloeden, red.).”

“In bijna alle sectoren willen bedrijven aan de wereld laten zien dat ze AI al toepassen in hun producten en processen. Dat helpt niet mee en maakt het lastig voor bedrijven om voldoende rekening te houden met de risico’s”, vult Masut aan. “Er zou een goede balans moeten zijn bij de overwegingen van bedrijven op dit gebied. Het gaat niet alleen om: kunnen we AI gebruiken? Maar ook: zúllen we AI gebruiken? En wegen de mogelijke voordelen op tegen de mogelijke risico’s?”

Financiële instellingen aan zet

Zowel regulering als bedrijven schieten momenteel dus tekort om verantwoord en ethisch gebruik van AI te garanderen. Daarom roept Triodos Bank financiële instellingen op om óók hun verantwoordelijkheid op dit gebied te pakken. Dat kan op meerdere manieren. Masut: “Ten eerste is het natuurlijk belangrijk dat we AI zélf op een ethische en verantwoorde manier gebruiken. Voor de financiële sector neemt het gebruik van AI namelijk ook hoge risico’s met zich mee. Van algorithmic bias bij kredietbeslissingen tot privacy. We moeten onszelf daarom dezelfde kritische vragen die we aan de bedrijven in ons investeringsportfolio stellen.”

Daarnaast hebben financiële instellingen twee manieren om impact te maken op investeringsgebied. De eerste is de keuze om wel of niet in een bedrijf te investeren. Of een investering zelfs terug te trekken als een bedrijf op discutabele wijze met AI omgaat. “Staar je als financiële instelling niet blind op het mogelijke financiële rendement van AI, ook al kan die aantrekkelijk zijn”, zegt Masut. “Stel kritische vragen, laat weten dat je naar meer op zoek bent dan alleen financieel rendement en stel ook eisen op dat gebied.”

De tweede is engagement, ofwel in gesprek gaan met bedrijven en hen op verschillende manieren overtuigen om positieve impact te maken. Het is belangrijk dat financiële instellingen dit doen én er gezamenlijk in optrekken, stelt Olofsen: “Als Triodos Bank signaleren we regelmatig dat we verantwoordelijk en ethisch gebruik van AI belangrijk vinden. Maar als tientallen financiële instellingen die boodschap delen, is de impact vele malen groter. Samen staan we sterker. Ook dat gebeurt al: samen met 50 institutionele beleggers zijn we aangesloten bij de Collective Impact Coalition for Ethical Artificial Intelligence van de World Benchmarking Alliance.”

Naar buiten treden

Masut merkt dat steeds meer financiële instellingen met het onderwerp aan de slag gaan en er beleid op formuleren, maar dat gebeurt vooral nog achter gesloten deuren. Maar het is juist belangrijk dat financiële instellingen van zich laten horen, stelt ze: “Wees kritisch, stel grenzen en treed daar ook mee naar buiten. AI heeft de kracht om onze maatschappij te veranderen, zowel positief als negatief. Het is essentieel dat ook financiële instellingen hun verantwoordelijkheid pakken op dit belangrijke onderwerp.”