Bestuurlijke beheersing van kunstmatige intelligentie

De heer Welters gaf aan dat een pensioenfonds of een vermogensbeheerder beleid moet maken over kunstmatige intelligentie als het gebruik ervan in de organisatie “materieel” is. Hij ziet dat zijn cliënten nu nog vooral veel experimenteren met toepassingen van kunstmatige intelligentie zoals bij pensioencommunicatie en klantencontact.

Voor het maken van beleid wees de heer Welters op de Engelstalige publicatie van De Nederlandsche Bank (DNB) over gebruik van kunstmatige intelligentie in de financiële sector. DNB reikt principes aan voor het maken van beleid:

Soundness- Deugdelijkheid: AI-toepassingen moeten betrouwbaar en nauwkeurig zijn, zich voorspelbaar gedragen en opereren binnen de grenzen van de toepasselijke wet- en regelgeving.

Acountability - Verantwoordingsplicht: financiële ondernemingen moeten ondubbelzinnig aantonen dat zij hun verantwoordelijkheid voor AI-toepassingen begrijpen en dat zij de verantwoordingsplicht hebben geoperationaliseerd 

Fairness - Billijkheid: het vertrouwen van de samenleving dat AI-toepassingen – individueel of collectief – bepaalde groepen klanten niet onbedoeld benadelen.

Ethics - Ethiek: financiële ondernemingen moeten ervoor zorgen dat de resultaten van AI-toepassingen niet in strijd zijn met de ethische normen van de onderneming

Skills - Vaardigheden: van de werkvloer tot de directiekamer is een voldoende inzicht in de sterke en zwakke punten van de AI-systemen van de organisatie van vitaal belang.

Transparency- Transparantie: financiële ondernemingen moeten kunnen uitleggen hoe zij AI gebruiken in hun bedrijfsprocessen en hoe deze toepassingen werken.

Richtlijnen voor Beleid staan in de volgende documenten waarnaar de heer Welters verwees:

NOREA Guiding PrinciplesTrustworthy AI Investigations

DNB-richtlijnen voor gebruik kunstamtaige intelligentie (Engels)

Een nuchtere blik op kunstmatige intelligentie

Kunstmatige intelligentie is vooral in het nieuws met ChatGPT en autonome auto's. Maar wat kan kunstmatige intelligentie precies, en wat zijn de beperkingen?

De heer Van Ette gaf een korte toelichting op de geschiedenis van kunstmatige intelligentie sinds de jaren 50 van de 20^ste eeuw. Hij benadrukte dat er naast de technologische kant een belangrijk ethisch aspect zit aan kunstmatige intelligentie. Deze ontwikkeling kan worden ingezet voor goede zaken, maar ook voor kwade. Op de risico’s van dat laatste moeten landen en organisaties zich voorbereiden.

Kunstmatige intelligtentie en de toekomst van vermogensbeheer

De heer Crossley besprak de ontwikkeling van kunstmatige intelligentie voor vermogensbeheer. Pensionfondsen en vermogensbeheerders delen hetzelfde onderwerp en dat is dat de omgeving verandert en dat de verwachtingen van klanten veranderen.

Dankzij patroonherkenning in kunstmatige intelligentie zijn er al trends zichtbaar:

Pensioenfondsen zullen zien dat verschillende generaties verschillende financiële behoeften hebben. Jongere generaties hebben minder vertrouwen in actief vermogensbeheer dan oudere. Zij zullen meer passief belegd vermogen laten beheren.

Meer waarde wordt toegevoegd via private markten dan via beurgenoteerde. Dit leidt tot meer alternatieve manieren van bedrijfsfinanciering en belegging.

De ontwikkeling van kunstmatige intelligentie gaat zo snel dat de rekenkracht van computers iedere 3,5 maanden verdubbelt. Dit leidt tot een grotere waardetoevoeging door kunstmatige intelligentie, en niet tot lagere kosten voor pensioenfondsen.

Investeren in veiligheid

Veiligheid is een randvoorwaarde voor alle andere maatschappelijke kwesties, waaronder belangrijke onderwerpen als klimaatverandering en biodiversiteit.

Admiraal Bauer sprak met de deelnemers over de veiligheidssituatie in de wereld. Hieronder volgt de letterlijke weergave van zijn presentatie.

Deze week kreeg ik als Defensiemedewerker een bericht van het ABP met als titel: "Nieuw beleggingsbeleid voor een veranderende wereld".

Ik heb het met grote interesse en stijgende verbazing gelezen.

Met name de zin: "Klimaat en biodiversiteit zien we als de belangrijkste thema's waarop de samenleving en de economie veranderen."

Die zin doet wat mij betreft geen recht aan wat er speelt in de wereld.

Er zijn nog nooit zoveel conflicten geweest als nu.
De Verenigde Naties hebben aangegeven dat de wereld in een nieuw tijdperk van geweld is aanbeland.Voor de NAVO betekent dit:een nieuw tijdperk van collectieve verdediging.

De afgelopen maanden hebben verschillende politieke en militaire leiders (waaronder ikzelf) zich uitgesproken over het voorbereiden op oorlog.Niet omdat we oorlog WILLEN. Maar omdat er een reële kans is dat ook wij betrokken raken bij een oorlog.

De NAVO is een defensieve organisatie, dus wij zullen nooit een ander land aanvallen of zelfs maar bedreigen.Maar het feit dat wij geloven in vrede, wil niet zeggen dat onze tegenstanders dat ook doen. We hoeven maar naar Oekraïne te kijken om te zien: het ondenkbare kan gebeuren. Op het militaire niveau is die realisatie in 2017 en 2018 ingedaald.Op het politieke niveau in 2022.En nu moet die realisatie indalen in de gehele maatschappij.Zeker ook bij investeerders.

Zoals Politico deze week terecht schreef: the peace dividend is dead.En hoe sneller we ons dat realiseren, hoe beter.

Binnen de EU is de realisatie deels doorgedrongen dat er meer moet worden geïnvesteerd.Goed voorbeeld is het nieuwe investeringsplan van de Europese Commissie dat deze week werd gepresenteerd. Maar hoewel de defensie-industrie uit het verdomhoekje is gehaald, wordt het nog onvoldoende gezien als "duurzaam"..Want: wapens zijn slecht. En we houden niet van oorlog.

Ik hou ook niet van oorlog. Net zomin als een brandweerman van brand houdt. Of een dokter van ziekte.

Maar oorlog is een fact of life. En als je je er niet op voorbereidt: a fact of death.

Een deel van de oplossing ligt dus bij diegenen die vaststellen wat onder de duurzaamheidsdoelstellingen valt: de taxonomie.Ik hoop van harte dat die mensen zich realiseren dat een triple A-status in 1 klap weg is, als we in een conflict verwikkeld raken.

De ESG-doelen zijn nooit bedoeld om ons ervan te weerhouden om onszelf te verdedigen.Ik zou niet weten wat er onethisch is aan zelfverdediging. Ze zijn opgezet om investeerders ertoe te bewegen om naar de lange termijn te kijken.Niet naar wat NU goed nieuws is voor aandeelhouders.Maar naar oplossingen die ons ALLEMAAL verder helpen op de lange termijn. Om in een wereld van het "ik" te denken aan de wereld van het "wij".Investeren in afschrikking, het voorkomen van een conflict, valt ruimschoots onder dat beginsel. Evenals zelfverdediging.

En het zou mij dan ook niet verbazen als defensie uiteindelijk onder de S van ESG gaat vallen.

Mijn zorg is: gaat het snel genoeg? Zijn we op tijd?

Daarover gesproken: een ander deel van de oplossing ligt bij de industrie zelf, die niet rücksichtslos de prijzen omhoog moet gooien en de levertijden naar rechts...

... maar juist moet investeren in een grotere productiecapaciteit.

Ook zij beroepen zich nog teveel op een gebrek aan een long term demand signal. Ik denk dat eenieder die de krant leest, niet ver hoeft te zoeken naar de long term demand signal. Zoals ik zei: er zijn nog nooit zoveel conflicten geweest als nu.
Anderzijds begrijp ik het punt van de industrie: ook zij hebben geleden onder 30 jaar bezuinigingen.
30 jaar voor een dubbeltje op de eerste rij willen zitten. Dus moet ook de overheid zelf haar aanpak veranderen: grotere contracten, voor langere tijd. Waarbij materieel en munitie worden aangeschaft dat in lijn is met NAVO-standaarden.Dit laatste maakt het makkelijker om gezamenlijk aan te schaffen, met meerdere bondgenoten.

Dat betekent: nog grotere orders, en nog meer incentive om de productiecapaciteit te vergroten.Ook moet de overheid haar aanbestedingsprocedures versoepelen.We zijn op dit moment nog teveel verwikkeld in een wederzijdse wurggreep tussen publiek en privaat...

... waarbij de een op de ander wacht om als eerste te bewegen. Waarbij de private kant nog teveel kijkt naar korte termijn financiële belangen.En de publieke kant zich steeds verder vastzet in een moeras van bureaucratie.

Als we doorgaan zoals we nu bezig zijn, polderen we onszelf de oorlog in.

En zijn we niet voldoende voorbereid.

We hebben 30 jaar lang in een tijdperk geleefd waarin alles planbaar was.Controleerbaar.Gericht op efficiency: just in time, just enough.

Dat tijdperk is voorbij.We hebben veel grotere daadkracht en veel grotere voorraden nodig. Zoals we hebben kunnen zien in de corona-pandemie: voorraden redden levens. En hoe duister de wereld ook is, er is ook reden voor optimisme. En voor hoop.

Laten we niet in de pessimistische valkuil trappen dat we hier zelf geen invloed op zouden hebben.

De NAVO-bondgenoten vertegenwoordigen 50 procent van de militaire macht en 50 procent van de economische macht in de wereld. Wij hebben het in ons om het tij te keren. Om onze aanpak te veranderen. En ook al gaat dat wat langzamer dan bij onze autocratische tegenstanders... het gaat bij ons uiteindelijk beter.

Onze systemen zijn slimmer. Robuuster. En sterker.

Om de simpele reden dat ze gebaseerd zijn op vrijheid. Op zelfbeschikking.Op overtuiging, niet op dwang.

Dat gegeven maakt dat wij al vele decennia vrede en welvaart voor onze mensen hebben kunnen creëren.

Er kan veel meer dan wij denken.

In Denemarken hebben de pensioenfondsen in overleg met de overheid 5 miljard geïnvesteerd om voor de komende 25 jaar de krijgsmacht van fregatten te voorzien. 

Ik kijk reikhalzend uit naar het eerste bericht over zo'n initiatief in Nederland.

Dat is niet alleen een letterlijke, maar ook een figuurlijke investering in onze veiligheid.

Wat de NAVO betreft kunnen dit soort initiatieven niet snel genoeg van de grond komen.

Tijd is niet langer onze vriend. Maar we hebben het in ons om het tij te keren.

En daarmee ga ik nu graag over tot het gesprek met u.

Sociale impactobligaties

Mevrouw Veltmeijer startte haar presentatie met een korte uitleg over de sociale taxonomie zoals die wordt ontwikkeld door de Europese Commissie. Daarna ging ze in hoe pensioenfondsen sociaal kunnen beleggen, als onderdeel van hun ESG-beleid  of ESG-beleggingen.

De Europese Commissie startte met de ontwikkeling van de sociale taxonomie die bepaalt welke activiteiten worden gezien als “sociaal”. Daarmee worden beleggingen in die activciteiten beschouwd als “duurzaam”. Criteria zijn bepaalde processen bij bedrijven, zoals of werknemers een vakbond mogen starten of er zich bij aansluiten, en of de producten bijdragen aan maatschappelijke basisvoorzieningen zoals elektriciteit of zorg. Aan beide criteria moet worden voldaan.

Deze criteria zijn kwalitatief van aard en moeilijk te vatten in getallen. Dit is één van de redenen waarom de sociale taxonomie in de ijskast staat. Maar pensioenfondsen kunnen beleggen in sociale impact obligaties als onderdeel van hun ESG-beleid. Deze obligaties worden uitegegevn door overheden, niet door bedrijven. Het gaat om obligaties bijvoorbeeld ter stimulering van werkgelegenheid of voor sociale woningbouw.  Beleggers monitoren de sociale impact die wordt gerealiseerd. De obligaties worden beoordeeld volgens de ICMA Social Bond Principles. 

Door de hoge vraag naar deze sociale impact obligaties is de prijs ervan gestegen. Maar ook in de secundaire markten behouden deze obligaties de hogere prijs.  

Mevrouw Veltmeijer eindigde de presentatie met een aantal voorbeelden van succesvolle impactobligaties waarin Triodos IM voor onder meer pensioenfondsen belegt.