Onderzoek naar toezicht op gebruik artificiële intelligentie (AI)

30-06-2020

Agentschap Telecom heeft een analyse laten uitvoeren naar het (toekomstige) gebruik van AI in de telecomsector en de kansen en risico’s die daaraan verbonden zijn. Uit het onderzoek van Dialogic blijkt dat het gebruik van AI – ofwel kunstmatige intelligentie - sterk zal toenemen. En dat die toename nog versneld wordt met de komst van 5G. Het onderzoeksrapport geeft richting aan de invulling van het toezicht op AI, nu en in de toekomst. Allereerst voor de telecomsector, maar mogelijk ook voor andere sectoren waarin AI steeds meer wordt toegepast, zoals transport & logistiek, energie en zorg. Agentschap Telecom werkt daarom op dit onderwerp samen met andere toezichthouders.

Onderzoek naar AI: kansen en risico’s in balans

Uit de analyse, die is uitgevoerd door onderzoeks- en adviesbureau Dialogic, blijkt dat we niet meer om AI heen kunnen. Het wordt al volop toegepast in de snel digitaliserende telecomsector en dat zal, mede door 5G, naar verwachting snel toenemen. AI kan functies uitvoeren die we normaliter associëren met het menselijk brein, zoals het oplossen van problemen en het herkennen van emoties, door het gebruik van slimme algoritmes. Eigenlijk automatiseert AI menselijke denkkracht. Naast onmiskenbare voordelen voor efficiëntie en innovatie - denk aan zelfrijdende auto’s en zorgrobots - brengt dit ook nieuwe risico’s met zich mee: zo kunnen AI-systemen gevoelig zijn voor datamanipulatie. Ook is er bij gebruik van meerdere AI-componenten in grote systemen, zoals een telecomnetwerk, kans op keteneffecten. Een fout in een AI-systeem kan daardoor doorwerken naar een ander AI-systeem. Dialogic heeft in haar rapport een risicomodel uitgewerkt voor het toezicht op AI. Dit model kan Agentschap Telecom helpen om risico’s voortijdig in beeld te brengen en in te dammen. Want wanneer AI op een veilige manier toegepast wordt, kan de maatschappij enorm profiteren van de kansen en voordelen. Het rapport geeft een aantal adviezen op het gebied van voorlichting en bewustwording, het vereisen van transparantie, het faciliteren van risicoanalyse en -vermindering en het ontwikkelen van standaarden. Met dit laatste is het Agentschap Telecom zowel nationaal als internationaal al bezig.

Samenwerking

Kunstmatige intelligentie wordt niet alleen in de telecom, maar ook in andere sectoren steeds meer toegepast: in de landbouw (kwaliteitsbewaking gewassen), de energiesector (slim balanceren van fossiele- en duurzame energiebronnen) en de medische wereld (nauwkeurig analyseren van röntgenfoto’s). De specifieke risico’s zijn overal anders, maar het voorgestelde risicomodel van Dialogic kan ook als basis dienen voor andere sectoren. Dat geldt eveneens voor de in het rapport beschreven generieke gevolgen van het gebruik van AI. Zaken als beschikbaarheid, betrouwbaarheid en integriteit van data en infrastructuur zijn overal essentieel en vragen aandacht van diverse toezichthouders.
Wereldwijd staat de concrete invulling van het toezicht op AI nog in de kinderschoenen. Ook in ons land. De analyse van Dialogic laat zien dat overleg tussen toezichthouders essentieel is om de samenleving het vertrouwen te blijven geven in het veilig gebruik van AI. Agentschap Telecom neemt als autoriteit en toezichthouder in het digitale domein graag het voortouw in deze samenwerking.

Rapport Dialogic: Gebruik van en toezicht op AI-toepassingen in telecominfrastructuren


bron: Agentschap Telecom

Van onze partners

Wwft cursussen

→ Lees meer

Toezicht en handhaving door AFM en DNB

→ Lees meer

Financieel toezicht in vogelvlucht

→ Lees meer

Nieuwsbrief

Blijf op de hoogte van het laatste nieuws over privacy, cybersecurity en data. Abonneer op onze gratis nieuwsbrief.

Abonneer