EU: AI-systemen moeten op een transparante en verantwoorde manier worden gebouwd en ingezet

De Europese Unie heeft vandaag officieel een reeks richtsnoeren uitgegeven over hoe zowel bedrijven als overheden moeten volgen bij het ontwikkelen en inzetten van hun kunstmatige-intelligentieprojecten, zodat deze werkelijk transparant, eerlijk en ‘ethisch’ zijn.

• 91% van de technologiemanagers gelooft dat AI de kern zal vormen van de volgende technologische revolutie

Dit doet me plotseling denken aan een wet genaamd Three Laws of Robotics, genoemd door de Russische schrijver Isaac Asimov in de verhalenbundel ‘Runaround’ die hij in 1942 componeerde, zoiets als de eerste: een robot mag mensen geen kwaad doen of gevaren negeren die mensen gezicht. Artikel 2: Een robot moet de bevelen van mensen absoluut gehoorzamen, tenzij deze bevelen in strijd zijn met de eerste wet. En ten derde: een robot moet zichzelf beschermen, op voorwaarde dat deze bescherming niet in strijd is met de eerste en tweede wet. Hoewel dit slechts een reeks 'fictie'-regels is die bijna 80 jaar geleden verschenen, is het nog steeds bijzonder actueel nu mensen geleidelijk het huidige tijdperk van kunstmatige intelligentie betreden. Natuurlijk zal de nieuwe reeks regels die de EU uitvaardigt niet fundamenteel hetzelfde zijn als Isaac Asimovs ‘Drie Wetten van de Robotica’-wet. Europese wetgevers kunnen geen flexibel ethisch raamwerk bieden dat ons kan helpen bij het navigeren door grote zaken als het stoppen van moordende robots. In plaats daarvan helpen de EU-richtsnoeren bij het aanpakken van ‘duistere en alomtegenwoordige’ problemen die een negatieve impact hebben op de samenleving, aangezien we AI integreren in veel belangrijke gebieden van ons leven, zoals de gezondheidszorg, het onderwijs en de consumententechnologie.

• Facebook AI-ingenieur vertelt over deep learning, nieuwe programmeertalen en hardware voor kunstmatige intelligentie

Als een eenvoudig voorbeeld: als een medisch AI-systeem de diagnose stelt van een persoon met een hoog risico om in de toekomst kanker te ontwikkelen, zullen de EU-richtlijnen ertoe bijdragen dat een aantal van de volgende zaken moet worden gedaan: De software is niet bevooroordeeld of beïnvloed door de mening van de patiënt ras of geslacht, en tegelijkertijd de duidelijkste en meest transparante informatie geven over hun medische toestand, en mogen ze vooral de beslissingen van de patiënt niet verstoren of hinderen.

Dus ja, deze richtlijnen zijn vooral gericht op het beperken en controleren van de goede werking van AI-modellen, maar alleen op administratief en bureaucratisch niveau, in plaats van het voorkomen van moordpartijen volgens de verbeelding van schrijver Asimov.

• [Infographic] Toekomstige banen wanneer kunstmatige intelligentie geleidelijk de mens vervangt

Om deze reeks richtsnoeren te produceren moest de EU een groep van 52 deskundigen bijeenroepen, met de vraag om zeven eisen te bespreken, goed te keuren en te bedenken waaraan toekomstige AI-systemen volgens hen zouden moeten kunnen voldoen. Deze vereisten zijn als volgt:

1. Het uiteindelijke vermogen om te monitoren en beslissingen te nemen moet nog steeds in de handen van de mens zijn: AI mag de menselijke autonomie en zelfbeschikking niet, of beter gezegd, ‘vertrappelen’. Omgekeerd mogen mensen niet worden gemanipuleerd of gedwongen door AI-systemen. Mensen moeten immers de mogelijkheid hebben om in te grijpen of toezicht te houden op elke beslissing die AI-software in noodzakelijke situaties neemt.
2. Nauwkeurige, veilige en veilige inzettechnieken: Elk AI-model moet, wanneer het wordt ingezet, zowel op laboratoriumschaal als in werkelijkheid, twee factoren garanderen: veiligheid en nauwkeurigheid, namelijk: Vereisten. Met andere woorden: AI-software mag niet gemakkelijk worden gecompromitteerd en overgenomen door aanvallen van buitenaf, en elke beslissing die wordt genomen moet op de meest redelijke manier absoluut betrouwbaar zijn.
3. Zorgen voor privacy en gegevensbeheer: Persoonlijke gegevens die door AI-systemen worden verzameld, moeten goed beveiligd en volledig privé zijn. Deze gegevens mogen door geen enkele actor openbaar worden gemaakt of geopend en kunnen niet gemakkelijk worden gestolen of verloren gaan.
4. Zorgen voor transparantie: De gegevens en algoritmen die worden gebruikt om een ​​AI-systeem te creëren, moeten toegankelijk zijn, en de beslissingen die door de software worden genomen, moeten ook duidelijk worden gepresenteerd en uitgelegd. Met andere woorden: operators moeten de beslissingen die hun AI-systemen nemen op een concrete en logische manier kunnen uitleggen.
5. Zorg voor diversiteit, non-discriminatie en eerlijkheid: door AI aangedreven diensten moeten voor iedereen beschikbaar zijn, ongeacht leeftijd, geslacht, ras of andere kenmerken. Tegelijkertijd mogen de beslissingen die AI neemt niet gericht zijn op kenmerken of objecten.
6. Positieve ecologische en sociale impact: AI-systemen moeten duurzaam worden ingezet en ontwikkeld (d.w.z. ze moeten ecologisch verantwoord zijn) en bijdragen aan positieve sociale verandering.
7. Verantwoordelijkheid: AI-systemen moeten worden gecontroleerd en beschermd door bestaande waarborgen. Met andere woorden: de eventuele negatieve impact van het systeem moet eerlijk worden erkend, en exploitanten moeten verantwoordelijk worden gehouden voor de negatieve impact die hun AI-systemen veroorzaken.

U zult waarschijnlijk merken dat sommige van de bovenstaande beweringen nogal abstract zijn en moeilijk in objectieve zin te beoordelen zijn (de definitie van positieve sociale verandering die AI met zich meebrengt zal bijvoorbeeld sterk variëren van persoon tot persoon, en breder, tussen landen). ). De meeste overige zaken zijn echter over het algemeen eenvoudiger en kunnen door toezicht van de autoriteiten worden gecontroleerd en gegarandeerd. Het delen van gegevens die worden gebruikt om AI-systemen van de overheid te trainen zou bijvoorbeeld een goede manier kunnen zijn om bevooroordeelde, ondoorzichtige algoritmen te bestrijden.

• [Infographic] Voordelen en gevaren van kunstmatige intelligentie

De bepalingen van deze EU-richtsnoeren zijn duidelijk niet juridisch bindend, maar ze kunnen worden gebruikt om vorm te geven aan toekomstige wetgeving die door de Europese Unie wordt opgesteld en die betrekking heeft op het gebied van AI. In het verleden heeft de EU herhaaldelijk gezegd dat zij van Europa een pionier in de wereld wil maken bij het inzetten van “ethische” AI-modellen, en de lancering van een reeks begeleidende documenten. Dit laat duidelijk zien dat zij bereid zijn om verreikende wetten op te stellen het reguleren en beschermen van digitale rechten.

De EU wil een AI-industrie vormgeven waarin ethische normen centraal staan

Als onderdeel van de inspanningen om een ​​“ethische” AI-industrie te creëren, zou het EU-richtsnoer kunnen worden gezien als een springplank naar het opstellen van een “vertrouwde AI-beoordelingslijst” – een lijst met termen die experts kunnen helpen eventuele zwakke punten of potentiële gevaren in een AI te vinden. software, zelfs als deze op grote schaal is ingezet. Deze lijst kan vragen bevatten zoals: “Kunt u aantonen hoe uw AI-systeem presteert in complexe situaties en omgevingen?”, of “Kunt u het type en de reikwijdte van de gegevens in uw dataset evalueren?” ...

Uiteraard is deze evaluatielijst slechts voorlopig; de EU zal in de nabije toekomst nog feedback moeten verzamelen van bedrijven en experts op het gebied van kunstmatige intelligentie. Al in 2020 zal de EU een samenvattend rapport over deze kwestie publiceren.

• AI-onderzoekers zijn gestopt met het ontwikkelen van mensachtige machines

Anny Hidvégi, beleidsmanager bij de digitale rechtengroep Access Now en een van de 52 deskundigen die verantwoordelijk zijn voor het opstellen van de EU-richtsnoeren, zei dat de beoordelingslijst het belangrijkste onderdeel was. Het belangrijkste punt van het rapport: "Deze reeks documenten helpt bij het bieden van een praktische toekomstgericht perspectief op hoe de potentiële schade van AI kan worden voorkomen en geminimaliseerd."

“Naar onze mening heeft de EU voldoende potentieel en verantwoordelijkheid om een ​​leidende organisatie in dit werk te worden. Maar daarnaast vinden wij ook dat de Europese Unie niet moet stoppen bij morele principes. Ze zouden moeten overwegen om AI-mijnbouwbedrijven in de toekomst te verplichten om aan de wet te voldoen”, voegde de heer Hidvégi eraan toe.

Anderen zijn sceptisch dat de poging van de EU om vorm te geven aan de manier waarop mondiale AI wordt ontwikkeld door middel van ethisch onderzoek veel effect zal hebben.

“Wij zijn sceptisch over de aanpak van de leidende organisatie van Europa. Het idee dat de EU door het creëren van een gouden standaard voor ethische AI-systemen haar plaats in de ontwikkeling van de mondiale AI-industrie zal kunnen veroveren, is relatief vergezocht. Om een ​​leider te worden in het vormgeven van ethische AI-regels, moet de EU eerst een leider worden op het gebied van AI als geheel”, zegt Eline Ch Pivot, een senior beleidsanalist bij het European Data Innovation Center.

• Een overzicht van belangrijke mijlpalen in de geschiedenis van meer dan 60 jaar ontwikkeling van kunstmatige intelligentie

Wat vindt u van deze kwestie? Laat uw opmerkingen achter in de opmerkingen hieronder!