OpenAI

Steun voor onderzoek naar AI en de veiligheid van kinderen

OpenAI zegt 2 miljoen dollar toe als onderdeel van een wereldwijde inspanning om de impact van AI op kinderen beter te begrijpen en hun veiligheid en welzijn te bevorderen.

Eerder deze week ondertekende OpenAI tijdens het Paris Peace Forum het Handvest voor veiligere AI voor kinderen⁠(opent in een nieuw venster) en zegde het 2 miljoen dollar toe ter ondersteuning van het wetenschappelijke onderzoeksnetwerk van de Coalitie voor kinderrechten en bescherming in het AI-tijdperk.

Dit bouwt voort op onze oproep tot wereldwijde normen voor veilige AI voor jongeren en op de voortdurende samenwerking tussen overheden, onderzoekers, maatschappelijke organisaties en het bedrijfsleven om gedeelde onderzoeksinzichten te vertalen naar praktische veiligheidsmaatregelen.

Onze bijdrage ondersteunt de gezamenlijke ontwikkeling van meetinstrumenten waarmee onderzoekers de risico's en kansen van AI voor kinderen beter kunnen begrijpen en meten. Die inzichten helpen bij het ontwikkelen van veiligere producten en beter beleid.

Het handvest legt gezamenlijke principes vast voor veilige, leeftijdsgeschikte AI, samen met een onderzoeksprogramma en waarborgen voor de onafhankelijkheid daarvan. Onderzoeksteams behouden de zeggenschap over hun conclusies. De bevindingen worden gepubliceerd, ook als de resultaten negatief zijn of geen uitsluitsel geven.

Dit onderzoek helpt de wetenschappelijke basis te leggen die nodig is om de voordelen van AI voor jongeren te bevorderen en tegelijkertijd de risico's voor hun veiligheid en ontwikkeling aan te pakken. Het bouwt voort op onze steun voor brede wetgeving rond AI-veiligheid voor jongeren, die sterke, afdwingbare bescherming biedt en tegelijk de toegang behoudt tot tools waarmee zij kunnen leren, hun creativiteit kunnen uiten en kansen kunnen benutten. Dergelijke kaders moeten onder meer voorzien in standaard ingeschakelde, leeftijdsgeschikte veiligheidsmaatregelen, tools voor ouders, regelmatige risicobeoordelingen en risicobeperking, en duidelijke verantwoordingsplichten. We kijken ernaar uit om met Europese beleidsmakers in gesprek te gaan tijdens de ontwikkeling van de EU Kids Act, en met partners over de hele wereld te werken aan betere bescherming en meer kansen voor jongeren.

Auteurs

OpenAI