Beide bedrijven verwachten de komende vijf jaar ieder minimaal 1 miljard dollar in AI-veiligheid te investeren
Accenture en Anthropic richten een team van specialisten op dat bij Anthropic AI-modellen op veiligheid gaat testen. Het team werkt samen met de interne teams en veiligheidspartners van Anthropic om modellen te beoordelen en hun veiligheidsmaatregelen te testen.
Beide bedrijven verwachten de komende vijf jaar ieder minimaal 1 miljard dollar te investeren in AI-veiligheid.
De specialisten werken bij Anthropic als zogenoemde embedded evaluators. Zij proberen zwakke plekken en onveilig gedrag in de modellen aan het licht te brengen, een werkwijze die red teaming heet. Daarnaast toetsen zij of modellen zich gedragen volgens de beoogde doelen en waarden. Ook testen zij de ingebouwde veiligheidsmaatregelen.
Wie AI inzet in bedrijfsprocessen, moet weten hoe die systemen zich in de praktijk gedragen”, zegt Nicole van Det, CEO van Accenture Nederland en Nordics. “Dat vraagt om meer dan technische tests. Je moet begrijpen hoe mensen AI in hun dagelijkse werk gebruiken en wat er gebeurt als technologie en praktijk samenkomen.
Accenture zet zijn kennis van verantwoorde AI in, waarin het al tientallen jaren investeert. Het bedrijf brengt expertise in AI, beveiliging en verschillende sectoren samen. Via de overname van AI-bedrijf Faculty beschikt Accenture ook over specialistische technische kennis en ervaring met AI-veiligheid.
Faculty test en beoordeelt modellen voor AI-laboratoria en ontwikkelt complexe AI-systemen waarin veiligheid en ethische uitgangspunten vanaf het ontwerp zijn meegenomen. Het bedrijf werkt voor overheden en in defensie, gezondheidszorg en infrastructuur. Tijdens de coronapandemie ontwikkelde Faculty een vroegtijdig waarschuwingssysteem voor de Britse gezondheidsdienst NHS.
Accenture ziet evaluatie door specialisten die binnen een AI-bedrijf werken als een terrein dat nog in ontwikkeling is. Het bedrijf wil die ontwikkeling samen met Anthropic versnellen en verwacht dat deze werkwijze een belangrijke rol gaat spelen in AI-veiligheid.
“Veiligheid moet bij AI in het ontwerp zitten en mag niet van toeval afhangen”, zegt Marc Warner, chief technology officer van Accenture en CEO van Faculty. “Die overtuiging ligt aan de basis van Faculty en van ons werk voor overheden, defensieorganisaties en zorginstellingen wereldwijd. Dit werk bij Anthropic sluit aan bij waarvoor Faculty is opgericht. Als onderdeel van Accenture kunnen we het uitvoeren op een schaal waarmee we de sector daadwerkelijk kunnen veranderen.”