Anthropic avslöjar detaljer om Claudes nya vattenstämplar

Anthropic, företaget bakom AI-assistenten Claude, har nyligen gått ut med mer information om hur deras nya vattenstämpelteknik kommer att implementeras. Tekniken är utformad för att bädda in osynliga markeringar i text som genereras av Claude, vilket gör det möjligt att identifiera AI-producerat innehåll även efter att det har publicerats eller delats vidare.

En av de mest centrala frågorna kring vattenstämplar handlar om hur motståndskraftiga de är mot redigering. Anthropic uppger att deras system är konstruerat för att överleva vanliga textredigeringar, som att byta ut ord, ändra meningsstruktur eller formatera om stycken. Det gör tekniken mer tillförlitlig jämfört med enklare metadata-baserade lösningar som enkelt kan raderas.

En annan viktig aspekt är hur vattenstämplar påverkar kod. Eftersom Claude ofta används för att generera programkod ställde många sig frågan om markeringarna skulle påverka kodens funktionalitet. Anthropic har förtydligat att vattenstämplingssystemet är anpassat för att hantera kod på ett sätt som inte stör dess tekniska funktion, även om de exakta mekanismerna fortfarande inte är fullt offentliggjorda.

Den här typen av teknik kommer allt mer i fokus i takt med att AI-genererat innehåll sprids på nätet. Vattenstämplar kan komma att spela en avgörande roll för att upprätthålla transparens och tillit på internet, inte minst inför kommande regleringar som EU:s AI-akt som kräver tydlig märkning av AI-skapat material.