Substack har lanserat ett nytt verktyg som hjälper läsare att identifiera om en text helt eller delvis har skapats med hjälp av artificiell intelligens. Funktionen ska öka transparensen på plattformen när AI-genererat innehåll blir allt vanligare i digitala medier.
TL;DR
- Substack lanserar ett verktyg för att upptäcka AI-genererad text i inlägg, anteckningar, svar och kommentarer.
- Verktyget drivs av det externa AI-detektionsföretaget Pangram.
- Läsare kan analysera texter som överstiger 100 ord direkt i gränssnittet.
- Funktionen släpps på webben och iOS, medan Android får tillgång inom kort.
- Skribenter kan använda verktyget på sina egna utkast och förklara sin skaparprocess för läsarna.
- Syftet är att förhindra så kallad ”Claudefishing” och bevara förtroendet mellan läsare och skribenter.
Ny funktion avslöjar AI-genererat innehåll
Substacks nya verktyg gör det möjligt för läsare att få en uppskattning av hur stor del av en text som är skapad eller assisterad av AI.
Funktionen täcker allt från långa artiklar till kortare kommentarer och svar. För att analysera ett inlägg som innehåller mer än 100 ord väljer användaren alternativet ”Scan for AI text” i menyn längst upp till höger på sidan.
Funktionen bygger på teknik från AI-detektionsföretaget Pangram. Den finns tillgänglig via webben samt i iOS-appen, och en lansering för Android-användare väntar inom kort.
Minskat avstånd mellan förväntning och verklighet
Substacks medgrundare och vd, Chris Best, förklarar att integrationen handlar om att öka transparensen på plattformen. Han betonar att problemet inte nödvändigtvis är själva användningen av AI eller kvaliteten på texten.
Utmaningen uppstår när det finns en skevhet mellan läsarens förväntningar och verkligheten, till exempel när någon ägnar tid åt ett innehåll som saknar mänsklig tanke bakom sig. Företeelsen kallas ibland för ”Claudefishing”.
Som ett komplement till detektionsverktyget introducerar Substack även möjligheten för skribenter att lägga till ett meddelande om sin skaparprocess. Skribenter kan scanna sina egna utkast med Pangram innan publicering och har möjlighet att rapportera felaktiga resultat om verktyget gör en felbedömning.
Förtroendet för det skrivna ordet
Verktyget kan enbart identifiera om AI har använts för att skapa själva texten, inte hur mycket mänsklig omsorg som har lagts ner i arbetet eller om AI-verktyg har använts som källmaterial. Målet är ändå att underlätta för läsare att avgöra vad som är värt deras tid.
När läsare måste tveka kring äktheten i det de läser skadar det förtroendet för författarskapet. Det kan i förlängningen hota försörjningen för skribenter, inklusive de som använder AI-verktyg på ett genomtänkt sätt.
Vad betyder ”Claudefishing”?
”Claudefishing” är ett slanguttryck för stunden då du insåg att texten du läser – oavsett om det är en artikel eller ett inlägg i sociala medier – faktiskt är skriven av en AI och inte av en riktig människa.
Uttrycket är en ordlek med ordet ”catfishing”, som innebär att någon skapar en falsk profil på nätet. I det här fallet blir du inte lurad av en annan människa. Istället blir du ”fiskad” för att du förväntade dig en äkta mänsklig tanke eller känsla, men upptäcker att texten i själva verket skapats av en AI-tjänst, som till exempel Anthropic’s Claude.
