Reddit kan blockera Google från att crawla sajten

Reddit
Foto: Brett Jordan, Unsplash

Reddit är missnöjda med hur Google crawlar deras sajt för att hitta och visa resultat i sökmotorn. Och enligt uppgifter inifrån Reddit så kan sajten gå så långt som att hindra Google från att komma åt deras sidor. Ett drastiskt drag som få sajter, stora som små, har vågat sig på tidigare.

Det finns flera anledningar till varför Reddit potentiellt gräver fram stridsyxan just nu. Sajten är pressad från flera håll där inte bara Google, utan även många andra bolag aktivt söker igenom Reddit för att använda innehållet till att stärka sina egna tjänster.

Reddit används för att träna AI-modeller

Exempel på det är AI-bolag som använder Reddit-data för att träna nya modeller. Något som Reddit inte är alls glada över eftersom de inte får något för det. Och kritiken mot tilltaget kan vara så stort internt att Reddit helt enkelt kapar dataströmmen helt.

Hur de kan göra det undrar du kanske? Svaret är: alla som vill se vad som finns på Reddit.com måste logga in som användare. Drastiskt, men inte omöjligt.

Problemet? Det stoppar inte bara AI-crawlers utan även Google och Bing. Du kan helt enkelt inte hitta information från Reddit på de två största sökmotorerna – om sajten gör slag i saken och lägger in sin blockad.

Reddit kan stänga ute sökmotorerna

Huruvida Reddit klarar sig själv, utan hjälp från Google och Bing återstår att se. Det är inte troligt att de vågar sig på en så hård blockad, men om det inte finns något annat sätt att stoppa så kallad ”scraping” så kanske ”site:reddit.com” slutar att fungera inom en överskådlig framtid.

Personligen använder jag Reddit dagligen för att hitta information. Det är en fantastisk datakälla och tricket att söka med site:reddit.com har hjälpt mig att spara enormt mycket tid genom åren. Det vore mycket tråkigt om de stängde den dörren.

Via BoingBoing och The Verge

Mikael Anderberg är en veteran inom teknikvärlden med stor kännedom kring tillverkare, nya tekniker och produkter. Har mångårig erfarenhet från blogg- och it-världen vilken bidrar till utvecklingen av Tekniksmart tillsammans med andra entusiaster. Mikael har i grunden expertis inom fotografering och kamerautrustning, copywriter och content editing, och SEO. Läs mer om mig här.