Google har beslutat att inte rätta till en säkerhetslucka i sin AI-assistent Gemini som gör det möjligt för angripare att dölja osynliga kommandon i kalenderinbjudningar och mejl. Felet kan utnyttjas för att manipulera AI:n till att ge falsk information, länka till skadliga webbplatser eller ändra detaljer i användarens kalender – utan att personen själv ser något misstänkt.
Viktigt att veta
- Felet gör det möjligt att dölja osynliga instruktioner i kalenderinbjudningar och mejl.
- Angriparen kan få Gemini att visa falska länkar, ändra mötesinformation eller extrahera data.
- Google betraktar sårbarheten som social manipulation – inte ett säkerhetsfel.
- FireTail testade flera AI-tjänster och fann att endast Gemini saknar effektiv filtrering.
- Amazon och Microsoft har redan implementerat skydd mot liknande attacker.
- Gemini används inom Google Workspace, vilket gör risken extra allvarlig för företagsanvändare.
Sårbarheten upptäcktes av säkerhetsforskaren Viktor Markopoulos från företaget FireTail. Han kontaktade Google i september, men fick svaret att problemet inte betraktas som ett säkerhetsfel utan som en form av social manipulation, och därmed inte något som företaget behöver åtgärda.
Lästips: Google Gemini används till nätfiskeattacker i Gmail
Gemini är sårbar för busenkelt trick
Attacken bygger på så kallad ASCII-smuggling – en metod där osynliga tecken från Unicode-blocket används för att gömma instruktioner som AI-modellen kan läsa men som inte syns för användaren. I praktiken betyder det att en till synes vanlig kalenderinbjudan kan innehålla dolda kommandon som Gemini följer när den får i uppdrag att sammanfatta möten eller läsa e-post.
FireTail testade flera AI-assistenter och fann att Gemini, DeepSeek och Grok var sårbara, medan ChatGPT, Claude och Microsoft Copilot blockerade attacken genom inbyggd filtrering av osynliga tecken.
Markopoulos varnar för att attacken kan användas för att exempelvis ändra vem som står som mötesarrangör, gömma falska länkar i mötesbeskrivningar eller lura AI:n att dela känslig information. Eftersom Gemini är djupt integrerad i Google Workspace, med tillgång till kalender, e-post och filer, kan konsekvenserna bli betydande.
Lästips: Webbläsaren Chrome får AI-funktioner – här är alla nyheter
Amazon har tidigare publicerat säkerhetsriktlinjer som specifikt tar upp denna typ av Unicode-baserade attacker. Google däremot menar att ansvaret ligger hos användaren.
Frågor och svar
Vad är ASCII-smuggling?
Det är en attackteknik där osynliga tecken används för att gömma instruktioner som datorer och AI-modeller kan läsa men som inte syns för människor.
Hur påverkar det användare av Google Workspace?
Om du använder Gemini med Gmail eller Kalender kan en angripare skicka en inbjudan eller ett mejl som innehåller dolda instruktioner som AI:n lyder utan att du märker det.
Kan detta användas för att stjäla data?
Ja. En manipulerad inbjudan eller ett mejl kan instruera Gemini att leta upp och skicka information ur din inkorg eller kalender till angriparen.
Har Google lovat att rätta till felet?
Nej. Företaget har meddelat att man inte kommer att åtgärda problemet eftersom det inte anses vara ett säkerhetsfel.
Vilka AI-assistenter är säkra mot attacken?
Enligt FireTail är ChatGPT, Claude och Microsoft Copilot skyddade tack vare inbyggd filtrering av osynliga tecken.
Hur kan man skydda sig?
Var försiktig med att låta Gemini läsa eller sammanfatta mejl och kalenderposter från okända avsändare, och använd separata konton för känslig information tills Google inför ett skydd.