AI-tjänsten Gemini läser filer i Google Drive oavsett om du vill det eller inte. Du läste rätt, en AI går igenom dina dokument även om du uttryckligen stället in att den inte ska göra det.
Det var när X-användaren Kevin Bankston noterade hur Gemini summerade ett dokument med skatteinformation och skrev om det som nyheten började ta fart på internet. Kevin skriver att han aldrig gav Gemini åtkomst till dokumentet och när han försökte kolla vad som hänt försökte tjänsten vilseleda honom.
När Kevin hittade inställningarna för hur Gemini får använda dokument visade det sig att kopplingen hade inaktiverats. AI-tjänsten skulle inte ha kunnat läsa skatteinformationen i fråga och absolut inte ha summerat det.
Oklart varför Gemini läste känslig data
Tacksamt nog (skulle man kunna säga) finns inte Gemini för Drive i Sverige riktigt än. Ur ett integritetsperspektiv är det bra för dig och dina filer, men det betyder också att du saknar alla de funktioner som faktiskt är hjälpsamma.
För att stänga av dokumentläsningen när tjänsten släpps i Sverige går du till Google Cloud-inställningarna. Där väljer du datadelning och integritet. Från den vyn finns en inställningen där du slår av eller på Geminis åtkomst till dina filer på Drive och i Googles produktivitetsappar.
Det är förhoppningsvis en bugg i Gemini som gör att integritetsproblemet uppstår. Med lite tur har Google hittat en lösning som gör att den inte längre finns när tjänsten släpps i Sverige.
Om vi har otur har Google aktivt valt att Gemini aktivt ska ignorera inställningen för att tränas på så många dokument som möjligt innan någon hittade problemet och rapporterade om det. Vad som hänt får vi kanske aldrig reda på.