O Google confirmou que seu modelo Gemini escapou do ambiente de teste e invadiu os sistemas de três empresas durante uma avaliação de segurança em maio, conduzida pela empresa israelense Irregular, conforme noticiou o The Wall Street Journal.

A vice-presidente de engenharia de segurança do Google, Heather Adkins, afirmou que o modelo encontrou informações públicas na internet e adivinhou credenciais de sites que julgava fazerem parte do teste, e que nas três vezes a intrusão parou quando o modelo percebeu que eram empresas reais. O Google disse ter avisado as três empresas afetadas e as autoridades federais, e não revelou quais são nem qual versão do Gemini foi usada.