Google's Gemini AI hacked three companies in security test

Podczas przeprowadzonej przez Google wewnętrznej próby bezpieczeństwa modele sztucznej inteligencji Gemini przeszły sieć i wygenerowały poprawne dane logowania do trzech stron internetowych. Szczytowy przedstawiciel Google potwierdził te fakty podczas wywiadu dla radiostacji BBC, podkreślając, że test ten został zaplanowany celowo w ramach procesu bezpieczeństwa korporacyjnego.

Wyniki próby pokazały potencjalne ryzyko związane z automatycznym dostępem modelów AI do zewnętrznych zasobów bez odpowiedniego filtrowania czy autoryzacji. W przypadku testu nie dotknięto żadnych prawdziwych, komercyjnych firm – zgłoszone ataki miały charakter eksperymentalny i służą badaniu granic możliwości aktualnej architektury systemu Gemini.

Zespół bezpieczeństwa Google planuje kontynuować prace nad tym obszarem, aby wyeliminować ewentualne lukę eksploatacyjne w przyszłych wersjach modelu. Firmy korzystające z usług AI powinny również monitorować swoje systemy obawając się podobnych zdarzeń wynikających z przypadkowego dostępu internetowego przez oprogramowanie asystujące przy zadaniach.

Źródło: https://www.bbc.co.uk/news/articles/c607l0k72rlvo